Usos e Abusos do Deep Fake

 

 

Após séculos e séculos e o avanço tecnológico, chegamos na era da pós-modernidade que trouxe consigo uma mudança revolucionária do que até então entendíamos como “identidade” e da “verdade”. Para Hall 1:

 “a identidade está sendo extensamente discutida na teoria social. Em essência, o argumento é o seguinte: as velhas identidades, que por tanto tempo estabilizaram o mundo social, estão em declínio, fazendo surgir novas identidades e fragmentando o indivíduo moderno, até aqui visto como um sujeito unificado. A assim chamada “crise de identidade” é vista como parte de um processo mais amplo de mudança, que está deslocando as estruturas e processos centrais das sociedades modernas e abalando os quadros de referência que davam aos indivíduos uma ancoragem estável no mundo social”

E para além da “crise de identidade” da atualidade, vivemos também uma verdadeira “crise da verdade”, pois está cada dia mais difícil discernir o que é “verdadeiro” daquilo que é “fake”.

Com as mudanças sociais, políticas, econômicas e tecnológicas, a sociedade foi se abrindo ao plural e ao moderno, onde os conceitos outrora muito bem-postos e determinados, precisaram ser revistos e ressignificados e novas abordagens provenientes do bombardeio de informações começaram a desafiar o status quo.

Para Castells2, a teoria e a cultura da pós-modernidade celebraram o fim da razão e representa uma renúncia à capacidade de entender aquilo que não tem sentido, pois as tendências sociais passam a ser compreendidas com base na tecnologia, fazendo com que a sociedade perca as rédeas quanto ao seu destino, tornando-se impotente frente a seus desafios.

A realidade advinda das redes sociais e das plataformas digitais quebraram paradigmas, romperam com a paz social e passaram a exigir de cada um de nós reflexões profundas e rápidas sobre os novos desafios que todo esse bombardeio de informações nos trouxe.

É nesse contexto de profundas mudanças que se destaca a tecnologia do Deepfake que tem impactado de forma significativa todos os setores da sociedade, desafiando os legisladores e autoridades governamentais a buscarem o equilíbrio entre permitir o desenvolvimento e aprimoramento dessa tecnologia e o uso adequado dela de modo a não violar direitos humanos, direitos econômicos de propriedade intelectual e direitos civis da personalidade.

Com todo avanço tecnológico, passou a fazer parte do nosso quotidiano e dos nosso vocabulário “dados pessoais”; “armazenamento”; “compartilhamento”; “fotos de perfil”; “nuvem”; “drives”; “política de cookies” fazendo com que dados pessoais se tornem cada vem menos privados colocando os usuários em situação de vulnerabilidade digital, fazendo com que uma rápida pesquisa no Google revele informações sobre nós mesmos e até fotos disponíveis na web. E a pergunta que nos fazemos: qual barreira tecnológica pode impedir que qualquer pessoa seja vítima do mau uso da Deepfake?

A Deepfake pode ser uma tecnologia muito útil e produtiva para diversos segmentos econômicos, em especial para a indústria do entretenimento como nos mostra artigo publicado na Revista da OMPI, intitulado “Inteligência artificial: os deepfakes na indústria do entretenimento”, vejamos:

Atualmente, as aplicações comerciais do deepfake incluem a contratação de “atores ocultos” de base, sobre cujos corpos serão aplicadas as feições de outras pessoas, assim como de indivíduos cujas feições são usadas como uma “máscara” (isto é, a figura ou aparência física retratada no conteúdo) que é sintetizada à atuação de base. Quando a “máscara” é uma pessoa famosa, a técnica economiza à celebridade horas de trabalho, que de outro modo precisariam ser passadas em um set de imagens – encargo que é transferido ao “ator oculto”. Além disso, a tecnologia possibilita ainda influenciadores criar mensagens personalizadas para centenas de milhares de seguidores, sem que seja preciso efetivamente gravar cada uma delas.

Mas o artigo também destaca que não sabemos ainda se os benefícios são maiores que eventuais prejuízos, pois sendo a tecnologia uma novidade ainda em construção e aprimoramento, essa questão está em aberto e nos faz o seguinte alerta:

Por outro lado, a adoção generalizada dos deepfakes pode tornar dispensáveis atores e modelos pouco conhecidos, gerando desemprego e modificando substancialmente as condições em que o setor contrata artistas para suas produções. Caso a contratação de artistas desconhecidos para as atuações de base – sobre as quais se aplicam as “máscaras” dos que já têm status de celebridade – se mostre mais eficiente e desejável, as chances de que um dia os primeiros sejam “descobertos” ou fiquem conhecidos por sua própria imagem serão mais reduzidas. Isso pode levar à formação de uma casta de “atores ocultos”, com atuação restrita a produções de deepfakes, os quais, sem ter como sair do anonimato, não conseguem monetizar seus nomes e suas imagens.

Os riscos de abusos do uso do Deepfake, não só na indústria do entretenimento,são tão sérios e preocupantes que o Tribunal Superior Eleitoral – TSE editou a Resolução nº 23.732/2024 definindo deepfake como “um conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia3.”

E a preocupação se justifica, pois temos visto nas redes sociais a utilização dessa técnica de inteligência artificial sendo utilizada na produção de vídeos satíricos virais envolvendo figuras públicas como artistas e políticos.

Um conteúdo que é disponibilizado na internet jamais sumirá definitivamente, não há proteção ou garantia alguma que o conteúdo  não sofra réplicas ou seja salvo por alguém. Além disso, mesmo que se utilize mecanismos ultrapassados ou montagens com qualidade ruim, ainda que não aparentem ser 100% verdadeira, qual pessoa estaria disposto a ter seu nome, sua imagem, sua voz, sua honra e prestígio social associado a conteúdos danosos, ainda que sejam falsos? Há um dito popular que nos diz: até provar que focinho de porco não é tomada, o estrago já foi feito.

Há ainda o grave risco de que o emprego dessa tecnologia para fins ilícitos, pode levar a violações de ordem legal, como é o caso dos direitos autorais e conexos de artistas vivos ou mortos ou a produção de fakenews envolvendo personalidades públicas, como políticos, artistas, escritores, jornalistas para fins de desconstrução de destruição de imagem, da honra e do prestígio social da pessoa ou até mesmo visando a prática de crimes de extorsão ou chantagem, impactando na criação ou aprimoramento de golpes virtuais e formas sofisticadas de estelionato.

O mau uso da tecnologia pode produzir até mesmo conteúdo sexual fictício, tendo qualquer pessoa como alvo, seja homem ou mulher, podendo tornar essa tecnologia uma “arma” nas mãos de pessoas mal intencionadas, de caráter duvidoso ou até mesmo para o crime organizado.

Medon nos alerta no sentido de que “as técnicas de reconstrução digital, impactaram consideravelmente não só a estrutura do que se entende por imagem, como, sobretudo, as formas de se causar danos à imagem de uma pessoa, elevando esse potencial lesivo a patamares impensados num passado não muito distante4”.

Saramago, escritor português e vencedor do Prêmio Nobel de Literatura em 1998, escreveu um texto no ano 2000 no qual analisa as fragilidades e impactos da tecnologia na sociedade contemporânea e fez a seguinte reflexão:

As novas tecnologias da comunicação multiplicam de modo excepcional a quantidade de informações disponíveis. Isso é ao mesmo tempo fascinante e inquietante. Fascinante porque se nota que transformações muito positivas, em matéria de educação e formação, estão ao alcance da mão. Inquietante porque tudo isso mostra um mundo sobre o qual pairam as ameaças de desumanização e de manipulação.5

E o Autor tem razão em dizer que as novas tecnologias trazem também inquietação, pois a tecnologia do Deepfake permite a manipulação da para fins pouco ou nada ortodoxos.

Os Deepfakes como criação da inteligência artificial podem trazer significativos ganhos para toda a sociedade, porém ela pode trazer diversos problemas conforme mencionamos em linhas atrás. Problemas de ordem legal quando houver abusos na utilização e quando a mesma for utilizada para alcançar fins ilícitos como violação de direitos autorais e conexos, direitos de imagem e a honra, seja de pessoa viva ou falecida podendo conduzir a sociedade a uma situação de vulnerabilidade e insegurança digital no ciberespaço.

A internet hoje é um recurso tão útil e necessário à vida quanto a água e a energia elétrica e cada vez mais pessoas são expostas a conteúdos nas redes sociais onde diversos assuntos são abordados, tais como: política, religião, lazer, entretenimento, educação, nutrição, saúde, etc. Enfim, uma variedade de assuntos com acesso rápido e imediato que pode fazer pessoas acreditarem em conteúdos que nem sempre expressam a verdade. Conteúdos estes preparados e elaborados, muitas vezes, com a tecnologia Deepfake.

Sabemos da importância da tecnologia para o progresso e desenvolvimento de um país, para promoção do crescimento econômico, redução das desigualdades sociais e melhorias no padrão de vida das pessoas, elevando assim o nosso IDH (índice de desenvolvimento humano), porém não podemos nos esquecer que ao longo da história as tecnologias foram usadas tanto para o bem quanto para o mal. E, por esta razão, coibir abusos e o mau uso da tecnologia do Deefake se mostra como uma tarefa das mais urgentes para o mundo.

 

1 A Identidade cultural na pós-modernidade. Stuart Hall, Tradução Tomaz Tadeu da Silva & Guacira Lopes Louro - Editora Lamparina, Março de 2014,p.9.

2 Castells, M. A sociedade em rede. São Paulo, Paz e Terra. 2015.

3 BRASIL. Resolução nº 23.732/2024 - Tribunal Superior Eleitoral. Disponível em: https://www.tse.jus.br/legislacao/compilada/res/2024/resolucao-no-23-732-de-27-de-fevereiro-de-2024 Acesso em 13.09.2024.

4 Filipe José Medon, Afonso, Direito à imagem na era das deepfakes” disponível em: https://rbdcivil.ibdcivil.org.br/rbdc/article/view/438 Acesso em 11.09.2024

5 José Saramago, “Para que serve a Comunicação” disponível em: https://juhroyal.wordpress.com/2015/03/10/para-que-serve-a-comunicacao-jose-saramago-texto-na-integra-e-comentario-critico/ Acesso em 13.09.2024.