“Gosto muito de Ron DeSantis”, diz umafalsa Hillary Clinton em um vídeo no qual
endossa o governador da Flórida e pré- candidato presidencial republicano. “Ele é
exatamente o tipo de cara que este país precisa”, acrescenta. Outro vídeo mostra um falso Joe Biden fazendo um discurso cruel contra uma pessoa transgênero. “Você nunca será uma mulher de verdade.” Bem-vindos à campanha presidencial americana de 2024, onde a realidade está em jogo.
Os deepfakes de Clinton e Biden – vídeos realistas, porém, criados por algoritmos de inteligência artificial treinados com milhares de imagens online – estão entre os milhares que estão surgindo nas redes sociais, confundindo fato e ficção no mundo polarizado da política dos Estados Unidos.
Embora essa mídia manipulada exista há vários anos, foi turbinada no ano passado por uma série de novas ferramentas de inteligência artificial (IA) “generativa”, como o Midjourney. O programa torna mais barato e fácil o processo de criar deepfakes convincentes, segundo especialistas em áreas como inteligência artificial, desinformação online e ativismo político.
“Será muito difícil para os eleitores distinguir o verdadeiro do falso. E você pode imaginar como os apoiadores de Trump ou de Biden poderão usar essa tecnologia para fazer o oponente parecer mal na fita”, disse Darrell West, do Centro de Inovação Tecnológica do Instituto Brookings.
O ex-presidente Donald Trump, que disputa com DeSantis e outros a indicação do Partido Republicano para enfrentar Biden, compartilhou um vídeo adulterado do âncora da CNN Anderson Cooper no início do mês em sua plataforma de mídia social Truth Social.
“Aquele foi o presidente Donald J. Trump esmagando um novo idiota ao vivo da CNN”, diz a imagem de Cooper no vídeo, embora as palavras não correspondam ao movimento de seus lábios.
A CNN disse que o vídeo é um deepfake. Um representante de Trump não respondeu a um pedido de comentário sobre a publicação, que continuava no Twitter de seu filho Donald Jr. nesta semana.
Houve três vezes mais deepfakes de vídeo de todos os tipos e oito vezes mais deepfakes de voz publicados online neste ano em comparação com o mesmo período em 2022, segundo a DeepMedia, empresa que trabalha com ferramentas para detectar mídia sintética.
No total, cerca de 500 mil deepfakes de vídeo e voz serão compartilhados em sites de mídia social globalmente em 2023, estima a DeepMedia. Até o fim de 2022, a clonagem de uma voz custava US$ 10 mil em gastos com servidor e treinamento de inteligência artificial, mas agora as startups oferecem isso por alguns poucos dólares, segundo a DeepMedia.
A líder da indústria OpenAI, que mudou o jogo nos últimos meses com o lançamento do ChatGPT e o modelo atualizado GPT-4, afirma que está tentando combater o problema. O CEO da empresa, Sam Altman, disse em uma sessão no Congresso dos EUA neste mês que a integridade eleitoral é uma “área de significativa preocupação” e pediu aos legisladores uma regulamentação rápida do setor.
Ao contrário de algumas startups menores, a OpenAI tomou medidas para restringir o uso de seus produtos na política, de acordo com uma análise da Reuters dos termos de uso de meia dúzia de empresas líderes que oferecem serviços de IA generativa.
Apesar disso, as salvaguardas possuem lacunas. Por exemplo, a empresa diz que proíbe seu gerador de imagens DALL-E de criar figuras públicas – e, de fato, quando a Reuters tentou criar imagens de Trump e Biden, o pedido foi bloqueado e apareceu uma mensagem dizendo que “pode não seguir nossa política de conteúdo”. A empresa também restringe qualquer uso “em escala” de seus produtos para fins políticos.
No entanto, a Reuters conseguiu criar imagens de pelo menos uma dúzia de outros políticos, incluindo o ex-vice-presidente Mike Pence, que também está avaliando disputar a Casa Branca em 2024.
A startup, que é apoiada pela Microsoft, explicou suas políticas, mas não respondeu a novos pedidos de comentários sobre as lacunas na aplicação das regras. Porém, várias startups menores não têm restrições explícitas sobre conteúdo político.
O Midjourney, lançada no ano passado, é líder em imagens geradas por inteligência artificial, com 16 milhões de usuários em seu servidor oficial do Discord. O aplicativo, que tem uso que varia de gratuito ao que cobra US$ 60 por mês, dependendo de fatores como quantidade e velocidade da imagem, é o favorito de designers e artistas de IA devido à sua capacidade de gerar imagens hiper-realistas de celebridades e políticos, de acordo com quatro pesquisadores e criadores entrevistados.
A empresa por trás do programa não respondeu a um pedido de comentário. Mas, na semana passada, durante uma conversa digital no Discord, o CEO, David Holz, disse que provavelmente fará mudanças antes da eleição para combater a desinformação.
O Midjourney quer cooperar em uma solução do setor para permitir a rastreabilidade de imagens geradas com um equivalente digital de marca d’água e considerará o bloqueio de imagens de candidatos políticos, acrescentou Holz.
