Suharto começou o vídeo se apresentando — “Eu sou Suharto, o segundo presidente da Indonésia” —, em seguida pediu voto para o líder nas pesquisas Prabowo Subianto, ex-general e atual ministro da Defesa do país.
Poderia não haver problema algum no pronunciamento de Suharto não fosse por um pequeno detalhe: Suharto morreu com 86 anos, há 16 anos, em 2008. O vídeo foi feito com o uso de Inteligência Artificial (IA), é uma deepfake.
“Deepfakes podem influenciar muito uma eleição, [desde a] maneira como a campanha é feita até os resultados”, disse Golda Benjamin, gerente de campanha para a Ásia-Pacífico da Access Now, à CNN. “O perigo está em como se espalha rapidamente. Um deepfake pode facilmente alcançar milhões em segundos, manipulando eleitores.[Valor]No Brasil, o uso ou não de Inteligência.Artificial nas eleições deste ano estão em disputa no TSE, que ainda não tomou posição quanto ao assunto, regulando o uso ou proibindo a utilização de IA, pelo menos nestas eleições.
Enquanto isso, marqueteiros políticos estão lançando pacotes com IA para os possíveis candidatos.
IA nas eleições do Brasil
Para intermediar o uso de IA por políticos, um consultor está desenvolvendo um aplicativo próprio para ser usado em campanhas eleitorais. A ferramenta fornece um formulário para ser preenchido pelo candidato e gera conteúdos a partir disso, como posts de redes sociais, títulos para vídeos, discursos e até textos direcionados a diferentes públicos. “O candidato só precisará apertar o botão”, afirma.
Para a doutora Kaufman, que é Professora do Programa de Tecnologias da Inteligência e Design Digital da Faculdade de Ciências e Tecnologia da PUC SP, a facilidade e a riqueza das ferramentas contrasta com a dificuldade de analisá-la com a rapidez necessária numa campanha política.
Imaginemos que um candidato a prefeito usou IA para produzir uma peça publicitária sintética contra seu oponente. Coerente com o teor da minuta de resolução do TSE, a campanha desse candidato deveria explicitar o uso de IA. Cenário 1: o candidato, cumprindo as regras eleitorais, explicitou o uso de IA — a peça fake circulou nas redes sociais, como reconhece o ministro Alexandre de Moraes, causando estrago na escolha dos eleitores (parte significativa deles não compreende o que seja “produzido por IA” ou rótulos assemelhados). Cenário 2: o candidato não explicitou o uso de IA — o TSE identificou o problema ou a campanha adversária denunciou ao TSE. Em ambos os casos, leva tempo até a proibição, o suficiente para causar dano. Vale lembrar que as eleições de 2024 envolvem a escolha de prefeitos e vereadores em 5.568 municípios brasileiros.
Como será o anúncio obrigatório e o que constará dele? "Imagem trabalhada com Swapface", por exemplo? Quem prestará atenção ao que está escrito se está focado no vídeo? E o que é Swapface na cabeça dos milhões de eleitores?
Por isso a professora Dora Kaufman é radical:
A única maneira de salvaguardar o processo eleitoral de 2024 — garantindo a integridade do sistema e protegendo a democracia — é proibir explicitamente o uso de IA na propaganda eleitoral e bani-la da criação das peças publicitárias de campanha, sejam elas no formato de texto, imagem ou voz.
Aqui o vídeo de Suharto feito com uso de IA:
Miren cómo llega el uso de IA en lo que conoce como deepfake a la política. Este video muestra al dictador indonesio Suharto. En el video hace una invitación a que voten por su partido. Lo malo: el señor está muerto pic.twitter.com/Nm4P8Vr66H
— Camilo Andrés García (@hyperconectado) January 22, 2024
