'Novo estágio das fake news': deepfake vira arma de campanha na Argentina

A IA não é um recurso usado apenas por apoiadores de Milei. A campanha de Sérgio Massa também já compartilhou na internet peças produzidas com a tecnologia que colocam o peronista como herói nacional e rotulam o adversário como grande vilão da Argentina.

Em um vídeo compartilhado na segunda-feira (13), o candidato da direita argentina aparece em uma narração vangloriando Margareth Thatcher. Thatcher era a primeira-ministra do Reino Unido durante os ataques da Guerra das Malvinas, responsável pela morte de 649 argentinos.

"Na história da humanidade houve grandes líderes. A senhora Thatcher foi, assim como foi Reagan (ex-presidente estadunidense)..." diz Milei no vídeo gerado por IA.

A eleição presidencial argentina, que será decidida em segundo turno no próximo domingo (19), pode servir como o primeiro grande exemplo da interferência de ferramentas de inteligência artificial, como Midjourney, DALL-E 3, Runway e D-ID no processo democrático. Até então, com o 'boom' de ferramentas de IA, a tecnologia não havia interferido de forma tão intensa nas campanhas eleitorais.

Novo estágio das fake news

Os especialistas consultados pelo UOL acreditam que as deepfakes são atraentes pois mexem com o imaginário das pessoas, guiadas cada vez mais por imagens.

A deepfake hoje é o estágio mais avançado das chamadas fake news ou indústria da desinformação, devido ao fato de as imagens serem mais atraentes do que a escrita em uma sociedade cada vez mais mediada por nossa visão
Anderson Röhe, membro da Comissão Especial de Privacidade, Proteção de Dados e Inteligência Artificial da OAB-SP

A mentira seduz mais que a verdade, por isso, a contribuição da IA nesse processo é o de exacerbar em escala, velocidade e alcance a disseminação das deepfakes. A deliberação de circular uma deepfake no ambiente digital não é necessariamente a de convencer que algo é de fato verdadeiro, e sim o de servir de gatilho
Anderson Röhe

Ainda de acordo com o pesquisador, esse novo estágio das fake news pode se intensificar ainda mais, visto que a tecnologia avança em níveis extremos em um curto período de tempo.

Quanto mais evoluem e amadurecem esses sistemas de Inteligência Artificial Generativa, torna-se mais difícil para um "olho treinado" fazer esse diagnóstico
Complementa Röhe, que também é pesquisador-membro do Legal Grounds Institute e Fellow do Think Tank ABES - Associação Brasileira de Empresas de Software no grupo de Inteligência Artificial

Prévias estadunidenses também já contam com deepfakes

Outros casos do uso de deepfake em campanhas podem ser vistos em outras partes do mundo. Em junho, o candidato que faz oposição a Donald Trump pelas prévias do Partido Republicano para a presidência dos Estados Unidos, Ron DeSantis, compartilhou um vídeo com uma uma imagem gerada por IA em que o ex-presidente aparece abraçando Anthony Fauci, médico que foi protagonista no combate a covid-19 nos EUA e algoz da direita norte-americana.

Durante a pandemia, Fauci e Trump entraram em embate por discordarem de medidas de combate ao vírus. O vídeo foi sinalizado pelo X como enganoso.

O uso da IA Generativa em campanhas políticas possui dupla função, tanto positiva, quanto negativa, podendo servir de ferramenta de estímulo e engajamento dos eleitores, como também de amplificação da polarização política, introduzindo novos perigos e ameaças, a exemplo da massificação da desinformação, de fraudes e manipulação dos resultados das eleições conclui Anderson Röhe

Mentiras sempre fizeram parte de campanhas ao longo da história, apontando que o dilema central da questão não está na tecnologia, comenta Pedro Sanches, especialista em Direito Digital, privacidade e proteção de dados pela Universidade Estadual do Rio de Janeiro.

Desvios ou condutas ilícitas sempre vão existir, independentemente do nível de tecnologia aplicada. Não acho válida a restrição de utilização de tecnologias específicas simplesmente em razão de situações ou pontuais desvios de conduta
Pedro Sanches, especialista em Direito Digital, Privacidade e Proteção de Dados

Vista a emergência de se discutir a chegada e popularização da IA no mundo, os especialistas concordam que é necessária uma regulação eficaz da tecnologia.

Na Argentina, assim como em outras partes do mundo, não há definição jurídica específica de como lidar com problemas envolvendo inteligência artificial e o contexto eleitoral. O Tribunal Eleitoral intercedeu em algumas oportunidades, como aconteceu com as mentiras espalhadas a respeito da governadora de Santa Fé, Carolina Losada, em julho. A determinação foi que o Google tirasse do ar as informações. Os meios de comunicação também se uniram para montar o Reverso, um site em conjunto com Chequeado e AFP, para verificar todas as notícias falsas. Na home page do Clarín, maior jornal do país, há uma editoria de Fake News, com os principais esclarecimentos e campanhas para que mentiras não manipulem o voto da população.

No panorama brasileiro, que conta com calendário eleitoral em 2024, uma legislação da IA é discutida com o Projeto de Lei 2338/23. Os especialistas concordam que a regulamentação deve também levar em consideração os benefícios da tecnologia, e que o poder de inovação da tecnologia não deve ser reprimido.

"Não podemos regulamentar um tema de forma rígida simplesmente olhando para problemas pontuais ou situações específicas como a da Argentina"
finaliza Sanches