Deepfakes de estrelas de Bollywood geram preocupações com uso de IA em eleições da Índia
Por Aditya Kalra e Munsif Vengattil e Dhwani Pandya
MUMBAI (Reuters) - Em vídeos falsos que se tornaram virais na Internet, dois dos principais atores de Bollywood são vistos criticando o primeiro-ministro da Índia, Narendra Modi, e pedindo às pessoas que votem no oposicionista Partido do Congresso nas eleições gerais em andamento no país.
Em um vídeo de 30 segundos com Aamir Khan e outro de 41 segundos com Ranveer Singh, os dois atores supostamente dizem que Modi não cumpriu suas promessas de campanha e não abordou questões econômicas críticas durante seus dois mandatos como primeiro-ministro.
Os dois vídeos gerados por inteligência artificial terminam com o símbolo eleitoral do Partido do Congresso e o slogan: "Vote por Justiça, Vote no Congresso".
Os dois vídeos foram vistos nas redes sociais mais de meio milhão de vezes desde a semana passada, segundo uma análise da Reuters.
A disseminação destaca o papel potencial que o conteúdo gerado por IA pode desempenhar nas eleições indianas que começaram na sexta-feira e continuarão até junho. A IA e as falsificações geradas por IA, ou deepfakes, estão sendo cada vez mais usadas em eleições em outras partes do mundo, inclusive nos Estados Unidos, Paquistão e Indonésia.
As campanhas eleitorais na Índia há muito tempo se concentram em divulgação de porta em porta e comícios públicos, mas o uso extensivo do WhatsApp e do Facebook como ferramentas de campanha começou em 2019. O pleito deste ano -- em que se espera que Modi garanta um raro terceiro mandato -- é a primeira em que a IA está sendo usada.
Uma porta-voz do Partido do Congresso, Sujata Paul, compartilhou o vídeo do ator Singh com seus 16.000 seguidores no X em 17 de abril e, no sábado, sua publicação havia sido compartilhada novamente 2.900 vezes, curtida 8.700 vezes e recebido 438.000 visualizações.
Paul disse à Reuters por telefone que estava ciente de que o vídeo estava marcado como "mídia manipulada" pelo X, mas não quis excluí-lo porque, ao postar, achou que a pessoa era parecida com Singh e "com certeza tem criatividade".
A publicação não estava mais visível no X no domingo, horas depois que a Reuters enviou um pedido de comentário ao chefe da unidade de mídia social do Partido do Congresso, que não respondeu.
Os dois atores disseram que os vídeos são falsos. Facebook, X e pelo menos oito sites de verificação de fatos disseram que eles foram alterados ou manipulados, o que a unidade de verificação digital da Reuters também confirmou.
A Reuters não conseguiu determinar quem criou os vídeos. Khan ficou "alarmado" com o vídeo viral "falso" e a equipe de Singh estava investigando o assunto, de acordo com um porta-voz de ambos os atores. Singh escreveu no X na sexta-feira: "Cuidado com os deepfakes, amigos".
O escritório de Modi e o chefe de tecnologia da informação de seu Partido Bharatiya Janata não responderam aos pedidos de comentários.
Deixe seu comentário