Deep fake: Como lidar com desinformação gerada por inteligência artificial

Ver para crer já não é o bastante quando vídeos e imagens adulterados com uso de inteligência artificial ganham cada vez mais qualidade e popularidade na internet.

As chamadas deep fakes exigem que o público inverta a premissa e seja capaz de não acreditar nem mesmo quando vê algo absolutamente convincente.

Deep fakes que viralizaram no Brasil e no mundo

Você acreditaria que William Bonner chamou Alckmin e Lula de bandidos ao vivo?

Ou que Bill Gates encerrou uma entrevista ao ser criticado por apoiar a produção de vacinas contra covid?

E se todas as pesquisas da disputa eleitoral indicassem um resultado, mas um vídeo mostrasse Renata Vasconcellos noticiando outro cenário no Jornal Nacional?

Todas essas imagens falsas viralizaram nas redes sociais, enganando usuários.

Também foram forjadas fotos com o rosto de Donald Trump sendo supostamente preso em Nova York e um suposto look estiloso usado pelo papa Francisco.

Como saber se você está (ou não) sendo enganado por uma deep fake?

1. Verifique a fonte.

Especialmente se o conteúdo parece fora do comum. "Quando alguém vê alguma coisa muito contundente, muito polêmica, o recomendado é ter um pé atrás e dar uma checada, procurar em um jornal importante", recomenda Magaly Prado, pesquisadora da ECA-USP.

O material pode ser satírico. Há perfis que divulgam conteúdo com a indicação de que se trata de deep fake ou uma clara intenção humorística —como o perfil do brasileiro Bruno Sartori. No entanto, as imagens podem ser compartilhadas fora de contexto, como se fossem reais.

Busque fontes idôneas. "Hoje o que a gente busca é justamente se perguntar se é razoável aquele tipo de mídia, se quem está transmitindo é confiável, se o meio, o jornal ou a revista é um meio reputável", diz Anderson Rocha, coordenador do Laboratório de Inteligência Artificial da Unicamp.

2. Confira os detalhes

Para onde olhar? "A gente olha pistas na região do olho, na região da boca, na região de transição entre o rosto e o fundo para ver se não aparece nada que seja estranho", diz Anderson Rocha.

A qualidade é boa? "A pessoa também pode verificar se aquela imagem tem uma má qualidade técnica perceptível", afirma Magaly Prado. No caso da jaqueta do papa, a falta de foco e o formato da mão direita poderiam gerar suspeita sobre a veracidade da imagem.

O que mais pode indicar o uso de IA? Fundo muito desfocado, textos indecifráveis em segundo plano, rostos sem simetria, pedaços de imagem borrados ou que parecem ter sido pintados, objetos que se misturam à pele.

3. Entenda o contexto do perfil

Saber quem postou a imagem e em qual contexto o perfil está inserido favorece a percepção sobre a veracidade ou não do material.

Pense sobre o que você segue. "Outra sugestão ao leitor é prestar atenção nos sites que ele está acessando, que redes sociais e que perfis que elas estão seguindo. Quem é essa pessoa por trás dessas coisas que estão sendo replicadas? Tomar cuidado, desconfiar sempre", orienta Magaly Prado.

Como as deepfakes são produzidas?

Três elementos são necessários, segundo Anderson Rocha, coordenador do laboratório de Inteligência Artificial da Unicamp

1. Dados audiovisuais da pessoa-alvo (fotos, áudio, vídeos). O material será usado para abastecer o banco de dados da IA e criar falas e movimentos faciais e corporais, por exemplo;

2. Computadores com processadores avançados. Embora já seja possível gerar esse tipo de conteúdo em menor qualidade em aplicativos de celular, por exemplo;

3. Algoritmos que permitam processar grande quantidade de dados (diferentes áudios, vídeos e imagens) de forma rápida e com resultado convincente.

Jornalistas-avatares gerados por IA

Ferramentas geradas por inteligência artificial como avatares que simulam jornalistas também estão sendo usadas para defender narrativas de governos ou para consolidar campanhas de desinformação:

O governo da Venezuela usou a tecnologia em anúncios pagos no YouTube. A informação foi revelada em uma investigação do jornal El País, da Espanha. As propagandas simulam a transmissão de um telejornal. Os apresentadores são dois avatares que noticiam reportagens falsas sobre a melhora da economia do país. Os vídeos também foram veiculados na TV estatal venezuelana.

New York Times revelou casos semelhantes. O jornal norte-americano identificou vídeos de falsos apresentadores de telejornais que utilizam a mesma técnica, ou seja, eram avatares gerados por IA, divulgando conteúdo pró-China. A matéria destaca também a existência de conteúdo similar que simula cidadãos norte-americanos apoiando o governo de Burkina Faso (leia a reportagem aqui, em inglês ou aqui, em espanhol).

Fonte é a mesma. As imagens humanas usadas nos três casos são parte do banco de avatares do site Synthesia.

Combater deep fakes com a mesma tecnologia

Universidade brasileira atua contra uso de IA para desinformar. O laboratório de inteligência artificial da Unicamp junto com a Universidade de Hong Kong, desenvolveu um projeto em linguagem de programação que auxilia na identificação de adulterações em imagens produzidas por deepfake.

Um dos métodos envolve, por exemplo, a análise do ruído de uma imagem. Em uma fotografia verdadeira, o processo de conversão da luz para informação digital deixa um ruído, já que o processo de digitalização nunca é perfeito, diz o coordenador do laboratório da Unicamp, Anderson Rocha. "Uma fotografia deve ter uma assinatura de ruído e o deepfake não tem, porque é gerado sinteticamente, não teve interação da luz com o sensor da câmera", afirma o professor.

O código do projeto é aberto e está disponível no GitHub (veja aqui).

Também precisaremos usar a inteligência artificial para detectar esse tipo de falsificação. Sem a IA do outro lado, estamos derrotados, não tem como, porque a sofisticação desses algoritmos de geração é muito grande" Anderson Rocha