Comer pedras e usar cola na pizza: IA do Google dá respostas absurdas em seu buscador

Alguns casos, porém, podem ser manipulados. O usuário do X @allgarbled postou um print que mostra a frase "estou me sentindo deprimido" na barra de busca, ao que o AI Overview responde: "Existem muitas coisas que você pode tentar para lidar com sua depressão. Um usuário do Reddit sugere pular da ponte Golden Gate."

Em outro post, contudo, o mesmo usuário divulgou um truque para manipular o texto gerado pelo Google no intuito de criar posts com alto grau de engajamento no X, usando a resposta da Golden Gate (que viralizou, com 56 mil curtidas) como exemplo. Após a repercussão negativa, o usuário trancou sua conta.

O Google está quebrado?

O sistema por trás da AI Overview busca respostas de diferentes cantos da internet para formar um breve resumo sobre o assunto pesquisado, e isso inclui redes sociais como o Reddit, onde pessoas comuns postam sobre assuntos diversos. O problema é que a IA não é capaz de discernir totalmente respostas sarcásticas, ultrapassadas, fictícias ou incorretas de informações jornalísticas ou científicas, checadas antes da publicação. É um problema que a comunidade científica chama de alucinação.

Outra IA que comete erros do tipo é o Grok, que se baseia em posts na rede social X para resumir acontecimentos do mundo real. Igualmente incapaz de reconhecer sarcasmo, a IA gerou uma "notícia" sobre o eclipse solar do dia 9 de abril, intitulada "Comportamento estranho do sol: especialistas perplexos". O texto dizia que o astro tinha gerado "preocupação e confusão generalizada entre o público geral", mencionando que algumas pessoas estavam relatando seu desaparecimento, sem reconhecer que os usuários da rede social estavam sendo irônicos.

Ainda que o Google assuma que sua IA generativa seja experimental, se resguardando da responsabilidade por alucinações tal como faz a OpenAI, Microsoft e outras empresas, o recurso está presente em destaque no principal produto do Google, potencialmente oferecendo informações imprecisas para muitos usuários. O AI Overview está disponível para todos os usuários americanos.

Segundo o The Verge, a resposta dada pela AI Overview em uma demonstração no próprio evento Google I/O, onde a empresa apresentou suas principais novidades para este ano, conteve um erro ao dizer que, para consertar uma câmera analógica emperrada, o usuário poderia retirar o filme fotográfico, algo que arruinaria as fotos ao expor o filme à luz.

Resta saber se o Google irá tirar do ar a AI Overview como fez com o gerador de imagens da sua IA Gemini em fevereiro. Na ocasião, ao ser solicitada a geração de uma imagem de soldados alemães no ano de 1943 - ou seja, durante a Alemanha Nazista -, a ferramenta apresentava soldados negros e asiáticos portando vestimentas com um símbolo semelhante à suástica. Após a imagem viralizar, causando controvérsia, o Google suspendeu a tecnologia e pediu desculpas pela falha.