IA do Google 'esconde' perfil de Boulos e Tabata e dá informações de rivais

Apesar de o Google afirmar que o Gemini, seu mecanismo de inteligência artificial, foi treinado para não fornecer informações sobre políticos, o programa falha em relação a quase todos os candidatos mais bem colocados na disputa pela Prefeitura de São Paulo. O veto só funciona com os candidatos Guilherme Boulos (PSOL) e Tabata Amaral (PSB).

O que aconteceu

"Não posso oferecer respostas sobre eleições e personalidades políticas." Essa é a mensagem que aparece quando a IA (inteligência artificial) do Google é questionada sobre Boulos e Tabata.

Mas o Gemini exibe normalmente perfis dos candidatos Ricardo Nunes (MDB), Pablo Marçal (PRTB), José Luiz Datena (PSDB) e Marina Helena (Novo). Quando a ferramenta é questionada, apresenta extensa informação sobre cada um, como sua atuação profissional e política e sua vida pessoal. O Gemini também usa adjetivos para qualificar os candidatos e suas ideias, sugere que novas temáticas sejam abordadas no chat e encaminha ao usuário links sobre a atuação deles.

Os resultados das consultas contrariam o próprio Google, que informou ao UOL que a IA é treinada para não responder qualquer questionamento sobre eleições. O argumento para adotar essa estratégia é evitar possíveis falhas.

O que diz o Google?

Após as consultas, a reportagem questionou a empresa sobre as falhas, que podem prejudicar alguns candidatos e beneficiar outros. O Google respondeu então que o Gemini "é projetado para oferecer respostas neutras que não favoreçam nenhuma ideologia política, ponto de vista ou candidato."

Como falamos anteriormente, por precaução e cautela, estamos restringindo respostas em consultas sobre eleições. Incentivamos as pessoas a usarem a busca do Google para obter as informações mais recentes e precisas sobre o tema. Estamos trabalhando constantemente para melhorar nosso modelo com o objetivo de garantir uma melhor experiência para o usuário
Google, em resposta ao UOL

O posicionamento contrasta com a informação fornecida antes. Além disso, mesmo o argumento de que as respostas seriam "neutras" pode ser contestado, na medida em que o Gemini usa termos e expressões que fazem juízo de valor, como "pragmático", "fãs que admiram sua sinceridade" e "diferenciais" de uma candidata. Também há erros factuais nas respostas.

Quem é Ricardo Nunes?

O Gemini descreve o atual prefeito como "um político pragmático", "com foco em gestão e resultados". A IA ainda faz elogios à atuação do emedebista em áreas como infraestrutura, saúde e educação. Por fim, fornece o link para os perfis dele nos sites Wikipédia e CNN.

Há destaque para projetos de lei em que Nunes foi relator. O Gemini ainda se coloca à disposição para responder mais perguntas sobre a gestão do prefeito e sugere quatro tópicos que classifica como mais interessantes: projetos em destaque durante sua gestão, desafios enfrentados como prefeito, posição política e ideológica e visão para o futuro de São Paulo.

Quem é Pablo Marçal?

De acordo com o Gemini, Marçal é uma figura "multifacetada" com atuação "bastante ativa na política nacional". Apesar de não descrever quais são os feitos do empresário na política, a IA considera o ex-coach como uma "figura polarizadora", cujas "informações podem variar dependendo da fonte" —as fontes recomendadas pela IA são os perfis de Marçal no Jota e na CNN.

A ferramenta sugere a busca de informações em diferentes fontes, para que se tenha "uma visão mais completa" sobre a trajetória e as ações de Marçal. Diferentemente do resultado apresentado sobre Boulos e Tabata, em que o Gemini sugere uma busca no Google, no caso de Marçal, a IA recomenda que o usuário faça mais questionamentos.

Em seguida, o Gemini sugere que mais aspectos da vida e da carreira de Marçal sejam abordados no chat com a IA generativa, assim como no caso de Nunes. As sugestões são: suas propostas políticas, críticas à sua metodologia de coaching, impacto de suas redes sociais e polêmicas envolvendo sua fortuna.

Quem é José Luiz Datena?

Quando questionado sobre Datena, o Gemini fala mais sobre a carreira do apresentador na televisão do que de sua atuação política. É a primeira vez que Datena se candidata a um cargo público, após desistir várias vezes antes mesmo de ser oficializado em disputas. Mesmo assim, o Gemini, incorretamente, diz que o apresentador "já foi candidato a diversos cargos eletivos".

O destaque é para a "personalidade marcante" e a maneira "direta" e "informal" de o apresentador se comunicar, que o Gemini avalia como atrativa. A ferramenta diz que Datena se identifica com "causas populares" —o que o tornaria popular. A inteligência artificial sugere que o usuário leia o perfil do apresentador no site Wikipédia.

Quem é Marina Helena?

A trajetória de Marina Helena é avaliada pelo Gemini como "marcada por atuação em políticas públicas". Mas cita entre os exemplos dessa atuação seu trabalho em uma empresa do mercado financeiro. A ferramenta ainda destaca que ela tem familiares ligados à política, como seu pai, e que ela é uma alternativa aos "candidatos mais tradicionais". Até o plano de governo de Marina Helena é avaliado pela IA, que o qualifica como "focado em questões como segurança pública, educação, saúde e desenvolvimento econômico."

A candidata é apontada como "diferenciada". O Gemini descreve o que Marina Helena teria de diferente dos seus adversários. Entre os "diferenciais", estão seu "profundo conhecimento sobre as questões que afetam a cidade de São Paulo", sua "experiência com políticas públicas" e as suas "novas ideias". Por fim, é recomendado o site pessoal da candidata.