Google cria ferramenta para detectar comentários tóxicos na internet

O Google anunciou nesta quinta-feira (23) a criação do Perspective, uma ferramenta de inteligência artificial para que os veículos de imprensa possam detectar de forma automática os comentários tóxicos e desrespeitosos em seus portais.

"O Perspective é uma tecnologia que utiliza a aprendizagem automática ('machine learning') para identificar os comentários tóxicos. E por toxicidade entendemos aqueles comentários que levam alguém a sair de uma conversa", explicou o responsável da iniciativa, Jared Cohen.

O novo projeto de inteligência artificial do Google pretende ser uma ferramenta útil para lutar contra o "assédio online e a crescente toxicidade das conversas na rede".

"Alguns indivíduos estão dificultando a discussão civilizada e dinâmica nas seções de comentários de plataformas e veículos de imprensa, o que leva muita gente a abandonar a conversa. (...) Muitos veículos acabaram fechando essas seções", acrescentou Cohen.

O diretor é presidente do Jigsaw, o laboratório de ideias da Alphabet - antes conhecido como Google Ideas - que foi o responsável pelo desenvolvimento deste projeto de inteligência artificial baseado na tecnologia de aprendizagem automática do Google, Tensorflow.

O Perspective analisa os comentários e detecta o grau de toxicidade das conversas, oferecendo a informação detalhada em um marcador que vai de zero a cem.

Cohen ressaltou que são os veículos que devem decidir como usarão esse marcador: por exemplo, para detectar os comentários que devem ser revisados manualmente, para mostrar esse grau de toxicidade e permitir que os leitores filtrar os comentários em função do nível que estão dispostos a tolerar.

Como o algoritmo sabe quais comentários são tóxicos?

O algoritmo compara os comentários analisados com outros que anteriormente foram categorizados como tóxicos. Também dispõe de um sistema que corrige avaliações errôneas. Quanto mais informação, mais apurado será seu julgamento.

Cohen ressaltou que o Perspective está em "seus primeiros dias" e "muito longe de ser perfeito", mas que irá melhorando à medida que dispor de mais dados para treinar sua precisão.

O Google já testou o algoritmo com "The New York Times", "The Guardian", "The Economist" e a Fundação Wikimedia, responsável pela Wikipedia.

Qualquer meio ou plataforma de internet pode utilizar o Perspective de forma gratuita - através de uma API -, embora por enquanto só exista um modelo para o idioma inglês.

No futuro, à medida que editores de outras línguas se somarem ao projeto, a "aspiração" do Google é ir ampliando o leque de idiomas disponíveis.

Também se espera que ao longo do ano o Perspective evolua e sirva para detectar nos comentários ataques diretos e temas que não têm nada a ver com a discussão em andamento.