Reconhecimento facial não funciona 95% das vezes, diz polícia de Detroit

O chefe da polícia de Detroit, nos Estados Unidos, afirmou que o reconhecimento facial, que vem sendo usando em larga escala pela corporação, não é confiável. Mais que isso, de acordo com ele, a tecnologia não ajuda em sua função de identificar plenamente uma pessoa por imagens de seu rosto em 95% do tempo.

O reconhecimento facial vem sendo atacado mais uma vez depois de um artigo do The New York Times e a American Civil Liberties Union denunciarem que um homem negro, Robert Julian-Borchak Williams, foi preso injustamente por conta da tecnologia.

Relacionadas

ONU quer moratória em uso de reconhecimento facial em protesto

Metrô terá reconhecimento facial perigoso para o usuário, acusam entidades

Microsoft se une aos rivais e veta uso de reconhecimento facial à polícia

A polícia de Detroit usa um software desenvolvido pela DataWorks Plus, mas o chefe da corporação, James Craig, admitiu em entrevista à Vice: "Se usássemos só o software, nós não resolveríamos o caso em 95 ou 97% das vezes. Isso aconteceria se confiássemos apenas nele, o que não é nossa política atual. Se fosse só com a tecnologia, para identificar alguém, eu diria que em 96% das vezes nós erraríamos".

A companhia responsável pelo programa, a DataWorks Plus, respondeu que "não há estatísticas para isso". O gerente geral da empresa, Todd Pastorini, afirmou que "o problema é a qualidade das provas usadas. O reconhecimento facial vem sendo usado como uma arma pela imprensa em algum grau. O comentário do chefe de polícia vem sendo mal interpretado".

A grande crítica é em relação a um uso do sistema que tem consequências racistas. A tecnologia foi usada 70 vezes pela polícia de Detroit este ano. Em 68 dos casos, a foto colocada no sistema foi de uma pessoa negra. No passado recente, já se registrou problemas com este tipo de software, que muitas vezes comete erros ao tentar reconhecer pessoas negras.

Para evitar erros, a polícia de Detroit não vem usando mais a tecnologia em vídeos, apenas em fotos. O caso de Robert Julian-Borchak Williams aconteceu antes de esta política ser usada.

A DataWorks Plus diz que não influencia neste tipo de decisão. "Não falamos aos nossos clientes como usar o sistema. Eles já têm suas leis. Na minha experiência, quando mais cristalina for a imagem, mais sólido o resultado."

Homem preso injustamente

Em janeiro, Robert Williams estava trabalhando quando recebeu uma ligação da polícia pedindo que ele fosse à delegacia para ser preso. No início, ele pensou que era uma brincadeira, até que voltou para sua casa e dois policiais o algemaram quando ainda estava no gramado.

As duas filhas e a esposa presenciaram a cena - sem nenhuma explicação do motivo pelo qual Williams estava sendo preso. O crime que motivou a prisão era o roubo da loja Shinola em outubro de 2018, ocasião em que foram levados cinco relógios avaliados em cerca de US$ 3.800.

Segundo um estudo do National Institute of Standards and Technology (NIST), os sistemas de reconhecimento facial têm de "dez a 100 vezes" mais chances de gerar falsos positivos para rostos asiáticos ou negros do que para faces brancas.

Recentemente, a Microsoft, Amazon e IBM suspenderam as vendas de softwares de reconhecimento facial para a polícia após protestos nos EUA que exigiram o fim de métodos policiais que poderiam acusar injustamente pessoas negras.