Vigilância facial: pesquisadores apontam falhas em sistema de 'alto risco'

Uso de reconhecimento facial na segurança pública avança rápido no Brasil sem regulação e apresenta "alto risco" à população, afirmam especialistas. A avaliação é de Pablo Nunes, coordenador do Cesec, e Carolina Castelliano, defensora pública federal. Ambos participaram da elaboração do relatório "Mapeando a Vigilância Biométrica", lançado em maio pelo Cesec em parceria com a DPU (Defensoria Pública da União), a partir de pedidos de acesso à informação enviados a todos os governos estaduais, além do DF.

Tecnologias contratadas são "imprecisas" e apresentam taxas de erro "desproporcionalmente elevadas" para pessoas não brancas, aponta estudo. Segundo o levantamento, estudos técnicos e jurídicos internacionais já demonstraram que sistemas de reconhecimento facial apresentam "desafios significativos em termos de precisão, segurança e impacto sobre direitos humanos". Uma das pesquisas consultadas foi conduzida pelo NIST (National Institute of Standards and Technology), que revelou que as tecnologias apresentam taxas de erro "desproporcionalmente elevadas" para determinados grupos populacionais, sendo de dez a cem vezes maiores para pessoas negras, indígenas e asiáticas em comparação com pessoas brancas.

Falhas em sistemas de reconhecimento facial já levaram à prisão de inocentes, geralmente pessoas negras, em diferentes regiões do país. Nos últimos anos, o UOL noticiou episódios de erro na identificação de suspeitos por sistemas usados em São Paulo, Sergipe e no Distrito Federal. No caso mais recente, repercutido em abril deste ano, um idoso, jardineiro voluntário, teve de passar mais de 10h em uma delegacia, na capital paulista, para provar que a câmera estava errada e que ele era inocente.

O que explica as falhas na tecnologia? Segundo Pablo Nunes, os algoritmos utilizados em sistemas de reconhecimento facial "são treinados com bancos de dados gigantescos, enquanto quem desenha esses sistemas são, na maioria das vezes, equipes majoritariamente brancas e masculinas, trabalhando em grandes centros de desenvolvimento tecnológico internacionais".

Há pouquíssima diversidade nessas equipes, o que faz com que os pontos colocados para o algoritmo fazer a mensuração sejam muito mais dedicados a entender um rosto branco masculino do que um rosto negro, especialmente o feminino, ou de outros perfis socioeconômicos, etnicos e de gênero. (...) Já acompanhamos casos de pessoas que foram presas injustamente a partir dessas câmeras de reconhecimento facial, cujo nível de semelhança [com o suspeito] era apenas de 60%. Pablo Nunes

ONU já alertou sobre potencial discriminatório da tecnologia como recurso de vigilância. Um relatório de 2020 do Comitê das Nações Unidas para a Eliminação de Discriminação Racial aponta que a utilização de tecnologias de reconhecimento facial "para rastrear e controlar grupos demográficos específicos" levanta preocupações em relação a violação de direitos humanos como privacidade, liberdade de expressão e circulação. Segundo o documento, o recurso pode "perfilar pessoas com base em critérios discriminatórios" e sua precisão pode variar a depender do gênero, da cor e etnia de quem é monitorado.

Pesquisadores também criticam a falta de transparência no tratamento dos dados biométricos no país. Segundo eles, os estados utilizam diferentes sistemas de reconhecimento facial e há uma "ampla confusão" dentro dos próprios governos sobre quem opera e fiscaliza a tecnologia. "O que temos visto no Brasil é que, também pela total falta de regulação desses sistemas, temos projetos de vigilância muito distintos. Temos o Smart Sampa [em São Paulo], que tem um determinado tipo de câmera, com determinado tipo de software e uma governança dos dados também muito própria. Já quando olhamos para o Rio de Janeiro, o software é russo e o sistema é completamente outro", exemplifica Nunes.

Temos mapeado centenas de projetos e posso afirmar que quase todos são um universo em si mesmos, o que atrapalha muito a possibilidade de entendermos como esses sistemas agem, quais seus efeitos e, inclusive, identificar se eles têm servido para beneficiar a população. Pablo Nunes

Não há evidências sobre eficiência das tecnologias no enfrentamento à criminalidade, aponta levantamento. Enquanto governos têm divulgado o aumento no número de prisões efetuadas a partir de sistemas de reconhecimento facial, o relatório do Cesec em parceria com a DPU ressalta que nenhuma gestão divulgou relatórios públicos sobre erros de identificação, falsos positivos, prisões equivocadas, e nem mesmo evidências de impacto positivo na redução da criminalidade após a implementação das tecnologias.

Sequer temos relatórios de auditoria ou algum tipo de prestação de contas por parte dos estados e municípios que demonstrem que os recursos empreendidos nesse tipo de tecnologia, de fato, revertem em uma política eficiente de segurança pública, com redução da criminalidade. O que temos, por outro lado, é a pressão social por respostas rápidas à insegurança, o marketing político em torno de tecnologias supostamente inteligentes e um lobby ativo das empresas do setor. Carolina Castelliano, defensora pública federal

Para onde vão nossos rostos?

Dados da população para fins incertos podem estar sendo coletados sem autorização, seguem pesquisadores. O mesmo levantamento do Cesec e da DPU aponta que 70% dos estados delegam a operação dos sistemas de reconhecimento facial às suas secretarias de segurança, mas quase um quarto deles tem empresas privadas envolvidas em alguma etapa sensível do processo. O estudo revela ainda que a maioria dos governos tampouco comunica a Autoridade Nacional de Proteção de Dados quando terceiriza o processamento das imagens, o que é obrigatório por lei. "Sem delimitação de responsabilidades, cresce o risco de vazamentos ou usos desviados dos dados faciais [da população]", registra o relatório.

A face não é qualquer dado pessoal, é um dos dados mais sensíveis que temos. Um rosto é único, exclusivo de uma pessoa. E ter a possibilidade de alguma empresa ou governo conseguir acessar os dados biométricos da sua face significa que poderão monitorar você por toda a sua vida. Isso é gravíssimo de se pensar. Pablo Nunes, coordenador do Cesec

Acredito que ninguém entregaria os seus documentos pessoais, como o RG, na mão de desconhecidos, sabendo dos riscos que correria caso uma pessoa que não conhece tivesse acesso a dados tão únicos. Mas é isso que estamos permitindo hoje, com anuência do poder público. (...) Com esses dados, pessoas jurídicas podem ser abertas, empréstimos podem ser obtidos e uma série de benefícios podem ser requeridos sem autorização, uma vez que, hoje, os nossos rostos cumprem esse papel de identificação, (...) entre outros usos dos nossos rostos que sequer imaginamos ainda, mas podem ser feitos no futuro. Carolina Castelliano, defensora pública federal

Uso da tecnologia como instrumento de segurança pública escalonou desde 2020, após aprovação de norma durante o governo Bolsonaro. Dos 408 projetos operados por órgãos públicos que utilizam o sistema biométrico no país, apenas três começaram a ser implementados há mais de cinco anos, ainda segundo dados do Cesec. Isso porque a adoção das câmeras de reconhecimento facial ganhou destaque com a portaria federal nº 793, de 24 de outubro de 2019, que regulamenta e estimula a utilização de recursos do Fundo Nacional de Segurança Pública para a instalação de sistemas de videomonitoramento com reconhecimento facial, inteligência artificial e tecnologias similares.

Ausência regulatória e recomendações

Ainda não há lei específica no país que regulamente uso das tecnologias de reconhecimento facial. Ainda segundo os pesquisadores, a LGPD (Lei Geral de Proteção de Dados) não dá conta de regular os sistemas e assegurar que a implementação do recurso não trará riscos à população.

Cesec e DPU formularam conjunto de recomendações direcionadas ao poder público. Entre elas estão: suspender compras dos sistemas até que exista lei federal específica sobre o recurso; exigir mapas públicos de câmeras pelos municípios, publicar contratos e auditorias periódicas; criar conselhos com participação de moradores de áreas vigiadas, Defensoria, Ministério Público e pesquisadores.