Justiça proíbe sistema de reconhecimento facial no Metrô de São Paulo

A 6ª Vara da Fazenda Pública de São Paulo determinou, nesta terça (22), que o Metrô interrompa o sistema de captação e tratamento de dados biométricos dos rostos de seus usuários, o chamado reconhecimento facial. A decisão liminar da juíza Cynthia Thomé tem efeito imediato. Ela considerou que a estrutura que está sendo implementada pela empresa de trens tem "potencialidade de se atingir direitos fundamentais dos cidadãos".

Uma ação civil pública foi ajuizada no dia 3 de março, pedindo que o Metrô fosse proibido de continuar coletando, mapeando e registrando sem consentimento prévio informações sobre os rostos de seus cerca de quatro milhões de usuários diários, usando como justificativa a segurança pública.

As garantias básicas para os dados coletados da população, a privacidade dos usuários e a proteção de crianças e adolescentes não estariam sendo atendidas pela empresa na implementação de um sistema de câmeras com reconhecimento facial e inteligência artificial que custou mais de R$ 50 milhões, segundo a ação.

De acordo com a juíza, "o Metrô, até o momento, não apresentou informações precisas sobre o armazenamento das informações e utilização do sistema de reconhecimento facial". Ela permitiu que a empresa continue instalando o sistema de câmeras, mas não poderá usá-lo para reconhecimento facial. À decisão, cabe recurso.

O Metrô informou à coluna que não foi intimado da decisão, mas que irá recorrer e prestará todos os esclarecimentos à Justiça. E atesta que "o novo sistema de monitoramento obedece rigorosamente o que prevê a Lei Geral de Proteção de Dados".

Para Eloísa Machado, professora da FGV Direito e uma das advogadas da ação, a decisão é inédita no Brasil. "A medida liminar é importante para fazer cessar violações aos direitos dos usuários do metrô e também porque serve de precedente para outros casos de uso indiscriminado de reconhecimento facial que têm se espalhado pelo país", afirmou à coluna.

A ação foi proposta pela Defensoria Pública do Estado de São Paulo, a Defensoria Pública da União, o Instituto Brasileiro de Defesa do Consumidor (Idec), o Intervozes, a Artigo 19 Brasil e América do Sul e o Coletivo de Advocacia em Direitos Humanos (CADHu).

Para as organizações, além de desrespeitar a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente, a Constituição Federal, o Código de Defesa do Consumidor e tratados internacionais dos quais o Brasil é signatário, o sistema de reconhecimento facial é passível de falhas que poderiam levar à identificação equivocada de uma pessoa inocente como um procurado pela polícia.

A ação, cujo mérito ainda será julgado, também pede o pagamento de uma indenização de, pelo menos, R$ 42,8 milhões em danos morais coletivos já causados aos passageiros.

Em posicionamento enviado à coluna na publicação da notícia sobre a ação, o Metrô de São Paulo afirmou que o seu Sistema de Monitoramento Eletrônico "não tem reconhecimento facial do cidadão ou qualquer personificação ou formação de banco de dados com informações pessoais". E que sua implantação atende aos requisitos da LGPD.

De acordo com a empresa, o sistema é exclusivo para o apoio operacional e atendimento aos passageiros. "Com ele, é possível fazer a contagem de passageiros, identificação de objetos, monitoramento de crianças desacompanhadas, invasão de áreas como a via por onde passa o trem, animais perdidos, ou monitoramento de deficientes visuais pelo sistema, gerando alertas nessas situações para que os funcionários ajam rapidamente."

Ação diz que reconhecimento facial pode gerar 'falsos positivos' entre negros e trans

"O Metrô de São Paulo está se apropriando indevidamente dos dados de milhões de usuários, como se não existisse lei, nem consequências para seus atos ilegais", avalia Eloísa Machado. Ela defende que a proteção a dados pessoais é um direito reconhecido pela Constituição, através da recente emenda constitucional 115, e também pela LGPD. E que é fundamental que o Judiciário se posicione na proteção desses dados "para que a LGPD e a Constituição não virem letra morta".

Em fevereiro de 2020, os autores da ação contra o Metrô entraram com um pedido judicial para que a empresa demonstrasse com documentos, relatórios e atas que a implementação do sistema contava com mecanismos para evitar que os dados dos usuários fossem coletados e usados de forma indevida.

Na avaliação deles, o Metrô mostrou que o sistema é "ineficiente e perigoso", sem todas as precauções necessárias para evitar violações massivas ao direito à privacidade.

A defensora pública Estela Guerrini, coordenadora do Núcleo Especializado de Defesa do Consumidor da Defensoria Pública de São Paulo disse à coluna que "ao usar o sistema de reconhecimento facial, o Metrô adota uma tecnologia que invade a privacidade das pessoas, gera discriminação e deixa de investir onde realmente é necessário, que é na melhoria do transporte público". O que, segundo ela, não faz sentido considerando os desafios que o Metrô já tem para garantir um serviço de qualidade.

Diogo Moyses, coordenador do programa de Direitos Digitais do Idec, explica a questão da discriminação. De acordo com ele, a tecnologia adotada é passível de falhas, podendo produzir ações discriminatórias contra os passageiros. "O usuário pode ter seu longo e cansativo trajeto diário interrompido em virtude de 'falsos positivos'", afirma. Alguém ser confundido com um procurado pela Justiça ou com um desaparecido, por exemplo.

A ação cita que é maior a taxa de 'falsos positivos' entre indivíduos de pele escura e de etnias quando elas não são apropriadamente trabalhadas na base de dados. E que não há provas de que o sistema do metrô recebeu tratamento especial para reduzir esse viés. "Isso faz com que o sistema potencialmente seja um perpetuador de desigualdades presentes na sociedade brasileira, selecionando erroneamente mais vezes indivíduos negros e imigrantes", diz a ACP.

A ação afirma que as pessoas não binárias, transexuais e transgêneros também são especialmente afetadas por sistemas como esse.

"O resultado discriminatório da tecnologia de reconhecimento facial reflete o enviesamento presente na própria base de dados que alimenta essa tecnologia, já que é elaborada e desenvolvida por alguns poucos homens cis e brancos de multinacionais que controlam a sua venda para o restante do mundo", explica a defensora Isadora Brandão, coordenadora do Núcleo Especializado de Defesa da Diversidade e da Igualdade Racial da Defensoria Pública.

Apesar de não envolver inteligência artificial como o reconhecimento facial automático, levantamento da Defensoria Pública do Rio de Janeiro e do Colégio Nacional de Defensores Públicos Gerais aponta que 83% dos presos injustamente por reconhecimento fotográfico no Brasil são negros.

Captação de dados sobre crianças sem consentimento dos responsáveis

Os autores da ação defendem que o reconhecimento facial não pode ser equiparado a um circuito interno de TV e, portanto, não seria suficiente uma placa informando que "este ambiente está sendo gravado". O sistema mapeia as informações biométricas do rosto, únicas de cada indivíduo, transformando-os em dados, que são armazenados para poderem ser comparados com as bases existentes.

A Lei Geral de Proteção de Dados demanda consentimento dos cidadãos para a coleta de informações pessoais. Você passa por isso todos os dias, quando entra em um site e ele te pergunta se pode utilizar cookies para coletar seus dados.

Um dos pontos sensíveis nesse sentido é a coleta e tratamento de dados pessoais de crianças e adolescentes usuárias do metrô sem que haja o consentimento de pais ou responsáveis, o que bate de frente não apenas com a LGPD, também com o Estatuto da Criança e do Adolescente.

Para o defensor Daniel Secco, coordenador do Núcleo Especializado da Infância e Juventude da Defensoria Pública, a justificativa de que o sistema possibilitaria a identificação de crianças desaparecidas e, por isso, precisa ser mantido, não é válida. "Como as crianças crescem e seus rostos mudam rapidamente, sabe-se que a chance de acerto do sistema de reconhecimento facial em crianças é pequena."

A ação defende que o projeto do Metrô está na contramão de medidas que vem sendo adotadas na Europa e nos Estados Unidos para restringir o uso massivo dessa tecnologia. E que empresas como Amazon, IBM e Microsoft já avisaram que vão suspender a venda de soluções de reconhecimento facial para o uso policial para evitar violações aos direitos humanos.

"Quando o reconhecimento facial é aplicado em massa por um órgão publico, informação sensível de cidadãos fica disponível. Isso é uma vigilância a priori, onde todo mundo que usa metrô é suspeito até que se prove o contrário", avalia à coluna Pedro Ekman, coordenador do Intervozes.

"É um caminho sem volta para uma sociedade vigiada onde os governos vão ter um poder extremo em relação aos cidadãos", alerta.

João Paulo Dorini, defensor público federal e defensor regional dos direitos humanos em São Paulo, vê a proteção de dados como a nova fronteira dos diretos fundamentais.

"O acúmulo tecnológico acrítico tem pavimentado abusos de diversas ordens. Essa ação pode estabelecer um marco no que pode ou não ser feito. E como Estado e empresas podem atuar sem atacar os direitos humanos", conclui.

O que já disse o metrô sobre a questão do reconhecimento facial

Quando as organizações demandaram respostas do Metrô de São Paulo, a coluna entrou em contato com a empresa, em 2020, para falar do assunto.

Através de sua assessoria, ela afirmou que "obedeceu aos requisitos legais para a implantação do Sistema de Monitoramento Eletrônico, que tem o objetivo de modernizar o atual circuito interno". Disse que "o sistema foi contratado para o monitoramento com câmeras que têm recursos de inteligência para apoio as ações operacionais e não para o reconhecimento de dados pessoais".

Disse que o Sistema de Monitoramento Eletrônico tem o objetivo de modernizar o atual circuito interno, "oferecendo maior a segurança aos mais de quatro milhões de pessoas que utilizam o Metrô todos os dias", e busca também reduzir a quantidade de ocorrências de segurança pública, como assédio e importunação sexual, furtos e roubos nas estações e trens.

Garante que "não há qualquer banco de dados com informações pessoais de passageiros e nenhuma informação personificada é registrada quando ele passa pelas catracas do Metrô" e que o sistema foi moldado obedecendo a LGPD. Por fim, diz que "nosso maior compromisso é com o cidadão de bem".