A cidade, os algoritmos racistas e a proteção de dados dos cidadãos

Poucos temas mobilizam mais debates, hoje, do que a proteção de dados dos cidadãos. Num mundo cada vez mais conectado, a esfera pública virtual ganhou vida própria e praticamente se descolou da vida real, experimentada nas relações pessoais na concretude das ruas e dos espaços públicos e privados.

Não é exagero afirmar que muitas pessoas vivenciam, inclusive, existências paralelas: uma que poderia ser vista como "comum", porque ligada a uma rotina que determina uma sucessão de afazeres que se repetem diariamente - como na dinâmica casa-trabalho-estudo-casa - embora o sentido de "comum" por vezes esconda a singularidade que faz de cada indivíduo um projeto único; outra que é narrada por meio de imagens, vídeos e textos que expressam opiniões, vivências e, quase sempre, sorrisos e lembranças felizes.

Tamanho o impacto da virtualização da vida que parlamentos pelo mundo têm aprovado leis que buscam regular essa nova realidade. No Brasil, isso se deu por meio da Lei Federal nº 13.709, de 14 de agosto de 2018, intitulada Lei Geral de Proteção de Dados (LGPD). A LGPD se baseia num conjunto amplo de fundamentos, dos quais se destacam o respeito à privacidade e à intimidade, a autodeterminação informativa, as múltiplas formas de liberdade, e o estímulo à livre-iniciativa com observância da defesa do consumidor.

Intuitivamente, é possível observar sua incidência no mundo das redes sociais e da Internet, espaços em que há a troca e a coleta de informações pessoais, sensíveis ou não, e a formação de grandes bases de dados que, pelo volume de informações que armazenam, despertam interesses políticos e econômicos os mais variados. Mas não são só as redes sociais e na Internet que ela se aplica. As cidades e suas dinâmicas sociais e tecnológicas também oferecem um espaço importante para sua incidência.

Com a ampliação do acesso e a sofisticação das novas tecnologias de informação e comunicação (TICs), cada proprietário de smartphone que circula pela cidade pode ser visto como um verdadeiro sensor orgânico capaz de produzir informações e dados. Aplicativos relacionados a mapas sabem, por exemplo, o horário em que um motorista sai de casa e, a depender do dia da semana, prever o seu destino com enorme margem de acerto.

A partir dos percursos e das paradas, tais aplicativos podem, ainda, observar padrões de consumo - identificando dias e horários em que o cidadão vai a um supermercado ou shopping center, quanto tempo lá permanece e para onde se dirige na sequência - e, com base nisso, permitir que o comércio faça campanhas de marketing mais direcionadas e assertivas.

Câmeras de monitoramento de tráfego e de segurança urbana, por sua vez, podem coletar a imagem das pessoas e cruzá-las rapidamente com bancos de dados com a identificação de foragidos da Justiça ou desaparecidos, levando a situações que podem representar risco de violação de direitos.

Bem por isso, no dia de hoje - 3 de março - foi ajuizada, por um conjunto amplo de atores institucionais, dos quais se destaca a Defensoria Pública da União, uma ação civil pública cujo propósito é proibir o metrô de São Paulo de coletar, mapear e registrar sem consentimento informações sobre o rosto de usuários por meio de câmeras com sistema de reconhecimento facial. O processo ainda está no início, mas seu alcance ampliará o debate sobre o assunto.

A ação vem na esteira de uma preocupação crescente acerca do caráter potencialmente discriminatório e racista de algoritmos, que são capazes de gerar padrões enviesados prejudiciais a pessoas negras, não binárias, transexuais e transgêneros. De acordo com artigo publicado no UOL pelo jornalista Leonardo Sakamoto sobre o tema, "levantamento da Defensoria Pública do Rio de Janeiro e do Colégio Nacional de Defensores Públicos Gerais aponta que 83% dos presos injustamente por reconhecimento fotográfico no Brasil são negros".

Este é um tema de fundamental importância para o planejamento urbano. Por um lado, é inegável o avanço trazido pela tecnologia, sobretudo nos planos da mobilidade e da segurança urbana. Por outro, esse avanço não pode se dar ao custo da violação de direitos fundamentais de elevada grandeza. É necessário, para isso, ampliar a educação tecnológica dos cidadãos, de modo a ampliar o entendimento sobre o uso consciente e com consentimento de inovações. E estimular a criação de tecnologias de código aberto, sem fins comerciais, com regulamento que observe o interesse público.

As cidades do mundo já ultrapassaram a barreira digital. É preciso, agora, orientar a inovação de modo que ela sirva à ampliação dos benefícios da urbanização.

Wilson Levy é advogado, doutor em Direito Urbanístico pela PUC-SP com pós-doc em Urbanismo pela Universidade Presbiteriana Mackenzie e em Direito pela Universidade do Estado do Rio de Janeiro. É diretor do programa de pós-graduação em Cidades Inteligentes e Sustentáveis da Universidade Nove de Julho (UNINOVE). E-mail: wilsonlevy@gmail.com

Rachel Letícia Cúrcio Ximenes de Lima Almeida é advogada, doutora em Direito Constitucional pela PUC-SP, Pós-graduada em Direito Notarial e Registral pela Escola Paulista da Magistratura. Especialista em Proteção de Dados pela PUC-SP, pelo INSPER e pelo Mackenzie. Professora de Proteção de Dados e de Direito Notarial e Registral. Presidente da Comissão de Direito Notarial e de Registros Públicos da OAB-SP (2019-presente). Email: rachelximenes@yahoo.com.br