Com nova postura antiódio, Facebook continua evoluindo a passos de formiga

Uma criança comete uma grosseria dentro de casa, e o pai só daria a devida reprimenda ao filho dois anos depois. Um sujeito furta um carro, e só dois anos após o criminoso seria detido. Acha que seria uma resposta eficaz? Pois é o que o Facebook fez ao responder, só em 2019, ao cerne da questão que comoveu o mundo no atentado a manifestantes antirracismo em Charlottesville, em 2017.

Para quem não lembra, o atropelamento que matou Heather Heyer, 32 anos, ocorreu após uma marcha chamada "Unite the Right" (Unir a Direita), organizada como protesto na cidade americana pela retirada de uma estátua em homenagem ao general confederado Robert E. Lee, que liderou as forças sulistas, pró-escravidão, durante a Guerra Civil dos EUA, no século 19.

Durante o protesto, os nacionalistas gritaram palavras de ordem contra negros, imigrantes, homossexuais e judeus e carregaram tochas, fazendo gestos nazistas.

Nesta semana, o Facebook anunciou que passará a proibir elogios, apoios e representações do nacionalismo branco e do separatismo branco no Facebook e no Instagram. A nova medida começará a ser aplicada na semana que vem.

Apesar de não ter mencionado Charlottesville em seu recente comunicado, o Facebook está respondendo nas entrelinhas a uma polêmica envolvendo sua política de moderação contra os grupos ligados ao atentado e que usavam e ainda usam a rede social para espalhar ódio.

Uma guerra do século 19 que ainda não acabou

Apesar de ter se encerrado em 1865, a Guerra Civil americana ainda causa muitas traumas naquela sociedade. Foi um evento histórico que teve início com a libertação de escravos negros e com o sul dos EUA ameaçando se separar do restante do país.

A vitória do Norte não foi suficiente para que descendentes dos sulistas —majoritariamente de famílias brancas e donas de escravos— tenham assimilado a derrota, e seus valores separatistas e racistas permaneceram com eles até hoje.

Reações a Charlottesville

A crise em Charlottesville foi apenas um exemplo emblemático recente de atrocidade racista com tintas nacionalistas, em um país hoje governado por Donald Trump, que manteve uma postura hesitante em culpar os autores da tragédia.

Naquele ano de 2017, já se falava que os grupos extremistas usavam plataformas populares da internet para se articular. Após o ataque, vários sites e páginas em redes sociais conhecidos por seu conteúdo de extrema-direita foram tirados do ar, repetidas vezes. Incluindo o então popular Daily Stormer, cujo fundador, Andrew Anglin, admirava abertamente Adolf Hitler.

Na ocasião, o Facebook tentou fazer sua parte. Contas de outros grupos extremistas no Facebook e no Instagram foram bloqueadas, como quaisquer publicações na rede social que contivessem o post feito pelo "The Daily Stormer". Mas deixava uma sensação de que estava apagando o incêndio o dia sem pensar em consertar a fiação elétrica que o provocou.

Para o Facebook, nem todo nacionalismo era ruim

Corta para maio de 2018. Uma reportagem do site "Motherboard" vazou um material de treinamento interno da equipe de moderação do Facebook. Ele trazia posições contraditórias da empresa sobre como agir contra denúncias ligadas ao discurso de ódio, com pontos referentes ao contexto de Charlottesville.

Um documento e uma apresentação em slides, vazados pela reportagem do site, datavam de novembro de 2017 e janeiro de 2018, respectivamente três e cinco meses depois do atentado.

O documento de texto incluía novos exemplos de incitação ao ódio, como comparar mexicanos a criaturas semelhantes a vermes; chamar muçulmanos de porcos; e usar "it" (pronome usado para objetos e animais) para pessoas transgênero. Até aí tudo bem.

Já no slide, o Facebook apontava distinções entre supremacistas brancos, nacionalistas e separatistas. Em resumo, conteúdos de supremacistas eram bloqueados, mas dependendo do caso, nacionalistas brancos e separatistas eram permitidos.

Por exemplo, os moderadores são instruídos a não apagar posts como "o nacionalismo branco é o único caminho", ou "os EUA deveriam ser um país apenas para brancos".

Em resumo, a apresentação se justificava dizendo:

Nacionalismo branco e convocação a um Estado branco não é uma violação de nossas políticas a menos que explicitamente exclua outras características protegidas

No caso, "características protegidas" são o nome técnico do Facebook para características de conteúdo permitidas na política da rede social.

O que mudou

Após a reportagem, o Facebook respondeu dizendo que suas políticas contra grupos de ódio organizados e indivíduos são "duradouras e explícitas" e que "trabalhavam agressivamente para erradicar o conteúdo extremista e organizações de ódio de nossa plataforma".

Naquele mesmo maio de 2018, o Facebook admitiu que para assuntos como violência gráfica e discurso de ódio, sua tecnologia "ainda não funciona tão bem, então é necessária a verificação do conteúdo por nossas equipes de revisão". E também haviam removido ou notificaram cerca de 3,5 milhões de conteúdos violentos e 2,5 milhões de conteúdos com discurso de ódio no primeiro trimestre de 2018.

Sobre os posts violentos, 86% do conteúdo foi inicialmente identificado pela tecnologia automatizada de análise de dados da empresa. Para discurso de ódio, esse percentual foi de apenas 38%.

Agora em março de 2019, o Facebook parece ter assimilado que sua postura conivente com separatistas e nacionalistas brancos era equivocada. Ou, na melhor das hipóteses, bastante ingênua.

"Nossas políticas há muito tempo proíbem o tratamento odioso de pessoas com base em características como raça, etnia ou religião —e isso sempre incluiu a supremacia branca. Inicialmente, não aplicamos o mesmo raciocínio às expressões do nacionalismo branco e do separatismo branco porque estávamos pensando em conceitos mais amplos de nacionalismo e separatismo; coisas como o orgulho americano e o separatismo basco, que são uma parte importante da identidade das pessoas", disse o comunicado desta semana do Facebook, que não teve autor identificado.

Foi preciso dois anos de autocrítica —e uma reportagem denunciando sua política interna— para a rede social mais popular do mundo perceber que casos como o de Charlottesville misturam orgulho branco, nacionalismo, racismo e supremacia em um caldo bastante perigoso.

A rede social costuma fazer grande esforço para não cometer excessos em sua remoção de conteúdo, o que é compreensível. Mas não deixa de ser notável que essa bem vinda mudança nas políticas poderia ter acontecido muito mais rapidamente do que em dois anos. Não apenas isso: em duas semanas após um massacre de motivação similar em Christchurch, na Nova Zelândia, que teve novamente o Facebook —e o Google— usado como arma de ódio.

O comentário que resume sensatamente os passos de formiga do Facebook veio da primeira-ministra da Nova Zelândia, Jacinda Ardern. Para ela, a rede social tem "muito a fazer" ainda nesse território e que essa medida deveria ter sido incluído desde o início nos estatutos do Facebook. Difícil discordar dela.

2018, o ano que a casa caiu para o Facebook

Relembre os escândalos