Opinião: "Quando a inteligência artificial vira burrice, a verdade desaparece"

Fator de Mudança: Facebook e Twitter removeram ou suspenderam milhões de páginas, grupos e contas com o objetivo de combater bots e trolls.

Em 20 de junho de 2017, a chamada do noticiário noturno da BBC deu ruim: durante quatro minutos, a chamada de "notícia de última hora" se alternava com fotos aleatórias e tomadas de câmara em movimento do âncora, sentado pacientemente, em silêncio. Os elementos da sequência familiar viraram uma salada; bagunçados, não tinham sentido algum.

A cena foi resultado de um problema técnico, da queda do sistema - mas também serviu para mostrar o que acontece quando a automatização sai de controle. Décadas de furos finalmente resultaram em falhas de reportagem.

E seu significado continua válido, pois, nesta nova era de burrice artificial, a ruptura tecnológica se tornou destrutiva, fazendo da realidade sua maior vítima. 

Ele previu o infocalipse, agora teme pela democracia

Leia a entrevista

É uma diferença enorme em relação ao período inicial da expansão digital, quando a comunicação via internet era vista como instrumento para promover a troca e a compreensão globais. O fato é que a época em que a palavra "global" quase que obrigatoriamente vinha acompanhada da palavra "digital" com certeza já passou.

As novas elites de muitos países ocidentais não são mais cosmopolitas e globalistas, mas sim isolacionistas e identitárias. Antigamente, a tecnologia servia para conectar e mediar; o mundo online parecia uma visão Disney do multiculturalismo, promovendo uma tolerância estéril vinda de cima. Hoje, divide e fragmenta; identifica e classifica as pessoas.

Mária Schmidt, historiadora próxima ao líder iliberal húngaro Viktor Orban, alega que a inteligência artificial e a automatização eventualmente reduzirão a demanda por mão de obra e, consequentemente, minguarão a imigração. Se for assim, essa última não só prejudica os trabalhadores locais, como beneficia sociedades fechadas e homogêneas. E arruína a conversa pública, com bots e botnets que fingem ser pessoas de verdade, espalhando desinformações virais e notícias truncadas.

Essa ascensão da estupidez artificial é a antítese, ou melhor, a representação dos milhões de priminhos desprezíveis da IA.

Da mesma forma que o socialismo em prática está separado por um abismo das gloriosas promessas dos revolucionários, ela é a versão medíocre e mesquinha da sublime inteligência das máquinas, que elevariam o nível e melhorariam a qualidade da vida humana. 

Você é o produto: cada passo que você dá na web gera rastros e essas informações são usadas para te vigiar e influenciar o seu comportamento

Entenda

Todo tipo de aplicativo menor de comunicação é burrice artificial. E embora não seja marcante, seus efeitos na vida real são, no mínimo, desconcertantes: a destruição do discurso público e a polarização das populações; salários e horas trabalhadas gerenciados por algoritmos; o serviço ao consumidor, administrativo, assistencial ou legal eliminado e substituído por assistentes virtuais ou chatbots.

Mesmo as coisas mais simples, como comprar uma passagem aérea, de trem ou um ingresso para um show, se tornaram tarefas árduas e irritantes em uma época de prática tarifária orientada e confusa. Em vez de uma realidade comum e um conjunto de regras que se apliquem a todos, temos frustração, disfunção e desperdício de tempo e energia preciosos.

E não é só a automatização que está acabando com a sociedade moderna; as poucas plataformas a quem efetivamente pertencem o âmbito da comunicação digital atual operam sem um sistema sério de verificação e comprovação, ou mesmo uma competição básica em um mercado aberto. Seus algoritmos são proprietários e desconhecidos; são poucas as alternativas, quando existem, para os consumidores. 

Qual o impacto da inteligência artificial nos nossos empregos?

Entenda

O resultado é um ciclo sem fim de notícias truncadas e meias verdades, "esticadas" e repaginadas ad nauseam - porque na era da estupidez artificial, a verdade é preterida pela popularidade e pelo alcance.

As normas do reality show encontraram a sustentação perfeita nessa era digital. O que vale não é que não há realidade, mas sim que cada fato vale por si mesmo, competindo contra todos os outros, enquanto as redes sociais multiplicam as versões alternativas de cada um. Se você não gosta da realidade que está enfrentando, tudo bem, tem sempre outra, sob medida para as suas preferências.

Este é o nosso mundo digital existente, real: nada mais do que ondas que surgem de hora em hora de agitação febril e tóxica, exibidas em canais populares ultrapassados, que desencorajam a inovação e a experimentação, afogadas em anúncios torturantes, sugando a atenção e a alma das pessoas. 

Uma verdade impopular não tem condições de sobreviver online em um mundo assim, pois a tração leva vantagem sobre a veracidade. E para os autômatos e algoritmos artificialmente estúpidos, a realidade é definida como quantidade bruta, por classificação, popularidade e eliminação.

A verdade não se encaixa nesse molde.

Ela é uma obra com detalhes desordenados e caóticos que, apesar disso, exigem atenção e nunca fazem sentido integralmente. É geralmente complicada demais para ser divertida, e talvez não agrade a todos. Pode não facilitar a vida, nem torná-la mais eficiente - de fato, é exatamente o contrário. Se a verdade não é um item comercializável, como um ambiente limpo ou um bairro habitável, as plataformas que gerenciam a comunicação digital parecem mostrar pouco interesse em mantê-la, permitindo que as notícias truncadas se propaguem. 

Ex-presidente conta como a nanica Estônia enriqueceu e se tornou uma referência na tecnologia

Saiba mais

Como resultado, reportagens falsas, boatos digitais e teorias de conspiração deixaram de ser marginais para ocupar as primeiras páginas. E também criaram uma nova realidade. Enquanto escrevo este artigo, uma multidão marcha em Chemnitz, no que era a Alemanha Oriental, berrando palavras de ordem contra os imigrantes e perseguindo quem quer que não seja branco. E não empunham forcados, mas sim celulares de última geração.

Afinal de contas, as atividades do Facebook alemão estão relacionadas à violência supremacista. Reuniões racistas são organizadas em questão de horas nas redes sociais, e os algoritmos dessas plataformas ampliam a divisão social e beneficiam as organizações extremistas. A tecnologia digital reforça os movimentos autoritários e faz com que o nativo digital facilmente se transforme em um nativista digital.

Os fatos, por outro lado, quase sempre não têm nada de espetacular. Não melhoram, e até se deterioram, se são "curtidos" ou compartilhados. Tanto os fatos como a verdade dependem de instituições fortes, e não consumidores, para defendê-los: sistemas judiciários, comunidades científicas, uma imprensa independente. Não é coincidência que todas essas estejam sendo vilipendiadas e enfraquecidas ao redor do mundo - basta ver como os manifestantes em Chemnitz estão furiosos com a "imprensa mentirosa", como estão cortando as verbas das pesquisas científicas em várias partes do mundo ocidental e as tentativas de realinhamento partidário das instituições judiciárias como a Suprema Corte polonesa.

Há muitas soluções de curto prazo para ajudar a impedir que as notícias truncadas se propaguem ainda mais: confrontar ou regulamentar o monopólio das plataformas é uma delas; tornar os algoritmos transparentes e abertos à verificação, legislação e debate públicos é outra. Podemos banir os bots e as contas anônimas das redes sociais e consolidar as instituições com regras duráveis e já testadas para estabelecer e confirmar os fatos.

Acontece que não podemos ter a faca e o queijo da factualidade na mão. A verdade raramente é agradável ou lucrativa. Para esperar que a popularidade de um fato corresponda à sua veracidade não é preciso ser artificialmente estúpido - basta ser só burro mesmo.

* Hito Steyerl é artista plástica, cineasta e escritora cujas obras exploram a imprensa, a tecnologia e a distribuição de imagens.