Até a inteligência artificial aprendeu a aumentar preços para nos ferrar

Algoritmos calculam até o quanto gastamos em dinheiro. Sabe o preço da corrida do Uber? Foi um algoritmo que o definiu. E quando o preço da passagem aérea muda de um dia para outro? Também. Os preços no site da Amazon? Idem. Então pesquisadores de inteligência artificial fizeram um teste para saber se eles pelo menos calculam preços pensando no nosso bem. A resposta curta: não muito.

O aprendizado de reforço é uma categoria do aprendizado de máquina em que a IA aprende na base da tentativa e erro, supostamente melhorando de desempenho com o tempo. Segundo o site "MIT Technology Review", pesquisadores da Universidade de Bolonha, na Itália, criaram dois algoritmos simples de precificação baseados no aprendizado de reforço e os soltaram em um ambiente controlado para uma simulação.

Esse modelo de aprendizado por reforço é o mesmo usado que a AlphaGo, do Google, usou-a para bater os melhores jogadores humanos no antigo jogo de tabuleiro Go.

E o que aconteceu? No início do teste, os dois algoritmos lutaram entre si para reduzir os preços. Mas isso acabou sendo temporário. Eventualmente, um dos algoritmos começou a exibir "comportamento auto-reativo", que os pesquisadores afirmaram ser "um sinal distinto de conluio genuíno, e seria difícil explicar o contrário".

Em resumo, os dois algoritmos completamente autônomos aprendiam a responder ao comportamento um do outro e rapidamente puxavam o preço dos bens para acima do que teria sido se tivessem operado sozinhos no mesmo ambiente.

"Eles aprenderam a conspirar puramente por tentativa e erro", dizem os pesquisadores, "sem conhecimento prévio do ambiente em que operam, sem se comunicarem uns com os outros e sem serem especificamente projetados ou instruídos a conspirar".

Em resumo, o experimento serviu para mostrar que mesmo tentando ser justos, os algoritmos de precificação se enroscaram em uma antiga --e maléfica-- tática capitalista: se seu negócio tem pouca ou nenhuma concorrência, é possível subir os preços em "parceria" para as companhias lucrarem mais e prejudicarem o consumidor.

Vale lembrar que em outubro passado a Amazon teve que desativar outro algoritmo seu dedicado a recrutar futuros funcionários. Ele estava sendo machista: o sistema penalizava currículos que incluíam a palavra "mulheres". Então é de esperar que os algoritmos de preços possam ser injustos sem uma intervenção humana mais veemente.