Matar pedestres ou sacrificar o passageiro? O dilema dos carros autônomos

David Larousserie

  • Paul Sancya/AP

    Pedestre atravessa à frente de carro autônomo

    Pedestre atravessa à frente de carro autônomo

Você está ao volante de um carro, quando de repente dez pedestres atravessam na sua frente. Você vira o volante para desviar deles, ainda que possa bater em um muro e morrer, ou bate neles para poupar sua própria vida? Esse dilema cruel não é simples de resolver, ainda que muitos estudos em psicologia venham mostrando há muito tempo que os participantes dão preferência a se sacrificar para salvar mais vidas.

"Esse pode parecer um cenário abstrato e artificial, mas nós percebemos que esses experimentos filosóficos podem se tornar concretos, pois correspondem a decisões que os veículos autônomos terão de tomar", acredita Azim Shariff (Universidade do Oregon), um psicólogo que, juntamente com dois colegas, na revista "Science", atualizou para os dias de hoje essa questão, conhecida desde 1967 pelo nome de dilema do bonde.

Desde 2012, com as primeiras voltas do carro autônomo do Google, todas as montadoras de automóveis passaram a trabalhar no assunto. Mas qual algoritmo de direção deve-se usar para guiar esses carros? Aquele que opta pelo mal menor ou aquele que preserva a vida de seus passageiros? E, acima de tudo, o que pensa sobre isso o proprietário-passageiro? Três pesquisadores do MIT, da Universidade do Oregon e da Escola de Economia de Toulouse, agora têm algumas respostas.

Depende dos laços com os passageiros

Seus procedimentos não envolveram enquetes, mas sim experimentos psicológicos online que consistiam em pedir a opinião dos participantes diante de situações diversas que variavam de acordo com o número de pedestres e os laços familiares ou de amizade com o passageiro. Seis testes foram conduzidos durante seis meses em 2015 junto a 1.928 pessoas recrutadas através da plataforma Mechanical Turk da Amazon.

Como era de se esperar, os participantes responderam de acordo com a literatura científica: para salvar dez pedestres, 75% deles disseram que era mais ético que o veículo sacrificasse o passageiro. Essa proporção quase não varia para um número acima de dez pessoas, mas diminui nos casos em que há um número menor de pedestres.

Em compensação, esse posicionamento moral enfraquece quando os testes colocam o participante em posição de estarem dentro do carro, talvez com membros de sua família. As cobaias podem dar uma nota de 0 a 100 para avaliar as diferentes situações. A nota é em média de 70 para a escolha que consiste em privilegiar o carro minimizando as perdas, quando a cobaia é o único passageiro, mas vai para 60 quando ele está acompanhado de membros de sua família.

Ela cai ainda mais, para quase 40%, quando se trata de indicar sua propensão a comprar um carro como esse. Os participantes na verdade preferirão um carro que os proteja, a um que seja propenso a sacrificá-los.

Assista à primeira "barbeiragem" de carro autônomo do Google

  •  

"É um clássico dos dilemas sociais, onde o interesse egoísta pode passar à frente do interesse coletivo", observa Jean-François Bonnefon, um dos coautores, pesquisador na Escola de Economia de Toulouse. O pagamento de impostos é outro desses famosos dilemas. "Mas a novidade é que pela primeira vez essa escolha surge diante de objetos programados para nos matar, ou seja, dispostos a sacrificar o proprietário!", ele diz.

Antecipando o desenvolvimento dessas tecnologias, os pesquisadores também quiseram saber se as agências reguladoras poderiam agir para favorecer esses carros que supostamente reduzem em 90% o número de acidentes, como lembra seu artigo. "Para resolver os dilemas sociais, o papel dos governos é garantir a cada indivíduo que todo mundo respeitará as regras. Então é tentador tornar obrigatórios algoritmos 'utilitaristas', minimizando as perdas", explica Jean-François Bonnefon. E é tentador também estimar o efeito de tais medidas, algo que os pesquisadores fizeram em seus dois últimos testes.

O resultado é que os participantes julgam bastante mal a ideia de tornar obrigatórios tais programas e ainda mais de comprar veículos equipados dessa forma. A conclusão paradoxal é evidente, "a regulação poderia ser necessária, mas contra-producente", escrevem os autores. Ao resistir à compra desses veículos, menos vidas seriam salvas.

Regulação contra-producente

No entanto, não há certeza de que esse experimento de psicologia lhes seja tão útil. "Na verdade, há poucas situações onde tais dilemas surgem. O veículo procura reduzir os acidentes e antecipá-los. De qualquer forma ele reduzirá os danos", ressalta Jean-Gabriel Ganascia, especialista em inteligência artificial no laboratório de informática da Universidade Paris-6.

No dia 1º de dezembro de 2015, no "Washington Post", Chris Urmson, diretor da divisão de veículos autônomos no Google, observava que esses dilemas "são problemas divertidos para filósofos, mas na vida real os seres humanos não reagem assim". Ele também constata que os engenheiros buscavam evitar as colisões com os usuários vulneráveis nas vias (ciclistas, pedestres), em seguida os outros veículos, e por fim os objetos que não se mexem. O carro não pode decidir qual pessoa faria mais sentido atingir no caso de uma colisão inevitável.

"Considerar somente a soma dos diferentes males simplifica demais a situação e gera debates infinitos. É preciso levar em conta a idade das pessoas, o fato de que elas tenham o direito ou não de estar nesse lugar na via... Isso leva a cálculos intermináveis", acredita Jean-Gabriel Ganascia. "Essa simplificação é discutível do ponto de vista ético."

"Isso permite explorar e identificar categorias de problemas difíceis, e também ter uma maior consciência dos custos e benefícios desses veículos", observa Jean-François Bonnefon. Além disso, a equipe não para por aí. Ela propõe em um website, o moralmachine.mit.edu, que se expressem essas escolhas em situações diversas, ou até imaginar outras em função do sexo e da idade das pessoas, da presença de um ladrão, de um médico...

Tradutor: UOL

Veja também

UOL Cursos Online

Todos os cursos