Os carros-robôs podem confiar em nós?

John Markoff

Em San Francisco (EUA)

  • Christie Hemm Klok/The New York Times

    Simulador de direção no Instituto de Pesquisa da Toyota, em Los Altos, Califórnia (EUA)

    Simulador de direção no Instituto de Pesquisa da Toyota, em Los Altos, Califórnia (EUA)

Três anos atrás, o projeto de carro autodirigido da Google subitamente passou de desenhar um veículo capaz de se conduzir sozinho na maior parte do tempo, ocasionalmente precisando de supervisão humana, para um robô de baixa velocidade sem freio, acelerador ou volante. Em outras palavras, a condução humana não seria mais permitida.

A companhia tomou essa decisão depois de dar carros autodirigidos a funcionários da Google para ir e voltar do trabalho e registrar o que os passageiros faziam enquanto o sistema autônomo conduzia. Câmeras no interior dos carros gravaram os empregados pulando para o banco de trás, saindo pela janela de um carro e até se beijando com o carro em movimento, segundo dois ex-engenheiros da Google.

"Vimos coisas que nos deixaram um pouco nervosos", disse na época Chris Urmson, um roboticista que era então diretor do projeto. Mais tarde ele mencionou em um blog que a companhia tinha localizado diversos atos "tolos", inclusive o motorista virar-se de costas com o carro em movimento.

Johnny Luu, um porta-voz da iniciativa de carro autodirigido da Google, hoje chamado Waymo, desmentiu o relato, mas disse que comportamentos como um funcionário vasculhar o banco traseiro à procura do notebook com o carro em movimento e outros atos "egrégios" contribuíram para encerrar o experimento.

Nós, humanos, somos facilmente distraídos por nossos games, telefones e parceiros. E os engenheiros automotivos, designers de interação por computador e, sim, advogados, se perguntam se os carros autodirigidos em que estão trabalhando poderão um dia realmente contar conosco em uma emergência.

Os engenheiros dizem acreditar que os carros serão inteligentes o suficiente para fazer toda a condução daqui a cinco ou dez anos. Mas até então o que passa por condução autônoma será um balé delicado entre ser humano e máquina: os humanos podem ter de segurar o volante de repente, quando o computador não conseguir decidir o que fazer.

Para desenhar um caminho de desenvolvimento até a completa autonomia, a indústria automotiva estabeleceu cinco níveis de controle humano-máquina, que vão da direção manual --nível 0-- até autonomia completa, nível 5. No meio, o nível 3 é uma abordagem em que a inteligência artificial que dirige o carro pode pedir a uma pessoa que assuma o volante em uma emergência.

Mas muitos tecnólogos automotivos duvidam de que seja possível contar com a total separação entre humano e máquina, por causa do desafio de rapidamente fazer uma pessoa distraída controlar um veículo em movimento.

"Você realmente quer não ter controle no último minuto?", indagou Stefan Heck, executivo-chefe da Nauto, uma startup sediada em Palo Alto, na Califórnia, que desenvolveu um sistema que observa ao mesmo tempo o motorista e o ambiente externo para dar alertas e informações de segurança. "Há uma discussão muito boa sobre se será possível solucionar o problema da autonomia."

Dados da Nauto mostram que um "evento de distração do motorista" ocorre, em média, a cada 6,4 km. Heck disse que há evidências de que a desatenção dos motoristas humanos foi um fator em metade das cerca de 40 mil mortes no trânsito nos EUA em 2016.

Christie Hemm Klok/The New York Times
Simulador de direção no Instituto de Pesquisa da Toyota, em Los Altos, Califórnia (EUA)

No mês passado, um grupo de cientistas da Universidade Stanford apresentou uma pesquisa que mostra que a maioria dos motoristas precisava de mais de cinco segundos para recuperar o controle de um carro quando estavam jogando ou falando ao telefone e eram subitamente requisitados a prestar atenção na condução.

Outro grupo de pesquisadores de Stanford publicou pesquisa em "Science Robotics" em dezembro que salientou um problema mais sutil. Recuperar o controle de um carro é uma experiência muito diferente em alta ou em baixa velocidade, e adaptar-se à sensação do volante exigiu um tempo significativo mesmo quando os participantes do teste estavam preparados para isso.

"Há um processo de aprendizado do motor quando eu não estou controlando o veículo e tenho de assumir o controle", disse J. Christian Gerdes, um professor de engenharia mecânica em Stanford que foi um dos autores do estudo.

O desafio da transmissão do controle é ampliado pelo que é conhecido como "excesso de confiança" pelos engenheiros automotivos.

Foi o que a Google observou quando viu que seus engenheiros não prestavam atenção durante trajetos com protótipos de carros autodirigidos. A desatenção do motorista esteve envolvida em uma recente investigação da Administração Nacional de Segurança no Tráfego em Rodovias que absolveu o Tesla em um acidente na Flórida em 2016 em que um sedã Model S entrou embaixo de um guindaste, matando o motorista.

Solucionar a questão do excesso de confiança é chave para os veículos autônomos na categoria nível 3, em que o computador transfere a direção para uma pessoa.

O primeiro veículo comercial a oferecer autonomia nível 3 deverá ser lançado no próximo mês pela Audi. Uma versão de seu modelo A8 de luxo poderá trafegar em rodovias andando e parando a até 60 km/h, permitindo que os motoristas façam outras tarefas. O veículo deverá avisar os motoristas em emergências, dando-lhes de 8 a 10 segundos para intervir.

Apesar desses progressos limitados, muitos tecnólogos automotivos ainda estão indecisos sobre se a tecnologia poderá um dia funcionar tranquilamente enquanto um motorista humano estiver lendo e-mails ou jogando.

"Acredito que a condução autônoma nível 3 é insolúvel", disse John Leonard, um professor de engenharia mecânica no Instituto de Tecnologia de Massachusetts (MIT) que coletou exemplos detalhados de situações de condução que são atualmente impossíveis para os sistemas de direção autônoma mais evoluídos. "A ideia de que um ser humano pode ser um substituto confiável é uma falácia."

Apesar do ceticismo generalizado, porém, a indústria automotiva está gastando firmemente em tecnologias de inteligência artificial destinadas a tornar os carros mais seguros antes que eles sejam totalmente autônomos. A ideia é que a tecnologia de autocondução (luzes de advertência, freios de emergência) podem ajudar as pessoas a ser motoristas mais seguros.

Gill Pratt, um roboticista que dirige uma ambiciosa iniciativa de pesquisa da Toyota no Vale do Silício (Califórnia), em Ann Arbor (Michigan) e Cambridge (Massachusetts), disse que não vê as notas de automação --de 1 a 5-- como uma linha reta de progresso técnico.

Ao contrário, para ele as notas são maneiras diferentes de abordar a mesma questão de segurança nos carros, independentemente de quem ou o que esteja no controle.

Diferentemente de muitos no setor que dizem que os avanços no aprendizado de máquinas em breve tornarão os carros autodirigidos mais seguros do que os conduzidos por pessoas, Pratt insistiu em tecnologias de "guardião" menos futuristas que possam ser acrescentadas a um carro, da mesma maneira que freios antitravamento, controle de estabilidade, luzes de advertência de ponto cego e outras funções que se tornaram comuns.

Uma possível nova característica que está sendo criada pelo Instituto de Pesquisas da Toyota é acrescentar a capacidade não apenas de parar quando um pedestre é avistado, mas também desviar para evitar um acidente, segundo ele.

A Toyota também está trabalhando em tecnologias que ajudarão os motoristas humanos a continuar vigilantes quando tiverem de supervisionar um sistema de condução autônoma por longos períodos. Já existe uma rica literatura que explora os desafios de manter pilotos de avião vigilantes; os pesquisadores da Toyota dizem que poderão desenvolver técnicas para manter a atenção dos motoristas humanos.

Pratt disse que a Toyota não desistiu do desafio da condução em nível 3. Mas para fazer um carro nível 3 seguro, segundo ele, será necessário desenvolver tecnologias de previsão de riscos em até 15 segundos.

O excesso de confiança ainda será um desafio duro de superar, porém. "Imagine se o piloto automático se desligar uma vez em 16 mil quilômetros", disse ele. "Você será tentado a confiar demais no sistema. E quando ele apresentar defeito você não estará preparado."

Se todos esses problemas forem resolvidos, há mais uma pergunta: as pessoas realmente vão usar carros autoconduzidos?

Em setembro passado, pesquisadores do Instituto de Pesquisas de Transporte da Universidade de Michigan publicaram os resultados de uma pesquisa que relata que para 62% dos americanos é improvável que haja um aumento de produtividade em consequência dos carros autoconduzidos.

Os pesquisadores descobriram que 23% dos americanos se recusariam a dirigir carros autônomos e 36% ficariam tão nervosos que não tirariam os olhos da estrada. Outros 3% disseram que ficariam enjoados e não poderiam aproveitar os carros.

"Também é importante o fato de que as atuais viagens em veículos leves duram em média 19 minutos, um tempo muito curto para uma atividade produtiva sustentada ou um sono revigorante", concluíram os pesquisadores.
 

Tradutor: Luiz Roberto Mendes Gonçalves

Veja também

UOL Cursos Online

Todos os cursos