O que os pesquisadores de inteligência artificial podem aprender com Frankenstein

Charlotte Gordon

  • Divulgação

Em 2015, Elon Musk anunciou a criação do OpenAI, uma firma de pesquisa sem fins lucrativos que, segundo ele, pretende "construir IA [inteligência artificial] segura e garantir que os benefícios da IA sejam distribuídos o mais amplamente possível". Como sugere o nome, o princípio básico da OpenAI é essencialmente democrático: disponibilizar a todos as descobertas da inteligência artificial.

Os críticos acreditam que não é aconselhável permitir o livre acesso à pesquisa de IA. O que acontecerá se essa pesquisa chegar às mãos de um "Doutor Maléfico", um tirano, um fanático ou um lunático? Outros temem que a IA ultrapasse seus controladores humanos e "se volte contra o mundo por conta própria".

Mas tanto os pesquisadores quanto os que se preocupam com a IA não devem procurar orientação no Exterminador do Futuro. Devem, sim, ler outra obra clássica da ficção científica, o romance "Frankenstein", de Mary Shelley. A história da invenção por um cientista malfadado de um ser humano artificial autodirigido demonstra que a melhor proteção contra um cientista maligno é um bom cientista, e a melhor maneira de solucionar problemas é pedir o conselho de outros pesquisadores. Na história de Shelley, Victor Frankenstein, o cientista brilhante mas de visão curta, cometeu três erros chaves que poderiam facilmente ter sido evitados por uma organização como a OpenAI.

1. Isolamento: um dos erros mais graves de Frankenstein foi manter sua pesquisa em segredo. Ele trabalhava isolado, ocultando seu progresso de seu professor e de outros cientistas. Assim, quando sua criatura iniciou uma série de assassinatos, eliminando todos os que se aproximavam dele, não havia ninguém para ajudar Frankenstein a destruir a criatura ou, no mínimo, modificar seu comportamento. Quando a crise veio, não havia ninguém a quem Frankenstein pudesse pedir conselhos.

E quando Frankenstein morreu, sua criatura continuou vagando pela terra, furiosa e decidida a causar mais destruição. Se Frankenstein tivesse sido um membro de um grupo de pesquisa, seus colegas cientistas poderiam ter ajudado a controlar a criatura e a apoiar Frankenstein nos desafios que surgiram no momento em que a criatura conquistou autonomia. No caso, Frankenstein não conseguiu administrar sua invenção e sucumbiu aos perigos do pesquisador isolado. Ele morreu de exaustão e desespero --uma tragédia que poderia ser evitada por um grupo como o OpenAI, que encoraja os cientistas a compartilhar suas descobertas e pedir o apoio dos outros.

2. Descuidar de sua criação: quando Frankenstein observou sua criatura pela primeira vez, ficou cheio de remorso e decepção. Fugiu da presença dela, desistindo da oportunidade de supervisionar, orientar e educar sua invenção. Em termos atuais, essas práticas são conhecidas como "aprendizado de reforço" e "supervisão escalonável", mas na essência se resumem ao mesmo princípio científico: o inventor deve observar, treinar e supervisionar cuidadosamente sua invenção. Isto deveria ser especialmente importante para Frankenstein, que tinha projetado sua criatura para ser o mais humana possível, com o objetivo supremo de encontrar amor e companheirismo. Quando a criatura despertou para sua nova vida e se encontrou só, experimentou isso como um golpe terrível, uma rejeição quase fatal por parte de seu "pai", e imediatamente saiu à procura de Frankenstein.

Enquanto Frankenstein considerava o amor um objetivo puramente positivo, benéfico aos seres humanos e a sua criatura, não pensou em incluir um mecanismo de segurança, como um interruptor de energia. Não, ele se orgulhava de ter projetado sua criação como um organismo livre e autoimpelido. Nem considerou adequadamente o que os cientistas hoje chamariam de função de recompensa da criatura --a busca de um objetivo, independentemente dos efeitos secundários. Por exemplo, um robô com uma função de recompensa de deslocar um objeto do ponto A ao ponto B muitas vezes destruirá objetos em seu caminho se não for adequadamente programado. Seguindo essas linhas, a busca intensa por amor da criatura significou a destruição impiedosa de tudo o que obstruía o caminho de amar e ser amado, inclusive represálias rápidas e sangrentas contra os que o repeliam. Quando a criatura encontrava aldeões inocentes que ficavam aterrorizados por sua presença e tomaram medidas para defender-se, ele os assassinou. Queimou a casa de uma família porque ela rejeitou sua aproximação.

3. Despreparo da sociedade e financiamento inadequado: a sociedade reagiu à criação de Frankenstein com medo e ódio --um obstáculo ambiental que impediu a criatura de atingir seu objetivo de amor, com trágicas consequências para todos os envolvidos. Devido à falta de financiamento, Frankenstein teve de contar com materiais de má qualidade na fabricação de sua criatura. Escondido pela escuridão, ele escavava túmulos e roubava partes dos cadáveres. Sem conseguir encontrar um corpo que não tivesse pelo menos uma parte decomposta, ele teve de usar partes de cadáveres diferentes. Em consequência, os membros da criatura não combinavam, e seus braços e pernas estavam em estágios diferentes de decomposição, o que não produzia uma estética agradável. A criatura também exalava um forte odor de decomposição.

Entretanto, talvez o principal motivo pelo qual a criatura de Frankenstein era recebida com tamanha antipatia era que ela se parecia muito com um ser humano --uma façanha de engenharia com consequências infelizes. Hoje nós chamaríamos a isso de sobrenatural efeito do vale, quando um agente artificial parece humano demais. Zumbis e androides são vistos como ameaçadores, enquanto R2-D2 e C-3PO são considerados adoráveis exatamente por causa de uma contradição central: eles não parecem humanos, mas são demasiado humanos em sua fragilidade e suas engraçadas idiossincrasias.

A criatura de Frankenstein, por outro lado, era feia, malcheirosa e assustadoramente forte. Sua cabeça era algo quadrada, graças à má qualidade do crânio que o inventor teve de usar. Isto era uma triste sina para a criatura, que muitas vezes chorava devido à profunda repulsa que os outros sentiam por ele. A criatura suplicou a Frankenstein que criasse outro monstro, ameaçando-o com a destruição da raça humana. Sem ninguém a quem pedir um conselho, Frankenstein começou a construção, mas antes de completar a segunda criatura ele a destruiu, por medo de que se reproduzisse com a primeira e aniquilasse a humanidade. Em troca, a criatura assassinou a noiva do próprio Frankenstein, e criador e criatura se atracaram em uma luta que acabou custando a vida de Frankenstein.

O que nos traz de volta à inteligência artificial e, mais especificamente, à OpenAI. Um empreendimento tão bem financiado possui os recursos para ajudar os cientistas a projetar suas criações com materiais e design excelentes. Ela incentiva os cientistas a trabalhar juntos, e não em concorrência ou em isolamento, de modo a poderem assessorar uns aos outros. E quando algo dá errado um grupo de cérebros pode trabalhar em conjunto para solucioná-lo.

Apesar da perícia científica limitada de Mary Shelley, ela previu muitos desafios que a IA enfrenta hoje. Poucos engenheiros são capazes de compreender ou prever os resultados de suas criações. Por exemplo, a Microsoft desenhou um "chatbot" [robô de conversa], um sistema de IA chamado Tay.ai, "para divertir e envolver" jovens de 18 a 24 anos. Mas em menos de 24 horas usuários hostis transformaram Tay em um "troll", com comentários racistas, misóginos e antissemitas, uma experiência de IA que deu errado. A inteligência artificial provavelmente não matará a todos nós --mas quanto mais pessoas trabalharem no problema menor será a probabilidade. A criatura de Frankenstein não precisava ser uma peste para a sociedade. Ele se tornou um monstro de vingança porque foi abandonado por seu criador.

Este artigo faz parte do capítulo Frankenstein de "Futurografia", uma série em que Future Tense apresenta aos leitores as tecnologias que definirão o amanhã. A cada mês escolheremos uma nova tecnologia e a desvendaremos. Future Tense é uma colaboração entre a Universidade Estadual do Arizona, New America e Slate.

Tradutor: Luiz Roberto Mendes Gonçalves

Veja também

UOL Cursos Online

Todos os cursos