Um cientista e seu Frankenstein

No início do mês, um eminente cientista britânico lançou uma granada no agitado formigueiro de pesquisadores e corporações obcecados pela Inteligência Artificial, ou IA, tecnologia também conhecida como aprendizado de máquina.

O cientista era Geoffrey Hinton, e a bomba foi a notícia de que ele estava deixando o Google – onde trabalhara nos últimos dez anos – porque queria ter liberdade para expressar seus medos sobre os rumos da tecnologia que ajudou a criar.

A indústria da tecnologia é uma fera que, ocasionalmente, apresenta surtos de exuberância irracional, ou seja, loucura. E, neste momento, estamos tomados por mais um desses surtos, desencadeado pela “IA generativa” – chatbots, grandes modelos de linguagem (LLMs) e outros artefatos exóticos possibilitados pela implantação maciça de aprendizado de máquina.

Recentemente, mais de 27 mil pessoas ficaram tão alarmadas com a corrida na direção de uma distopia movida pela máquina que emitiram uma carta aberta pedindo pausa de seis meses no desenvolvimento da tecnologia. “A IA avançada pode representar uma mudança profunda na história da vida na Terra”, disseram, “e deve ser planejada e gerenciada com cuidados e recursos proporcionais.”

Foi uma carta delicada. E os gigantes da tecnologia, que têm um longo histórico de indiferença às necessidades da sociedade, não vão deixar um grupo de intelectuais nervosos barrar sua nova oportunidade de dominar o mundo.

É por isso que a intervenção de ­Hinton foi tão significativa. Ele é o responsável pela pesquisa que deslanchou a tecnologia ­agora solta no mundo e esse seria, por si, um motivo bastante convincente para que se preste atenção no que ele diz. Além disso, se existe algo como um ­pedigree intelectual, Hinton é puro-sangue.

Seu pai, um entomologista, era membro da Royal Society. Seu tataravô foi ­George Boole, matemático do século XIX que inventou a lógica na qual se baseia a computação digital. Seu bisavô foi ­Charles Howard Hinton, matemático e escritor cuja ideia de uma quarta dimensão se tornou um elemento básico da ficção científica e foi parar nos filmes de super-heróis da Marvel. Sua prima, a física nuclear­ ­Joan Hinton, foi uma das poucas mulheres a trabalhar no Projeto ­Manhattan, que, durante a guerra, em Los Alamos, produziu a primeira bomba atômica.

Hinton foi obcecado pela IA durante toda a sua vida adulta, em especial pelo problema de como construir máquinas capazes de aprender. Uma abordagem inicial para isso foi criar um “Perceptron” – máquina modelada no cérebro humano e baseada no tipo simplificado de um neurônio biológico. Em 1958, um professor da Universidade Cornell, nos EUA, chegou a construir uma máquina mais ou menos assim e as redes neurais se tornaram um tema quente. Mas, em 1969, foi publicada uma crítica devastadora de dois professores do MIT e, de repente, as redes se tornaram história velha. Exceto por um pesquisador obstinado – Hinton –, que estava convencido de que elas ­possuíam a chave do aprendizado de máquina.

‘As gigantes da tecnologia estão presas em uma competição que pode ser impossível de parar’, diz Hinton

Como escreveu Cade Metz, repórter de tecnologia do New York Times, “Hinton seguiu sendo um dos poucos a acreditar que um dia cumpriria sua promessa, entregando máquinas que poderiam não apenas reconhecer objetos, mas também identificar palavras faladas, entender a linguagem natural, manter uma conversa e talvez até resolver problemas que os humanos não conseguiriam resolver sozinhos”.

Em 1986, ele e dois de seus colegas na Universidade de Toronto, no Canadá, publicaram um artigo histórico mostrando que haviam resolvido o problema de permitir que uma rede neural se tornasse aprendiz em constante aprimoramento. Eles usaram para isso uma técnica matemática chamada “retropropagação”. Num movimento astuto, Hinton batizou essa abordagem de “aprendizagem profunda”.

Em 2012, o Google pagou 44 milhões de dólares pela empresa incipiente que ele montou com seus colegas, e Hinton foi trabalhar para a gigante da tecnologia. No processo, liderou e inspirou um grupo de pesquisadores que fizeram grande parte do trabalho inovador subsequente da empresa em aprendizado de máquina, em seu grupo interno Google Brain.

Durante o tempo que passou no ­Google, Hinton não achou que seu trabalho pudesse nos levar a um futuro distópico. “Até muito recentemente”, disse, “eu pensava que essa crise existencial estivesse muito distante. Então, realmente não me arrependo do que fiz.”

Agora que se tornou um homem novamente livre, ele começou a explicar o porquê de sua preocupação: as novas máquinas revelaram-se aprendizes muito melhores que os humanos. “A retropropagação pode ser um algoritmo de aprendizado muito melhor do que o nosso. Isto é assustador (…). Temos computadores digitais que podem aprender mais coisas com mais rapidez e podem ensinar uns aos outros. É como se as pessoas na sala pudessem transferir instantaneamente para a minha mente o que elas têm em suas cabeças.”

Ele sugere ainda que, no fundo, o que mais o preocupa é que essa poderosa tecnologia esteja totalmente nas mãos de algumas grandes corporações. Até o ano passado, disse ele a Metz, o jornalista que traçou seu perfil, o Google agia como um administrador adequado da tecnologia, tomando cuidado para não liberar algo que pudesse causar danos.

“Mas, agora que a Microsoft ampliou seu mecanismo de busca Bing com um chatbot – desafiando o negócio principal do Google –, o Google está correndo para implantar o mesmo tipo de tecnologia”, afirmou. “As gigantes da tecnologia estão presas em uma competição que pode ser impossível de parar.”

E ele tem toda razão. •

Tradução de Luiz Roberto M. Gonçalves.

Publicado na edição n° 1260 de CartaCapital, em 24 de maio de 2023.