Uma corrida contra os bots

Durante minha entrevista com o cofundador da ­DeepMind, a empresa de pesquisa de Inteligência Artificial (IA) mais avançada do mundo, menciono que pedi ao ChatGPT que lhe fizesse algumas perguntas. Mustafa Suleyman finge que ficou irritado, porque atualmente está desenvolvendo seu próprio chatbot, chamado Pi, e diz que eu deveria tê-lo usado. Mas foi o ChatGPT que se tornou o astro da nova era da IA no início deste ano.

O truque realmente não funcionou – ou, pelo menos, foi o que pensei. As perguntas do ChatGPT eram, na maioria, genéricas. Pedi para ele se esforçar um pouco mais. “Certamente, vamos mergulhar em questões mais específicas e originais que podem suscitar respostas surpreendentes de Mustafa Suleyman”, ele vibrou.

Os resultados não melhoraram muito, mas, mesmo assim, eu jogo uma delas para Suleyman, que está sentado nos escritórios de sua startup em Palo Alto, Califórnia, na outra ponta de uma videochamada – ele saiu da DeepMind em 2019.

“Como você imagina o papel da IA no apoio aos cuidados de saúde mental no futuro?”, pergunto. E, de repente, sinto como se tivesse entendido exatamente por que ele faz o que faz.

“Acho que ainda não conseguimos lidar com o impacto da… família. Não importa quão rico ou pobre você seja, sua origem étnica ou o seu gênero: uma família gentil e solidária é um motor turbo”, diz ele. “E acho que estamos num momento de desenvolvimento da IA em que temos formas de fornecer apoio, incentivo e aconselhamento. Basicamente, pegamos a inteligência emocional e a destilamos. E acho que isso vai ­desbloquear a criatividade de milhões de pessoas.”

A Próxima Onda – Inteligência Artificial, Poder e o Maior Dilema do Século XXI. Mustafa Suleyman e Michael Bhaskar. Tradução: Alessandra Bonrruquer. Editora Record (420 págs., 79,90 reais) – Compre na Amazon

Não é o que eu esperava – a IA como melhor amiga. E a resposta torna-se ainda mais surpreendente quando ­Suleyman me conta sobre seu passado. Nascido em 1984 no norte de Londres, filho de pai sírio e mãe inglesa, ele cresceu em relativa pobreza. Aos 16 anos, seus pais se separaram e ambos se mudaram para o estrangeiro, deixando-o, com seu irmão mais moço, à própria sorte. Mais tarde, ele conquistou uma vaga em Oxford para estudar filosofia e teologia, mas desistiu depois de um ano.

“Fiquei frustrado por ser muito teórico. Eu era um empreendedor de coração. Enquanto estava em Oxford, eu administrava uma barraca de sucos de frutas e milk-shakes em Camden Town e, ao mesmo tempo, fazia caridade”, diz. “Parecia que eu estava em uma torre de marfim, quando poderia estar ganhando dinheiro e fazendo o bem.”

Aos 39 anos, ele continua afastado do pai e vive sozinho na Califórnia. Refletindo sobre o que espera da IA – “um reforço para o que você pode fazer, a maneira como você se sente sobre si mesmo” –, ele diz: “Eu, certamente, não tive isso. E acho que muitos também não”.

Mas será que a interação com um ­chatbot é um substituto para o companheirismo, o apoio e até mesmo o amor? É difícil não achar a ideia um pouco assustadora. “Não acho que seja um substituto, mas isso não significa que seja inútil. Acho que o chatbot pode preencher lacunas onde faltam pessoas. Será uma ferramenta para ajudar as pessoas a realizar tarefas.”

Os cenários mais perturbadores do livro vêm do reino da biotecnologia. Sapos e grilos já são produzidos com a precisão de chips

Esse é um aspecto ensolarado da IA. O lado sombrio é o que preocupa Suleyman em seu novo livro, escrito com o pesquisador Michael Bhaskar: A Próxima Onda – Inteligência Artificial, Poder e o Maior Dilema do Século XXI (lançado agora no Brasil). Trata-se de uma leitura genuinamente perturbadora, que expõe as forças inevitáveis que, dentro de uma ou duas décadas, transformarão completamente a política, a sociedade e a própria estrutura da vida.

A Próxima Onda destila o que está prestes a acontecer de forma vigorosamente clara. A IA, argumenta ­Suleyman, reduzirá rapidamente o preço para se atingir qualquer objetivo. Suas surpreendentes capacidades de economia de mão de obra e solução de problemas estarão disponíveis por baixo custo e para qualquer pessoa. Ele chama isso de “queda vertiginosa do custo da energia”.

A IA pode democratizar o simples ato de fazer as coisas. Isso significa contratar um assistente virtual para abrir uma empresa para você ou usar um enxame de bots construtores para fazer uma reforma. Mas, infelizmente, isso também significa planejar um ataque a um banco ou criar um vírus mortal usando um sintetizador de DNA.

Os cenários mais extraordinários do livro vêm do reino da biotecnologia. Os produtos manufaturados, diz, poderão um dia ser “cultivados” a partir de materiais biológicos sintéticos, em vez de montados, utilizando carbono sugado da atmosfera.

Em breve, prossegue ele, “os organismos serão concebidos e produzidos com a precisão e a escala dos atuais chips e software de computador”. Empresas como The Odin já vendem kits caseiros de engenharia genética que incluem sapos e grilos vivos por 1.999 dólares. Você pode até comprar uma salamandra feita por bioengenharia para expressar uma proteína fluorescente por 299 dólares – quando visitei o site, elas já estavam esgotadas.

Deixando de lado os animais de estimação que brilham no escuro, muitos desses avanços encerram enormes promessas: curar doenças, traçar um caminho para superar a crise climática e criar o que ­Suleyman chama de “abundância radical”.

Mas quatro aspectos da revolução da IA têm potencial catastrófico. Primeiro, a probabilidade de efeitos assimétricos. Estamos familiarizados com isso no contexto da guerra: um bando de combatentes maltrapilhos capazes de paralisar um Estado poderoso usando táticas de guerrilha. O mesmo princípio será aplicado aos maus atores na era da IA: um hacker anônimo com a intenção de derrubar os computadores de um sistema de saúde, por exemplo.

Lado ensolarado. Ao mesmo tempo que apresenta riscos difíceis de serem mensurados, a IA oferece benefícios irrecusáveis. “Será uma ferramenta para ajudar as pessoas a realizar tarefas”, diz o pesquisador britânico radicado nos EUA – Imagem: iStockphoto

Em segundo lugar, há o que Suleyman chama de hiperevolução. É incrivelmente difícil acompanhar o ritmo de refinamento dos processos de IA e garantir que, a cada mudança, sejam implementadas salvaguardas. Ameaças letais podem surgir e se espalhar antes que alguém as detecte.

Depois, há o fato de que a IA é, assim como a eletricidade, uma tecnologia de “uso universal”, que permeará todos os aspectos de nossas vidas. Seus benefícios serão atraentes demais para serem recusados, e o que é ruim virá junto.

Finalmente, há a “autonomia”. A IA é a única tecnologia na história com o potencial de tomar decisões por si. Embora isso possa invocar pesadelos no estilo de O Exterminador do Futuro, a autonomia não é necessariamente má: carros autônomos são, provavelmente, mais seguros do que os conduzidos por humanos.

Mas o que acontece quando a autonomia e a hiperevolução se combinam e a IA se refina, seguindo em novas direções por conta própria? Suleyman acha que os perigos são, muitas vezes, descartados com um aceno de mão, especialmente entre a elite tecnológica – hábito que ele chama de aversão ao pessimismo.

Ele gosta de se considerar alguém que enfrenta os problemas, em vez de racionalizá-los. Depois de deixar Oxford, ­Suleyman trabalhou em políticas públicas para a prefeitura de Londres e ajudou ONGs a chegar a uma posição comum durante a cúpula do clima de Copenhague.

Em 2010, ele entrou no mundo da IA ao criar a DeepMind com o gênio da codificação Demis Hassabis, irmão de um amigo de escola. A missão da DeepMind era desenvolver inteligência artificial geral, com adaptabilidade semelhante à humana. Quatro anos depois, a empresa foi adquirida pelo Google por 400 milhões de libras (o equivalente a 2,47 bilhões de reais), tornando Suleyman e seus colegas inimaginavelmente ricos.

Durante algum tempo, os esforços da DeepMind pareceram malucos e abstratos. Uma de suas conquistas foi usar a IA para derrotar o campeão do jogo GO. Mas sempre foi mais que isso. Em 2020, ela revelou um programa capaz de descobrir a estrutura das proteínas, um dos problemas mais diabólicos da ciência. Pesquisas minuciosas, feitas ao longo de décadas, descreveram a forma de cerca de 190 mil dessas moléculas que incluem insulina e hemoglobina. Apenas em 2022, a ­DeepMind decifrou mais 200 milhões delas.

Mas, dada a onipresença da IA e o ­caos que ela pode estar prestes a causar, será que Suleyman alguma vez se sentiu culpado pelo papel que teve em seu desenvolvimento? Não, porque ele vê a mudança tecnológica como decorrente da “consciência criativa coletiva”. “Essa não é uma forma de renunciar à responsabilidade”, diz. “É apenas uma avaliação honesta: muito raramente uma invenção fica guardada numa espécie de espaço privado durante muito tempo.”

Ao mesmo tempo, ele acredita que pode levar o setor a um maior espírito público social: “Sempre procurei fazer agregar a ideia de ética e segurança à IA generativa. Escrevi nosso plano de negócios em 2010, e a primeira página tinha a missão de construir inteligência artificial geral, de forma segura e ética, para o benefício de todos”. E ele avalia que essa posição moldou muitos outros laboratórios de IA.

A Próxima Onda é, em parte, um esforço para dar seguimento a esse papel de moldar e reforçar a consciência da indústria. Nele, Suleyman expõe dez estratégias de “contenção” que considera necessárias para manter a humanidade no meio-fio entre o colapso social, de um lado, e o totalitarismo possibilitado pela IA, do outro.

Dentre elas está aumentar o número de pesquisadores que trabalham em segurança (incluindo “interruptores de desligamento” para um software que amea­ce ficar fora de controle), dos atuais 300 ou 400 para centenas de milhares; equipar sintetizadores de DNA com um sistema de triagem que reportará quaisquer sequências patogênicas; e elaborar um sistema de tratados internacionais para restringir e regular tecnologias perigosas.

Dada a gama de cenários aterrorizantes que esboçou, Suleyman parece relativamente otimista. No mês passado, ele foi convidado à Casa Branca, com ­Amazon, Microsoft e Google, para aderir a um regime de supervisão voluntário. Dado o histórico da tecnologia em termos de autorregulação, isso pode parecer pouco. Mas ele garantiu que o governo Biden está atento ao problema: “Eu diria que eles estão levando a ameaça muito a sério”.

Para Suleyman, os únicos poderes realisticamente capazes de agir para conter a IA são os Estados, e ele está profundamente preocupado com o quão frágeis eles estão se tornando. “Para mim, essa ideia de que precisamos desmantelar o Estado e ter o máximo de liberdade parece realmente perigosa”, diz. “É por isso que, no livro, falamos de um corredor estreito entre o perigo do autoritarismo distópico e a catástrofe causada pela abertura.”

Suleyman não teme que as previsões sombrias de A Próxima Onda desencadeiem mais uma rodada de demissões nas empresas de tecnologia – seria a tal aversão ao pessimismo? “O livro é uma provocação”, diz.

Ele quer chamar atenção para seu plano de contenção e receber sugestões para melhorá-lo. Isso significa que não devemos levar suas advertências ao pé da letra? “Acho que o legal do que estou fazendo é que estou prevendo uma coisa. E muita gente não tem coragem de prever as coisas. Não acho que eu esteja errado, mas temos tempo para intervir.”

Parece que, tendo visto uma versão do futuro, ele está tentando desesperadamente mudar a linha do tempo, feito um Marty McFly – da trilogia De Volta para o Futuro – da vida real. “Exatamente”, ele ri. Esperemos que não esteja atrasado demais. •

---

Tradução: Luiz Roberto Mendes Gonçalves.

Publicado na edição n° 1285 de CartaCapital, em 15 de novembro de 2023.