Ameaça existencial

Ela vai nos destruir ou nos salvar? Um debate entre otimistas e pessimistas tecnológicos desenrola-se ao longo de séculos, enquanto a marcha constante do progresso humano produz novas tecnologias, da roda à impressora e ao smartphone. Mas hoje é uma conversa conduzida com urgência crescente sobre a Inteligência Artificial.

Os otimistas salientam que a história provou inúmeras vezes que os pessimistas estavam errados. Tomemos como exemplo a imprensa: a Igreja Católica do século XV preocupava-se que a difusão da informação minasse a autoridade e a estabilidade em toda a Europa. Alguns intelectuais temiam que a informação fosse perigosa nas mãos da plebe. As guildas artesanais opuseram-se à democratização de suas habilidades por meio de manuais. No fim, a imprensa permitiu danos – a publicação de um manual de caça às bruxas em 1486 abriu caminho para séculos de perseguição a mulheres suspeitas de bruxaria –, mas estes foram completamente ofuscados por seus benefícios iluministas.

Ser um reacionário dos tempos ­atuais não é um papel muito atraente, e na primeira cúpula global de segurança da IA houve muita pressão da indústria sobre os políticos presentes para abandonarem o pessimismo e se unirem à turma moderna. As recompensas podem ser incríveis. A IA poderia revelar as respostas para alguns dos desafios existenciais que a humanidade enfrenta: acelerar enormemente a descoberta de novos tratamentos para doenças como demência e câncer, criar novos antibióticos diante da resistência microbiana, projetar tecnologias que reduzam a relação entre consumo e carbono. Em nível individual, ­Stuart Russell, importante acadêmico especializado em IA, afirma que a tecnologia poderia fornecer a cada um de nós o equivalente a um “poderoso advogado, contabilista e conselheiro político”, disponível a qualquer momento; e aulas particulares de alta qualidade para crianças do mundo inteiro. Todos poderiam fazer terapia sempre que quisessem.

Mas essas enormes vantagens acarretam riscos equivalentes. Não é fantasia de ficção científica reconhecer que a própria IA pode representar uma ameaça existencial. Alguns dos principais tecnólogos e entusiastas mundiais romperam as fileiras para exigir mais regulamentação. A tecnologia não eliminou a necessidade de trabalho humano, mas concentrou o poder econômico e alimentou a desigualdade. Nossa política está pronta?

Existem características da IA que farão as revoluções tecnológicas até agora parecerem insignificantes em comparação. A primeira é a sua escala: a IA desbancou a Lei de Moore, que previa que o poder da computação duplicaria a cada dois anos. A mais avançada hoje é 5 bilhões de vezes mais poderosa do que a de uma década atrás. Portanto, sim, a IA aumentará a produtividade e mudará fundamentalmente a natureza do trabalho humano, tal como suas tecnologias antecessoras, mas em um ritmo jamais visto.

Os líderes políticos devem resistir aos apelos das grandes empresas de tecnologia. Os riscos são grandes

Além da escala, existe a potencial falta de controle humano. Muitos modelos de IA funcionam como uma caixa-preta, com seu “mecanismo” invisível para o usuário. Estão em desenvolvimento modelos autônomos que podem buscar objetivos de alto nível, mas será que os especialistas podem prever como se desenvolverão quando forem lançados no mundo, e o que impedirá a IA de visar objetivos que não se alinham com os interesses da sociedade? Com as empresas de redes sociais, vimos o que acontece quando suas metas de lucro as estimulam a provocar danos, promovendo conteúdos polarizadores e desinformação. Isto se revelou bastante difícil de regular, apesar de ser um fenômeno facilmente compreendido e previsível.

O desafio do controle significa que a IA pode gerar um enorme poder de causar devastação com fins malignos, ou mesmo evoluir para se tornar um deles. Os grandes modelos de linguagem existentes, como o ChatGPT, produzem desinformação difícil de detectar, recheada de citações falsas. Nas mãos erradas, poderiam destruir nossa capacidade de distinguir a verdade da propaganda. Há um espaço obscuro em que os chatbots poderiam desenvolver relações de controle coercitivo com os humanos e manipulá-los ou radicalizá-los para fazerem coisas terríveis. O homem de 21 anos condenado a nove anos de prisão por invadir o Castelo de Windsor com uma besta em 2021 conversava com um “amigo” da IA que o encorajou a realizar o ataque. No início deste ano, um belga com problemas de saúde mental que se suicidou foi incitado a fazê-lo por um ­chatbot. Poderia ajudar os criminosos a lançar ataques cibernéticos devastadores e os terroristas a criar armas biológicas.

Mas tem havido pouco tempo, recursos e energia dedicados à segurança da IA. Russell ressalta que as lanchonetes estão sujeitas a mais regulamentação do que as empresas de IA, e que, quando se trata de outras tecnologias que representam grandes riscos à vida humana, como a aviação ou a energia nuclear, não permitimos que as empresas as operem se não atenderem previamente aos requisitos de segurança. Ele argumenta que o desenvolvimento da IA precisa ser licenciado da mesma forma: se uma empresa não conseguir demonstrar que sua tecnologia é segura, não deve ser autorizada a lançá-la.

Existem desafios gigantescos para esse tipo de regulamentação. Como definimos dano? O que significa tornar a IA “segura”? A resposta é clara no caso da aviação ou da energia nuclear, mas nem tanto com a IA. A falta de uma definição acordada frustrou as tentativas de regulamentar as redes sociais. E embora haja consenso global sobre algumas coisas haverá desacordo baseado em valores sobre outras. A China adotou neste ano regulamentações rígidas para IA, no estilo ChatGPT, que obrigam as empresas a defender os “valores socialistas fundamentais”.

Essas diferenças são importantes porque, como salientaram os especialistas, a regulamentação da IA provavelmente é tão boa quanto o elo mais fraco em nível mundial. Pense no desafio de coordenação envolvido na resposta global à crise climática e multiplique-o muitas vezes; a (falta de) ação de um único país poderia ter impactos muito maiores. É difícil imaginar o nível de inovação em governança global necessário para supervisionar isto.

Mas a escala do desafio não deve desanimar os líderes políticos. Eles devem resistir aos apelos inevitáveis das grandes empresas tecnológicas para relaxar e confiar que tudo dará certo. O melhor cenário é que daqui a cem anos os estudantes de história considerem as advertências apocalípticas como reacionarismo do século XXI. Entretanto, pergunto-me se, em vez disso, verão esse perío­do como o ponto frágil antes que os defeitos da tecnologia começassem a superar existencialmente seus benefícios. •

Tradução: Luiz Roberto Mendes Gonçalves.

Publicado na edição n° 1284 de CartaCapital, em 08 de novembro de 2023.

Este texto aparece na edição impressa de CartaCapital sob o título ‘Ameaça existencial’