O grito de Geoffrey Hinton

Quando Geoffrey Hinton, o “Pai da Inteligência Artificial”, anunciou sua saí­da do Google, o gesto tomou contornos de manifesto histórico. Longe de ser uma aposentadoria silenciosa, foi um ato de ruptura que carrega o peso de um alerta à humanidade: as tecnologias que deveriam ampliar possibilidades estão, sem vigilância e responsabilidade, pavimentando o terreno para a corrosão dos pilares democráticos.

Hinton, que dedicou décadas ao desenvolvimento do aprendizado profundo e das redes neurais, confessa agora um amargor inédito. Sua pesquisa acadêmica é a base invisível de toda a revolução digital recente, do ChatGPT ao reconhecimento facial, passando pelos algoritmos de recomendação que moldam preferências, opiniões e consumos em escala planetária. Mas é justamente esse sucesso que o leva à angústia: a IA, elevada ao patamar de ferramenta definitiva de persuasão, pode ser instrumentalizada para manipular massas e distorcer realidades em níveis jamais vistos.

Essa preocupação ganha urgência diante de exemplos concretos que já testaram, e em muitos casos abalaram, a confiança em democracias modernas. O escândalo da Cambridge Analytica, que usou dados de milhões de usuários do ­Facebook para direcionar propaganda política personalizada nas eleições dos EUA em 2016 e no Brexit, expôs o potencial destrutivo dos algoritmos a serviço de interesses opacos. Em outros casos, como as eleições presidenciais brasileiras e francesas, campanhas de desinformação amplificadas por robôs e deepfakes colocaram a verdade factual em xeque.

Não há mais ficção científica, alerta Hinton. Sistemas capazes de criar áudios, vídeos e textos sintéticos indistinguíveis dos reais já fragmentam o tecido social, personalizam narrativas que radicalizam posições políticas e criam uma névoa de suspeita sobre todo o processo democrático. O que está em jogo não é apenas a imagem pública de políticos ou o resultado de uma eleição, mas a própria capacidade coletiva de discernir fatos, debater com base em evidências e decidir autônoma e livremente.

O epicentro da preocupação de Hinton é, sobretudo, político e ético. Ele foi taxativo ao dizer que mesmo dentro do Google era difícil questionar o rumo tomado pela indústria, tamanha a pressão dos interesses corporativos. Sua saída revela a gravidade do dilema: a ciência e a inovação, tantas vezes celebradas por sua neutralidade, foram sequestradas por uma lógica de negócios que favorece a expansão a qualquer custo, relegando à periferia a discussão sobre consequências sociais, morais e históricas. Essa omissão permitiu o surgimento de plataformas que, refinadas por dados de bilhões de usuários, aprendem a influenciar comportamentos, gerar informações falsas e alimentar bolhas de polarização impermeáveis ao diálogo.

O vácuo regulatório é alimentado pela lentidão dos Estados e pela captura do debate público por interesses privados

A gravidade da situação é reconhecida por outros pioneiros do setor. Yoshua Bengio, vencedor do Prêmio Turing com Hinton, pediu uma “pausa global” no desenvolvimento de IA de ponta para frear riscos incontroláveis. Cientistas e inovadores do mundo todo, incluindo Timnit Gebru e Elon Musk, também vêm alertando para a necessidade urgente de regulamentação internacional, transparência dos algoritmos e responsabilização das empresas de tecnologia. Organizações multilaterais, como a União Europeia, já debatem legislações inéditas – a exemplo da AI Act – para impor limites, garantir direitos e evitar abusos, ainda que os esforços estejam sempre um passo atrás do avanço acelerado das corporações globais.

O vácuo regulatório em que a IA expande seu domínio é alimentado pela lentidão dos Estados e pela captura do debate público por interesses privados. Para enfrentar a escala e complexidade do desafio, não bastam leis nacionais: apenas cooperação internacional robusta e a formação de uma cultura de ética digital podem proteger as democracias do assédio algorítmico. Ao mesmo tempo, é imperativo que a sociedade civil abrace a alfabetização midiática, tornando cidadãos aptos a analisar o conteúdo que consomem, resistir a manipulações e participar ativamente do debate. Fingir que tudo permanece sob controle é aceitar, por inércia, um futuro de decisões automatizadas, invisíveis e indiferentes ao bem comum.

Ignorar o apelo do maior pioneiro da IA significa aceitar um futuro em que a democracia é rebaixada à condição de fachada, onde a tomada de decisão é secreta, automatizada e insensível à vontade social. Geoffrey Hinton fez sua escolha: rompeu o silêncio e, com coragem, desafia o mundo a encarar as consequências de sua própria genialidade. O tempo de reagir é agora, antes que a esperança democrática sucumba ao poder invisível das máquinas e dos algoritmos. Este é o nosso teste de maturidade coletiva e, talvez, a última chance de garantir que a tecnologia seja instrumento de liberdade – nunca de opressão nem de manipulação. •

*Presidente do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (Iria). Sociólogo e marqueteiro político, fundador da Agência Social Play e CEO da Conect IA. É especialista em IA aplicada na Comunicação Política. Twitter: @SeniseBSB. Instagram: @marcelosenise.

Publicado na edição n° 1371 de CartaCapital, em 23 de julho de 2025.

Este texto aparece na edição impressa de CartaCapital sob o título ‘O grito de Geoffrey Hinton’