Ataques autônomos: Big techs inflam o perigo da IA e escondem quem controla a máquina

No último mês, a OpenAI, dona do ChatGPT, soltou nota informativa em seu blog sobre ciberataques realizados de forma autônoma por seus modelos de inteligência artificial a infraestruturas digitais do Hugging Face, site utilizado por programadores de aplicativos com IA. Desde então, a empresa reforça o ineditismo de uma “exploração de brecha” da máquina para retomar o acesso à internet em ambiente controlado, mas afirmou na última terça-feira 28 que, a partir deste, surgiram vários outros incidentes parecidos realizados por modelos de IA recentes da companhia.

A OpenAI não foi a única empresa do ramo a relatar que seus produtos podem ser perigosos. A Anthropic, responsável pelo modelo Claude, em declaração recente em seu blog defendeu “desaceleração” no desenvolvimento da tecnologia de inteligência artificial, já que pode “aumentar o risco de humanos perderem o controle sobre os sistemas de IA”. Muito do desenvolvimento dos chatbots conta atualmente com “melhora recursiva de si mesmo”, contribuindo com a ideia de que um sistema de IA capaz de ensinar a si próprio poderia se desenvolver rápido demais e impactar as decisões geopolíticas.

Sérgio Amadeu, sociólogo defensor da soberania digital brasileira, entende que existe risco quando falamos sobre modelos de inteligência artificial generativa, sobretudo à privacidade do usuário, mas critica o misticismo pregado pelas big techs ao anunciar que seus modelos realizam ataques à segurança de forma autônoma: “[O incidente do Hugging Face] gerou uma publicidade espontânea gigantesca tanto para a OpenAI que, olha, tem um sistema altamente capaz, quanto para a Hugging Face, que muita gente não sabia o que era”, explica Amadeu a CartaCapital, “intencionalmente ou não, uma verdadeira operação de marketing”, analisa.

O sociólogo ainda esclarece que o tipo de modelo utilizado para os testes de segurança da marca, o GPT-5.6 Sol, não roda em uma única máquina, sendo necessária a infraestrutura de data centers, com mais poder de processamento. Portanto, a ideia de um ambiente controlado e com acesso restrito à internet seria, por princípio, de escopo milionário. “Eu acho muito estranho essa ideia de um teste em ambiente controlado. Não que não exista. Existe. Mas eu quero dizer que é um teste milionário. Então, me parece que todas as informações indicam uma mega operação de Marketing”, conclui.

Com interesses comerciais em jogo, Amadeu critica o descuido da imprensa ao noticiar o caso, considerando a abordagem das principais mídias ao corroborar com a ideia de um “ataque por conta própria”. Sérgio afirma que sustentar o misticismo induzido pelas empresas de IA afasta, ao seu ver, o público do verdadeiro debate sobre os detentores do controle da tecnologia. Ele questiona o próprio nome “inteligência artificial”, julga o termo exagerado e diz que, ao mesmo tempo, sua popularização colabora com a narrativa de um produto acima do potencial humano, um recurso útil ao mercado.

“[A IA] não expressa inteligência humana, como diz o Matteo Pasquinelli. Ela expressa atividades humanas, trabalho humano”, explica ao referenciar o pesquisador italiano. “É preciso ficar claro que não existe inteligência artificial sem computador e sem software. Nem sem algoritmo”, analisa Amadeu, “que inteligência tem nisso, né? Essa que é a pergunta. É um sistema automatizado que usa muitas máquinas de processamento, muito gasto de energia, muito gasto de água, muito gasto de conectividade para responder a uma coisa… E faz na velocidade da luz”, reflete.

Em relação ao papel do Brasil na indústria da inteligência artificial, a subserviência às big techs do Norte Global — no que diz respeito ao controle de dados e desenvolvimento tecnológico — é impulsionada pela narrativa de um produto inalcançável. “Olha, o meu produto é tão bom que ele é autônomo, mas eu dialogo com ele. Talvez você não consiga, mas eu sou o Sam Altman! Eu dialogo com ele, eu sou um gênio”, ironiza Amadeu. Exemplificando com o atual CEO da OpenAI, ele critica o posicionamento dos porta-vozes das empresas de IA colocados na caricatura arquetípica do ‘CEO gênio’, promovidos como detentores de um conhecimento acima dos usuários de suas plataformas e dos chefes de estado ao redor do mundo.

Sérgio Amadeu ainda conclui apontando a compra desenfreada de startups por parte das gigantes da tecnologia, que criam ecossistemas milionários em que nenhum conhecimento precisa ser criado diretamente por elas. “Nessa toada, eles estão dirigindo a ciência da computação também”, critica, “observe o número de papers que o Google tem com universidades. É algo em torno de 80-83% dos papers publicados pelo Google em coautoria. Só que olha o número de patentes que eles registram em coautoria: é menos de 1%”, Sérgio questiona o que ele chama de “praticamente um roubo” através dos estudos de Cecilia Rikap, pesquisadora argentina e professora na Universidade de Londres. “É grave isso. Eles tocam o misticismo, controlam a ciência e fazem a espoliação de conhecimento”, finaliza Amadeu.