Sam Altman sugere desaceleração no desenvolvimento de IA após ciberataque de seus modelos

Os grandes desenvolvedores de modelos de inteligência artificial podem ser obrigados a desacelerar seus avanços “para dar tempo à sociedade diante destas novas capacidades”, estimou nesta terça-feira 28 Sam Altman, diretor executivo da OpenAI, recentemente envolvida em um ciberataque.

Dois sistemas de IA da empresa de Altman realizaram um ciberataque por iniciativa própria: escaparam do seu ambiente fechado e se conectaram à internet para invadir a biblioteca de modelos de IA online Hugging Face em busca de informações.

“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altamn em uma entrevista para o podcast Invest Like The Best, publicada nesta terça-feira. “E me surpreende um pouco que isso não tenha causado o mesmo efeito em mais pessoas.”

Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave.

Altman revelou que, após ter conhecimento do ataque, a OpenAI suspendeu os testes “para entender como conseguir confinar” seus sistemas em testes, que em princípio estão isolados da internet.

“Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço” da IA, explicou, em um contexto em que “poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades”.

Em uma mensagem publicada no início de junho, o diretor-geral da Anthropic, Dario Amodei, havia considerado que seria “positivo” frear o desenvolvimento da IA para dar tempo “de compreender melhor suas imensas consequências”.

Para Altman, esta eventual desaceleração no desenvolvimento da IA deve evitar que ela favoreça um ou vários grupos do setor: “Isso vai exigir trabalho”, advertiu, “e é importante encontrar a fórmula adequada”.