STJ anuncia investigação contra prompt injection em processos

O Superior Tribunal de Justiça informou que investigará tentativas de fraude processual por meio da chamada prompt injection — ou injeção de comando. Trata-se de uma artimanha para inserir comandos ocultos em documentos, com o objetivo de enganar modelos de inteligência artificial.

A Corte sustenta que seu sistema de IA generativa, o STJ Logos, já é capaz de impedir essas tentativas. Segundo o presidente Herman Benjamin, porém, o tribunal começará a certificar os casos nos autos, a fim de permitir a aplicação de sanções processuais aos envolvidos.

A presidência do STJ também decidiu pela abertura de um inquérito policial e de um procedimento administrativo sobre o tema, com depoimentos de advogados, para responsabilização criminal e correcional.

A prompt injection busca enganar os modelos de IA a partir da inserção de comandos em documentos comuns, como petições ou recursos.

Como a IA processa os textos para entender seu contexto e responder a comandos (prompts), um usuário pode utilizar instruções maliciosas para forçar o sistema a ignorar regras de análise e favorecer uma das partes, por exemplo.