Justiça
STJ anuncia investigação contra prompt injection em processos
A Corte informou que buscará a responsabilização criminal dos envolvidos
O Superior Tribunal de Justiça informou que investigará tentativas de fraude processual por meio da chamada prompt injection — ou injeção de comando. Trata-se de uma artimanha para inserir comandos ocultos em documentos, com o objetivo de enganar modelos de inteligência artificial.
A Corte sustenta que seu sistema de IA generativa, o STJ Logos, já é capaz de impedir essas tentativas. Segundo o presidente Herman Benjamin, porém, o tribunal começará a certificar os casos nos autos, a fim de permitir a aplicação de sanções processuais aos envolvidos.
A presidência do STJ também decidiu pela abertura de um inquérito policial e de um procedimento administrativo sobre o tema, com depoimentos de advogados, para responsabilização criminal e correcional.
A prompt injection busca enganar os modelos de IA a partir da inserção de comandos em documentos comuns, como petições ou recursos.
Como a IA processa os textos para entender seu contexto e responder a comandos (prompts), um usuário pode utilizar instruções maliciosas para forçar o sistema a ignorar regras de análise e favorecer uma das partes, por exemplo.
CartaCapital
Há 31 anos, a maior referência progressista em jornalismo no Brasil.
Apoie o jornalismo que chama as coisas pelo nome
Muita gente esqueceu o que escreveu, disse ou defendeu. Nós não. O compromisso de CartaCapital com os princípios do bom jornalismo permanece o mesmo.
O combate à desigualdade nos importa. A denúncia das injustiças importa. Importa uma democracia digna do nome. Importa o apego à verdade factual e a honestidade.
Estamos aqui, há mais de 30 anos, porque nos importamos. Como nossos fiéis leitores, CartaCapital segue atenta.
Se o bom jornalismo também importa para você, nos ajude a seguir lutando. Assine a edição semanal de CartaCapital ou contribua com o quanto puder.
Leia também
PGR denuncia Romeu Zema ao STJ por calúnia contra Gilmar Mendes
Por Maiara Marinho
Oferta de imóvel no Airbnb exige a aprovação do condomínio, decide STJ
Por Maiara Marinho
STJ deve condenar Marco Buzzi com sanção máxima por importunação sexual
Por Maiara Marinho