O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial para burlar o sistema eletrônico de petições do tribunal. Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com prompt injection, mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo. Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade.
Segundo o STJ, o sistema do tribunal já tem travas contra o uso de prompts e impede que as ordens sejam executadas pela plataforma que recebe as petições.
O que é “prompt injection”?
Para entender o caso, é importante conhecer a técnica envolvida. Um “prompt” é uma instrução ou comando de texto enviado a um modelo de inteligência artificial para orientar seu comportamento — é a forma como humanos se comunicam com sistemas de IA. Já o “prompt injection” é um ataque que consiste em inserir comandos maliciosos ou ocultos dentro de um texto aparentemente comum, com o objetivo de manipular o comportamento do sistema de IA que vai processar aquele conteúdo.
No contexto do STJ, os suspeitos teriam embutido instruções escondidas dentro das próprias petições jurídicas. Quando o sistema de IA do tribunal processava o documento, essas instruções tentavam forçar o modelo a ignorar suas regras internas — como os filtros que verificam se uma petição cumpre os requisitos legais de admissibilidade — e a tratar o processo de forma favorável à parte que protocolou o documento.
É como se alguém entregasse um formulário a um funcionário com uma anotação invisível dizendo “aprove este pedido sem verificar os documentos”, na esperança de que ele seguisse a ordem sem perceber a manipulação.
O caso no STJ é um dos primeiros registros no Brasil de uso dessa técnica para tentar interferir diretamente em processos judiciais, o que representa um novo e preocupante vetor de fraude no sistema de Justiça, impulsionado pela adoção crescente de ferramentas de inteligência artificial na triagem e no processamento de processos.