STJ investiga uso de IA para fraudar processos judiciais

O Superior Tribunal de Justiça (STJ) iniciou nesta quarta-feira (20) uma investigação para apurar a utilização de prompts de inteligência artificial com o objetivo de burlar o sistema eletrônico de petições da corte.

Por determinação do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. A apuração visa investigar tentativas de fraudes que teriam sido praticadas por advogados e escritórios de advocacia.

A medida foi adotada após técnicos do tribunal identificarem a entrada de petições contendo “prompt injection”, um mecanismo que busca enganar modelos de IA e manipular o andamento de processos eletrônicos em favor de determinadas partes. Segundo o STJ, o sistema da corte já possui mecanismos de segurança contra o uso de prompts que impedem a execução de comandos ocultos inseridos nas petições.