STJ investiga uso de IA para fraudar petições eletrônicas

O Superior Tribunal de Justiça (STJ) iniciou nesta quarta-feira (20) uma investigação para apurar o uso de inteligência artificial com o objetivo de burlar o sistema eletrônico de petições do tribunal. A ordem partiu do presidente do STJ, Herman Benjamin, que determinou a instauração de um inquérito policial e um procedimento administrativo interno.

A medida visa investigar tentativas de fraudes que teriam sido cometidas por advogados e escritórios de advocacia. Técnicos do tribunal identificaram a entrada de petições com a técnica de ‘prompt injection’, um mecanismo utilizado para enganar modelos de IA e favorecer partes em processos eletrônicos.

Os comandos ocultos são inseridos em petições com a intenção de forçar o sistema de IA a ignorar filtros de seleção. Esses filtros são responsáveis por impedir, por exemplo, a admissão de documentos que não atendem aos requisitos básicos. O STJ informou que seu sistema já possui mecanismos de proteção contra o uso indevido de prompts, impedindo que as ordens maliciosas sejam executadas pela plataforma de recebimento de petições.