O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial com o objetivo de burlar o sistema eletrônico de petições do tribunal.

Por ordem do presidente do STJ, Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno para investigar tentativas de fraude supostamente cometidas por advogados e escritórios de advocacia.

Notícias relacionadas:

• STJ lança curso gratuito sobre equidade racial na Justiça.
• STJ rejeita uso de inteligência artificial como prova em ação penal.

A medida foi tomada após técnicos do tribunal identificarem petições com prompt injection, mecanismo utilizado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de processos.

Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção, o que pode permitir a admissão de documentos que não atendem aos requisitos básicos de admissibilidade.

Segundo o STJ, o sistema já possui travas contra o uso de prompts e impede que comandos indevidos sejam executados pela plataforma de recebimento de petições.