Espaço para comunicar erros nesta postagem
O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação para apurar tentativas de fraudar o sistema eletrônico de petições, por meio do uso de prompts de inteligência artificial. A medida visa coibir a manipulação de processos e garantir a integridade dos trâmites judiciais.
Por determinação do presidente do STJ, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. O objetivo é investigar as supostas fraudes, que teriam sido perpetradas por advogados e escritórios de advocacia.
A decisão do tribunal surge após a equipe técnica identificar a inserção de petições contendo o que é conhecido como prompt injection. Este mecanismo é empregado para manipular modelos de inteligência artificial, buscando favorecer indevidamente partes envolvidas no andamento eletrônico dos processos.
Esses comandos ocultos são estrategicamente inseridos nas petições com o intuito de compelir o sistema de IA a contornar os filtros de seleção. Tais filtros são essenciais para barrar, por exemplo, a admissão de documentos que não atendem aos requisitos básicos de admissibilidade legal.
O STJ, contudo, informou que seu sistema já possui mecanismos de segurança e travas específicas contra o uso indevido desses prompts. Isso impede que as ordens fraudulentas sejam executadas pela plataforma responsável pelo recebimento das petições, mitigando os riscos de manipulação.
