O STJ investiga o uso de inteligência artificial para fraudar processos judiciais após identificar tentativas de manipulação no sistema eletrônico de petições da Corte. A suspeita é de que advogados e escritórios tenham utilizado comandos ocultos para tentar enganar mecanismos automatizados responsáveis pela triagem de documentos.
A decisão foi tomada nesta quarta-feira (20) pelo presidente do Superior Tribunal de Justiça, Herman Benjamin, que determinou a abertura de um inquérito policial e de um procedimento administrativo interno para apurar o caso.
Segundo o tribunal, técnicos identificaram petições contendo o chamado prompt injection, técnica usada para manipular sistemas baseados em inteligência artificial por meio de comandos escondidos no conteúdo enviado.
Na prática, esses comandos teriam sido inseridos para induzir o sistema do tribunal a ignorar critérios de admissibilidade e permitir o andamento de petições que poderiam não cumprir requisitos básicos exigidos pela Justiça.
De acordo com o STJ, o sistema eletrônico já possui mecanismos de segurança capazes de detectar e bloquear esse tipo de interferência, impedindo a execução dos comandos ocultos.
O tribunal, no entanto, quer entender a dimensão das tentativas e identificar os responsáveis pelas possíveis fraudes. A investigação deve apurar se houve atuação deliberada de profissionais ou escritórios para tentar favorecer partes em processos judiciais por meio da tecnologia.
O episódio reacende o debate sobre os limites do uso da inteligência artificial no sistema jurídico e os desafios para evitar fraudes digitais cada vez mais sofisticadas.
Com informações da Agência Brasil.