STJ investiga prompt injection para fraudar decisões judiciais com IA

{"blocks":[{"key":"12345","type":"paragraph","data":{"text":"O Superior Tribunal de Justiça (STJ) decidiu nesta quarta-feira, 20 de maio de 2026, abrir um inquérito e um procedimento administrativo. O objetivo é investigar o uso de 'prompt injection', uma técnica que insere comandos ocultos em documentos para tentar manipular sistemas de inteligência artificial (IA) e fraudar decisões. A medida visa resguardar a integridade do processo judicial e a confiança nas ferramentas tecnológicas utilizadas. A investigação é crucial para garantir que a IA auxilie a justiça sem ser subvertida por intenções maliciosas, protegendo a dignidade da justiça e dos cidadãos que dela dependem."}},{"key":"67890","type":"paragraph","data":{"text":"A Presidência do STJ tomou a decisão após técnicos do tribunal identificarem um acervo de processos onde essa técnica, conhecida como 'injeção de comando', foi empregada. O foco da apuração é determinar se houve tentativa de fraude processual, e depoimentos de advogados e escritórios suspeitos de envolvimento serão colhidos."}},{"key":"abcde","type":"image","data":{"src":"https://s04.video.glbimg.com/x240/992055.jpg","alt":"Ilustração de vídeos em alta no g1","caption":"Vídeos em alta no g1"}},{"key":"fghij","type":"paragraph","data":{"text":"A 'prompt injection' ocorre quando instruções escondidas são inseridas para enganar ou manipular uma ferramenta de IA. O presidente do STJ, ministro Herman Benjamin, assegurou que o sistema de IA generativa da corte, o STJ Logos, possui comandos específicos para impedir tais artimanhas. Ele destacou que o tribunal está mapeando todas as tentativas para aplicar sanções processuais e apurar responsabilidades administrativas e criminais."}},{"key":"klmno","type":"paragraph","data":{"text":"Apesar da identificação de petições com comandos ocultos, o STJ garante que camadas de segurança robustas impedem a execução de ordens maliciosas. São ao menos três níveis de proteção que asseguram que diretrizes externas não sobreponham as regras centrais do sistema."}},{"key":"pqrst","type":"paragraph","data":{"text":"Um levantamento obtido pela TV Globo identificou pelo menos 11 processos criminais onde o 'prompt injection' foi utilizado. O STJ, no entanto, informou que, por ora, não comentará casos específicos."}},{"key":"uvwxy","type":"image","data":{"src":"https://s04.video.glbimg.com/x240/992055.jpg","alt":"Fachada do Superior Tribunal de Justiça (STJ)","caption":"Fachada do Superior Tribunal de Justiça (STJ) — Foto: TV Gazeta"}},{"key":"zabcd","type":"paragraph","data":{"text":"Esses casos não são isolados. Recentemente, um processo na 3ª Vara do Trabalho de Parauapebas (PA) chamou atenção pela tentativa de manipular a ferramenta de IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS). O Conselho Nacional de Justiça já recomendou o uso de um banco nacional de prompts para mitigar vulnerabilidades diante dessa prática."}}]}