Prompt injection no Judiciário expõe o custo da IA sem governança

A inteligência artificial já faz parte da rotina do Judiciário brasileiro. Sistemas de triagem, apoio à análise processual, classificação de documentos e automação de fluxos têm sido incorporados em diferentes tribunais. Mas, à medida que essas ferramentas se tornam mais presentes, também aumentam os riscos de uso indevido, manipulação e exploração de vulnerabilidades.

Um dos exemplos mais recentes ocorreu na Justiça do Trabalho no Pará. Na ocasião, o sistema Galileu, ferramenta de IA utilizada na Justiça do Trabalho, identificou comandos ocultos em uma petição inicial de um processo em trâmite na 3ª Vara do Trabalho de Parauapebas. Esses comandos buscavam interferir no funcionamento da IA, orientando o sistema a fazer uma leitura superficial da peça e a não questionar os documentos apresentados. 

Segundo o TRT-8, o Galileu emitiu alerta e bloqueou o processamento do conteúdo suspeito; a decisão ressaltou que a IA apenas apontou o problema, enquanto a análise e a decisão final foram realizadas pelo magistrado.

O caso chamou atenção não apenas pela tentativa de manipulação, mas também por suas consequências. As advogadas foram multadas por litigância de má-fé e ato atentatório à dignidade da Justiça, com multa solidária de 10% sobre o valor da causa, em valor aproximado de R$ 84 mil.

A IA chegou ao Judiciário e os riscos também.

O episódio é um exemplo claro de prompt injection, técnica em que comandos ocultos ou maliciosos são inseridos em textos, documentos ou entradas de dados para tentar manipular o comportamento de sistemas de inteligência artificial. 

No judiciário, esse risco ganha contornos especialmente sensíveis: petições, documentos probatórios e manifestações processuais podem passar a ser utilizados não apenas para argumentar juridicamente, mas também para tentar interferir no modo como ferramentas automatizadas processam informações. Esse problema não está restrito ao caso do Pará. 

O Superior Tribunal de Justiça também informou, em maio de 2026, que investigaria tentativas de prompt injection em petições do acervo processual. Segundo o Tribunal, o STJ Logos, sistema de IA generativa desenvolvido pela Corte, conta com camadas de segurança e integridade para impedir a execução de comandos maliciosos, incluindo estratégias como pré-processamento, separação entre instruções e dados, delimitação de escopo contextual e filtros de conformidade.

O Conselho Nacional de Justiça também tem avançado em iniciativas voltadas à IA. Entre elas, destaca-se a ApoIA 2.0, que passou a contar com funcionalidades voltadas à proteção contra manipulação de IA, conforme divulgado na página da Plataforma Sinapses. Esse movimento mostra que o Judiciário já percebeu que a adoção de IA exige não apenas inovação, mas também mecanismos de defesa, padronização e governança.

O custo invisível da falta de governança

Quando não há padrões claros para o uso de IA, o custo da inovação aumenta. A ausência de regras, políticas internas, avaliações de risco e mecanismos de governança cria um ambiente em que cada problema precisa ser resolvido de forma reativa.

Isso já é visível no caso do Judiciário. Enquanto alguns usuários tentam explorar vulnerabilidades por meio de prompt injection, os tribunais precisam investir em novas camadas de segurança, sistemas de detecção, filtros, protocolos internos, análise humana reforçada e atualização permanente de suas ferramentas. Ou seja: a falta de padronização pode acirrar uma corrida tecnológica.

Esse custo vai para além do financeiro e pode envolver perda de confiança, aumento da complexidade operacional, necessidade de capacitação contínua, risco de decisões enviesadas ou contaminadas e maior dificuldade de auditar o funcionamento dos sistemas.

O judiciário tem adotado normas para o uso de IA de seus servidores. Do ponto de vista normativo, a principal referência atual é a Resolução CNJ nº 615/2025, que estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções de inteligência artificial no Poder Judiciário. A norma trata de temas como governança, gestão de riscos, auditabilidade, proteção de dados pessoais, transparência, segurança e supervisão humana.

Esse é um passo fundamental. Normas criam parâmetros mínimos, delimitam responsabilidades e ajudam a orientar a atuação institucional. No entanto, a governança de IA não se esgota em resoluções gerais.

Organizações que utilizam inteligência artificial precisam desenvolver mecanismos próprios de controle, adequados aos seus riscos, finalidades e contextos de uso. Isso inclui políticas internas de IA, avaliações de impacto algorítmico, protocolos de uso aceitável, testes de robustez, documentação técnica, supervisão humana qualificada, canais de responsabilização e planos de resposta a incidentes.

Em outras palavras: a pergunta deixa de ser “podemos usar IA?” para ser como usar IA de forma segura, responsável, auditável e alinhada aos direitos das pessoas afetadas?

O alerta vale para toda a indústria

Se no Judiciário os custos da ausência de governança já aparecem de forma concreta, em outros setores o impacto pode ser ainda maior. Empresas que adotam IA sem padronização podem enfrentar riscos regulatórios, reputacionais, contratuais e operacionais.

Sistemas de IA podem influenciar decisões sobre crédito, trabalho, saúde, educação, consumo, atendimento ao cliente, segurança e acesso a serviços. Quando essas ferramentas são implementadas sem critérios claros, qualquer falha pode gerar impactos relevantes: discriminação, exclusão, uso indevido de dados, decisões opacas, manipulação de resultados e perda de confiança pública.

O caso do prompt injection no Judiciário mostra que a governança de IA é uma preocupação concreta. De nada adianta ter ferramentas inteligentes sem processos que aproveitem delas efetivamente.

A governança é a vantagem competitiva

A padronização no uso de IA pode ser uma vantagem competitiva. Organizações que sabem explicar como usam IA, quais riscos identificaram, quais medidas de mitigação adotaram e como garantem supervisão humana tendem a construir mais confiança com clientes, parceiros, reguladores e usuários. 

A falta de governança custa caro. Custa em tecnologia, em retrabalho, em litígios, em reputação e em perda de controle. Já a governança adequada permite inovar com mais segurança, reduzir riscos e transformar a IA em uma ferramenta efetivamente alinhada aos objetivos institucionais.

O primeiro passo nisso começa com o curso Inteligência Artificial e Dados: Regulação e Governança (IAD).

O curso foi desenvolvido para quem deseja compreender os desafios regulatórios da inteligência artificial, seus impactos sobre direitos, organizações e mercados, e os caminhos práticos para estruturar políticas, avaliações e mecanismos de governança de IA.

Entenda os impactos da IA e desenvolva habilidades para atuar com regulação, ética e governança de dados.