IA do Judiciário barra tentativa de fraude em processo no Pará

A inteligência artificial (IA) Galileu, desenvolvida pelo Tribunal Regional do Trabalho da 4ª Região (TRT-RS), protagonizou um marco na segurança digital do Judiciário brasileiro. Durante a análise de uma petição inicial na 3ª Vara do Trabalho de Parauapebas (PA), o sistema identificou e bloqueou uma tentativa de manipulação técnica conhecida como prompt injection (injeção de comando).

O caso, detalhado em sentença proferida nesta quarta-feira (12) pelo juiz Luiz Carlos de Araújo Santos Junior, evidencia os novos desafios éticos na era dos tribunais algorítmicos.

Ao processar o documento, o Galileu detectou instruções ocultas endereçadas diretamente ao sistema de IA. O conteúdo malicioso orientava a ferramenta a realizar uma contestação superficial e a não impugnar documentos, independentemente das ordens que o operador humano fornecesse posteriormente.

Veja também:

• Governo Federal anuncia fim da “taxa das blusinhas” para compras até US$ 50
• Além do crédito: nome sujo pode afetar até oportunidades de trabalho
• Homem furta equipamentos de marcenaria no bairro Santa Isabel

Trata-se de uma estratégia para "enganar" a lógica da máquina, induzindo-a a um erro deliberado em benefício de uma das partes.

Assim que o ataque foi identificado, o sistema emitiu um alerta destacado ao usuário e impediu o processamento do texto corrompido. Contudo, seguindo os protocolos de governança, o Galileu limitou-se ao relato técnico.

A decisão final coube ao magistrado, que realizou a revisão humana obrigatória. O juiz Luiz Carlos de Araújo Santos Junior examinou o trecho apontado antes de fundamentar as consequências processuais da conduta.

Segurança Institucional

A secretária-geral de tecnologia e inovação do TRT-RS, Natacha Moraes de Oliveira, ressalta que o episódio valida a importância de softwares institucionais. "O controle desse tipo de ataque não é trivial. Exige técnicas especializadas de identificação", explica.

Segundo Natacha, ferramentas desenvolvidas especificamente para o Judiciário oferecem camadas de proteção que sistemas genéricos de IA podem não possuir.

A atuação do Galileu está alinhada a diretrizes internacionais de segurança, como as da OWASP e do NIST, além de observar a Resolução nº 615/2025 do Conselho Nacional de Justiça (CNJ). O normativo exige que o uso de IA seja pautado pela supervisão humana efetiva e pela transparência, garantindo que a tecnologia atue como suporte, e não como substituta do livre convencimento motivado do juiz.