O Tribunal de Justiça da Bahia (TJ-BA) descobriu uma tentativa de enganar as ferramentas de inteligência artificial usadas pela Corte na análise de um pedido de habeas corpus. O caso foi identificado pela Diretoria de Modernização do tribunal durante o julgamento, pela 2ª Turma da Primeira Câmara Criminal, do pedido de liberdade de um homem acusado de homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo e organização criminosa armada.
Sim, é isso mesmo: a defesa usou uma técnica chamada "prompt injection" para tentar manipular a resposta da IA. Segundo o tribunal, o documento em PDF apresentado pela defesa continha uma camada de texto invisível na leitura comum. Esse texto escondido instruía a inteligência artificial a deferir o habeas corpus, caso a análise do processo fosse feita por uma ferramenta automatizada.
O desembargador Pedro Guerra, relator do caso, confirmou a descoberta. "A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection)", afirmou. Segundo a análise técnica da Corte, a intenção era fazer com que as ferramentas de IA usadas pelo tribunal recomendassem a soltura do acusado.
O pedido de habeas corpus foi negado pelo colegiado. A prisão preventiva do investigado havia sido determinada pela Vara Criminal de Iguaí, com base em elementos concretos obtidos durante a investigação.
A advogada responsável por protocolar o documento atua no Mato Grosso do Sul. Diante da descoberta, os desembargadores decidiram notificar a seccional sul-mato-grossense da Ordem para que avalie medidas disciplinares contra a profissional. O material também seguiu para o Ministério Público baiano, que vai investigar se houve crime.
O caso chamou atenção para os riscos do uso de inteligência artificial no Judiciário. Em julho, o Comitê de Inteligência Artificial, Jurimetria e Ética do TJ-BA (CIJE-BA) já havia aprovado uma nota técnica para alertar magistrados sobre os riscos dessa técnica de comando oculto em documentos.
