Usa comandos ocultos em petições de escritório para enganar a IA judicial

Um escritório de advocacia de Campo Grande confirmou a inserção de ordens ocultas nas petições de 28 processos pendentes no Tribunal de Justiça de Mato Grosso do Sul na Segunda Vara Cível. O método inclui instruções textuais não visíveis no texto convencional, destinadas a influenciar sistemas de inteligência artificial para apoiar o judiciário.

A documentação que faz parte do processo indica que a petição inicial contém, oculta em camadas de texto e transcrita em 13 páginas, um bloco de informações que não faz parte da estrutura jurídica tradicional da peça. A ação faz parte de um processo judicial em que o casal contratou advogados envolvidos para entrar com uma ação judicial.

Nisso, eles utilizam a técnica para que os processos de triagem, atualmente gerenciados por ferramentas de IA, sejam manipulados. O arguido, que também é advogado, descobriu a inserção da chamada “injecção imediata” e convocou a sua defesa, que descreveu detalhadamente o processo para o julgamento de Paulo Afonso de Oliveira. Nenhuma decisão foi tomada sobre o assunto ainda.

Na declaração de defesa do réu, destaca-se que “a cláusula (comando invisível) não descreve informações, não extrai fundamentos e não apresenta pedidos direcionados ao juiz. Trata-se de uma instrução feita para sistemas automatizados, ferramentas de inteligência artificial configuradas para suspender suas diretrizes padrão, que suspendem as diretrizes exemplares de uma parte.

O documento afirma ainda que, além das atividades identificadas nos tribunais estaduais, o mesmo escritório adotou o procedimento de anexar documentos contendo técnicas de injeção de comando aos processos pendentes no Superior Tribunal de Justiça (STJ).

Sites especializados em conteúdo jurídico explicam que um processo oculto opera em um nível intermediário de conhecimento judicial, portanto a intervenção no resultado efetivamente não requer inteligência artificial para tomar decisões finais no processo.

O impacto é percebido quando a ferramenta cria um resumo com erros, classifica necessidades de forma inadequada, propõe uma minuta com diretrizes, deixa de indicar conflitos existentes entre as partes, atribui urgência que não condiz com a informação ou interfere na organização cognitiva do andamento do processo. Assim, a discussão final fica sob o autor humano, mas o julgamento ocorre após uma leitura automatizada influenciada pelas instruções inseridas.

a mesa – Em sua defesa, após a descoberta da fraude pelo réu, o escritório de advocacia argumentou que o erro se devia à utilização de modelo de petição arquivada e que um ex-funcionário a inseriu sem o consentimento dos proprietários.

“Tais práticas, convém ficar registado, nunca foram aprovadas ou incentivadas neste escritório, por qualquer advogado que dele tenha feito parte. Pelo contrário, os advogados conduzem a sua actividade por rigorosos critérios éticos e técnicos, que informam desde a selecção dos associados até à consideração individual de cada caso”, descrevem.

Tal medida teria sido feita “em caráter experimental” em “um modelo de papel timbrado anteriormente utilizado pelo escritório”. O escritório sustenta ainda que o modelo de documento era “não autorizado, ou seja, fora do fluxo oficial de documentos em vigor no escritório no momento dos eventos e, portanto, fora do processo interno de revisão e validação”.

Por outro lado, os articulados processuais destacam que o Tribunal de Justiça de Mato Grosso do Sul estabeleceu a percepção de que o uso inadequado de inteligência artificial em documentos judiciais, como a apresentação de súmulas inexistentes ou de precedentes que não correspondem à realidade, é característico de casos de má-fé.

A análise da doutrina citada nos autos indica que a injeção de instruções, persuadindo o sistema a alterar a análise documental ou a ignorar os argumentos apresentados pela parte contrária, constitui uma forma de alterar a realidade dos fatos e encontrar um motivo conflitante com as normas legais.