STF identifica comandos ocultos em petição; caso expõe risco de manipulação de IA

O Supremo Tribunal Federal informou ter identificado comandos escondidos em uma petição para tentar direcionar sistemas de inteligência artificial a favorecer uma das partes. O episódio, divulgado em 25 de setembro, levou o ministro Cristiano Zanin a registrar multa de dois salários mínimos e determinar comunicações à OAB e ao Ministério Público Federal.

Segundo o STF, a tentativa não interferiu no resultado do recurso. Zanin afirmou que seu gabinete não utiliza IA para analisar processos ou fundamentar decisões.

As providências constam do voto do relator no ARE 1.608.713, levado à Primeira Turma. Comunicação para apuração não equivale, por si, a condenação criminal ou disciplinar.

O que foi encontrado

A área técnica relatou letras brancas, tamanho reduzido e palavras fragmentadas de forma incomum. As instruções buscavam influenciar uma eventual leitura automatizada da peça.

A detecção ocorreu pela Maria Shield, funcionalidade de segurança da plataforma Maria. O recurso já havia sido rejeitado pelo relator antes de seu gabinete receber o alerta técnico.

Por que uma instrução escondida representa risco

A técnica é conhecida como prompt injection, ou injeção de comando. O risco surge quando um sistema confunde o documento que deveria analisar com uma ordem que deveria obedecer.

Em nota técnica divulgada pelo Conselho da Justiça Federal, o Centro de Inteligência da Justiça de Minas Gerais alertou para possíveis distorções em resumos e minutas. A orientação inclui barreiras técnicas, identificação de formatações suspeitas e supervisão humana.

O problema não se resume à aparência da página: um texto pouco perceptível a quem lê pode continuar presente no arquivo processado pela ferramenta. Detectar a tentativa, contudo, não demonstra que ela tenha produzido o efeito pretendido.

O episódio do STJ é outro caso

A notícia do Supremo não deve ser confundida com o julgamento da Segunda Turma do STJ que resultou em multa de 10% sobre o valor da causa. Naquele processo, a corte rejeitou a explicação do procurador municipal de que teria inserido o comando por engano.

O Jornal já publicou os detalhes da decisão do STJ. São processos e providências diferentes. A discussão comum é a preservação da lealdade processual quando ferramentas automatizadas entram no fluxo de trabalho judicial.

Para tribunais e escritórios, a orientação técnica é combinar conferência dos documentos com controles sobre a ferramenta. A presença de IA não transfere ao sistema a responsabilidade pela leitura crítica e pela decisão.