STF identifica a primeira tentativa de comandos ocultos para dirigir a sua inteligência artificial e comunica OAB e MPF

Resumo

O Supremo Tribunal Federal registrou nos autos do ARE 1.608.713 a primeira tentativa identificada de uso de comandos ocultos em petição para direcionar os sistemas de inteligência artificial da Corte a produzir decisão favorável a uma das partes. O relator, ministro Cristiano Zanin, aplicou multa de dois salários mínimos por violação do dever de lealdade processual e determinou a comunicação à Ordem dos Advogados do Brasil, para análise de eventual infração ético-disciplinar, e ao Ministério Público Federal, para apuração de eventual crime.

Contexto

A tentativa foi comunicada ao gabinete em 3 de setembro pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação do tribunal. Quem a identificou foi a Maria Shield, funcionalidade da plataforma Maria, sistema desenvolvido pelo STF para apoiar internamente a análise processual, que procura padrões e conteúdos potencialmente maliciosos nas peças. Segundo a área técnica, a petição trazia instruções em letras brancas e de tamanho reduzido, com argumentos e comandos destinados a induzir ferramentas de IA a conhecer e dar provimento ao recurso, e algumas palavras foram fragmentadas de forma incomum para dificultar a identificação. O episódio não é isolado no sistema de Justiça: em setembro a Segunda Turma do STJ já havia aplicado multa por litigância de má-fé depois de identificar comando oculto dirigido à inteligência artificial em recurso assinado por procurador municipal.

Argumentos

• Área técnica do STF: as instruções estavam em letras brancas, em tamanho reduzido e com palavras fragmentadas de forma incomum, para escapar da leitura humana e da identificação automática.
• Zanin: o uso de prompt injection viola o dever de lealdade entre as partes, previsto no artigo 77 do Código de Processo Civil.
• Gabinete do relator: não há uso de inteligência artificial para analisar processos ou fundamentar decisões, e a tentativa não influiu no exame do recurso.

Fundamento

A multa se apoia no dever de lealdade processual que o artigo 77 do Código de Processo Civil impõe a todos os que participam do processo. Para o relator, o uso de prompt injection viola o dever de lealdade entre as partes, porque busca direcionar de forma oculta eventual ferramenta de IA empregada na análise do caso para determinada linha de fundamentação e para resultado favorável à recorrente. A comunicação à OAB decorre da possível infração ético-disciplinar de quem subscreveu a peça. A comunicação ao MPF decorre da possibilidade de a conduta configurar crime, à falta de tipo penal específico sobre manipulação de inteligência artificial em processo judicial, objeto de projeto de lei em tramitação.

Consequência prática

O ministro esclareceu que o seu gabinete não utiliza inteligência artificial para analisar processos nem para fundamentar decisões, de modo que a tentativa não teve efeito sobre a análise do recurso, já rejeitado em 19 de agosto. A parte apresentou agravo regimental e, no voto levado à Primeira Turma, o relator manteve os seus fundamentos.

Por que importa

O recado é duplo para quem atua na área criminal. O primeiro é disciplinar e alcança a banca: peça assinada é peça de responsabilidade do advogado, conteúdo invisível ao leitor humano passou a ser detectado, e a consequência anunciada vai da multa processual à apuração na OAB e no Ministério Público. O segundo é probatório e favorece a defesa: ao afirmar que dispõe de ferramenta capaz de auditar o que entra nos autos, o tribunal reconhece que existe camada de processamento automatizado sobre as peças, o que dá base a pedidos de transparência sobre onde, como e com que controle a inteligência artificial é usada na tramitação dos processos criminais.

Próximos passos

• A sessão virtual da Primeira Turma termina em 2 de outubro, prazo em que os demais ministros podem acompanhar o relator, divergir ou destacar o caso.
• A OAB examinará eventual infração ético-disciplinar de quem subscreveu a petição.
• O MPF avaliará se a conduta configura crime, à falta de tipo penal próprio para a manipulação de inteligência artificial em processo judicial.