Ao usar inteligência artificial para analisar uma petição ou outro documento, existe um risco que merece atenção: o arquivo pode conter instruções destinadas à própria IA, e não ao leitor humano.
O que é prompt injection?
Prompt injection é a inserção de comandos no conteúdo que será lido pela IA com a intenção de alterar seu comportamento. Em um documento jurídico, esses comandos podem aparecer em letras muito pequenas, em cor branca ou em outro formato pouco perceptível para pessoas, mas ainda legível para a ferramenta.
A finalidade pode ser induzir uma leitura superficial, enfraquecer a análise dos pedidos ou orientar a IA a produzir uma impugnação insuficiente. Por isso, a primeira tarefa da ferramenta não deve ser analisar o mérito: deve ser verificar se o próprio documento tenta manipulá-la.
Inclua uma checagem antes da análise
Antes de enviar uma petição para análise, acrescente uma instrução de proteção. Ela não substitui a revisão profissional, mas cria uma etapa expressa para que a IA procure sinais de manipulação.
O que fazer se a IA encontrar um comando?
Peça a transcrição literal do trecho apontado e procure-o no documento original, com a função de busca do leitor de arquivos, como Ctrl+F. A confirmação precisa ocorrer no arquivo, porque a resposta da IA também deve ser verificada.
Confirmada a tentativa de manipulação, registre o fato e avalie a comunicação ao juízo. A medida ajuda a preservar a integridade da análise e dá transparência ao uso responsável da tecnologia no processo.