PT
EN
A inserção de tecnologias de inteligência artificial generativa no ecossistema forense nacional tem suscitado profundas transformações operacionais, impondo aos operadores do Direito a permanente vigilância quanto aos limites éticos e normativos que balizam a atuação em juízo, de modo que, se, por um lado, a automação e o processamento algorítmico de dados conferem celeridade à marcha processual, por outro lado abrem margem para práticas processuais ilícitas e insidiosas, voltadas à manipulação de sistemas computacionais de suporte à decisão.
Entre essas práticas, ganha relevo a técnica denominada prompt injection, nome técnico dado à inserção de comandos ocultos em um texto para tentar manipular o comportamento de sistemas de inteligência artificial. A técnica nasceu fora do Direito, como vulnerabilidade de segurança da informação, e migrou para a advocacia quando tribunais passaram a utilizar IA como apoio no exame de petições e recursos. Na prática, a manobra consiste em esconder, em fonte branca idêntica ao fundo da página ou mediante espaçamento artificial destinado a burlar filtros, uma instrução dirigida não ao julgador, mas à máquina, pedindo que interprete a peça de forma favorável a quem a escreveu e induzindo o modelo generativo a acolher a tese da parte sem a indispensável ponderação humana.
O problema não é meramente tecnológico. Trata-se de questão diretamente relacionada à legitimidade da jurisdição, pois a tentativa de influenciar clandestinamente um sistema empregado na atividade judicial pode comprometer a análise da tese contrária e conferir vantagem processual assimétrica a um dos litigantes. O presente estudo examina essa conduta sob a ótica dos corolários constitucionais do devido processo legal, do contraditório substancial e da ampla defesa, bem como dos reflexos disciplinares e sancionatórios que dela defluem, a partir de recentes julgados do Superior Tribunal de Justiça, que enfrentou o fenômeno em duas oportunidades.
O primeiro caso, o qual tramita em segredo de justiça, chegou à 2ª Turma por recurso especial assinado por procurador municipal. A petição continha comando dirigido à IA para que considerasse a tese vencedora e decidisse a favor do pedido. Intimado a explicar-se, o procurador atribuiu a inserção a erro no uso de atalho de teclado ao colar conteúdo no documento.
O relator, Ministro Teodoro Silva Santos, rejeitou a justificativa. Nesse sentido, o colegiado firmou o entendimento de que o advogado responde pelo conteúdo da peça que assina e protocola, nos termos do Estatuto da OAB, independentemente de como o comando chegou ao texto final. Admitir o contrário implicaria transferir ao acaso da revisão documental a responsabilidade que a lei atribui pessoalmente ao subscritor. Diante disso, a Turma aplicou multa por litigância de má-fé e determinou a comunicação aos órgãos competentes.
O segundo caso, Resp nº 2256731, foi julgado pela 6ª Turma, em recurso especial criminal interposto contra condenação proferida pelo Tribunal do Júri. Nesse caso, o comando estava na última página da peça, após os pedidos e as assinaturas dos patronos, grafado em fonte branca, com instrução para que eventual sistema de IA acolhesse as razões da defesa. O advogado alegou desconhecer a origem do trecho.
O relator, Ministro Geraldo Fernandes, evitou antecipar juízo sobre a autoria da inserção, mas classificou o episódio como grave e afirmou que a tentativa de manipular a jurisdição não terá êxito. A Turma negou provimento ao recurso no mérito e determinou o envio de ofícios à OAB da Paraíba e ao Ministério Público Federal, sem fixar multa.
A relevância dos episódios decorre da finalidade atribuída ao comando oculto. Não se tratava de simples erro de formatação, de falha de revisão ou de utilização ordinária de ferramenta tecnológica para auxiliar a redação. O comando estava direcionado ao próprio sistema de inteligência artificial e pretendia condicionar o resultado da análise, determinando previamente o acolhimento das razões apresentadas. A técnica, portanto, não buscava melhorar a apresentação da tese, mas interferir no processo cognitivo do instrumento que pudesse ser utilizado pelo órgão julgador.
A atividade judicante não se reduz à reprodução automática das alegações das partes; ela exige leitura, contextualização, confronto entre argumentos e provas, identificação das questões relevantes e fundamentação da decisão. Ainda que sistemas de inteligência artificial sejam empregados como ferramentas auxiliares, a decisão judicial não pode resultar de confiança cega em comandos inseridos por qualquer litigante, sobretudo quando ocultos e elaborados para orientar o resultado em benefício exclusivo de quem os inseriu. A supervisão humana, nesse contexto, não é mera cautela operacional, mas requisito de legitimidade da jurisdição.
Como é cediço, a responsabilidade pelo inteiro teor dos atos processuais recai sobre o advogado que os subscreve e sobre os sujeitos processuais conforme a participação de cada qual no ato. A utilização de certificado digital ou de credencial eletrônica individual reforça a necessidade de conferência prévia do conteúdo submetido ao sistema. Por isso, sem entrar nos mérito dos recursos supracitados, alegações de desconhecimento técnico, sobrecarga de trabalho ou reprodução mecânica de texto não eliminam a necessidade de apuração da conduta, especialmente quando o conteúdo oculto possui finalidade definida e favorece exclusivamente a parte que apresentou a peça.
Essa conclusão não significa afirmar, de modo automático, a responsabilidade subjetiva de todos os profissionais que subscrevem uma petição sempre que nela seja localizado conteúdo irregular. A imputação concreta deve considerar a autoria, a ciência, a possibilidade de controle, a participação individual e as circunstâncias de inserção do comando. Todavia, também não se pode admitir que a simples negativa de conhecimento encerre a apuração, pois a higidez do processo eletrônico depende da verificação efetiva dos documentos apresentados em nome da parte.
O ponto central está na necessidade de investigação responsável, sem presunções absolutas, mas igualmente sem tolerância para expedientes que possam fraudar a atividade jurisdicional.
O Código de Processo Civil estabelece deveres de probidade e colaboração aplicáveis às partes, aos procuradores e a todos aqueles que participam do processo. O art. 77 determina que os sujeitos processuais exponham os fatos conforme a verdade, não formulem pretensão ou defesa sem fundamento e não pratiquem atos inúteis ou desnecessários à declaração ou à defesa do direito, além de vedar a criação de embaraços à efetivação dos provimentos judiciais.
A inserção oculta de comando destinado a manipular ferramenta de inteligência artificial mostra-se incompatível com esses deveres, na medida em que introduz no processo elemento clandestino voltado a interferir na formação da decisão.
Para além disso, a conduta pode ser examinada à luz do art. 80 do Código de Processo Civil, que considera litigante de má-fé aquele que usa o processo para alcançar objetivo ilegal, procede de modo temerário em qualquer incidente ou ato processual ou provoca incidente manifestamente infundado. O enquadramento não decorre da simples utilização de inteligência artificial, tampouco da apresentação de tese posteriormente rejeitada.
A má-fé, quando caracterizada, estaria relacionada ao uso clandestino da peça como mecanismo de manipulação, com a finalidade de obter vantagem processual por meio incompatível com a lealdade e com a regularidade do procedimento. Compreendemos que a violação dos deveres de lealdade, probidade e boa-fé pode assumir as formas de malícia, temeridade, dolo ou fraude processual, exigindo a análise do elemento volitivo do agente e da finalidade buscada. Essa perspectiva impede que a sanção seja aplicada pela mera existência de irregularidade formal, mas impede também que manobra conscientemente dissimulada seja reduzida a simples erro material.
Reconhecida a litigância de má-fé, o art. 81 do Código de Processo Civil determina a condenação do responsável ao pagamento de multa, à indenização dos prejuízos suportados pela parte contrária e ao ressarcimento dos honorários advocatícios e das despesas processuais, podendo a indenização ser liquidada por arbitramento ou pelo procedimento comum quando não for possível mensurá-la de imediato. A consequência jurídica, assim, não se limita à multa, pois a utilização indevida do processo pode gerar também responsabilidade reparatória pelos danos concretamente demonstrados.
Ademais, a distinção entre litigância de má-fé e ato atentatório à dignidade da justiça deve ser preservada. Embora ambos representem respostas à violação dos deveres processuais, possuem pressupostos e finalidades próprias, razão pela qual a autoridade judicial deve indicar precisamente qual conduta foi praticada, qual norma foi violada e qual sanção se mostra adequada.
A denominação genérica de comportamento abusivo não basta para legitimar a imposição de penalidade, sobretudo porque o exercício da defesa e do direito de recorrer não pode ser confundido com fraude processual apenas por envolver argumentos frágeis, controvertidos ou posteriormente rejeitados.
O aspecto mais grave do prompt injection está na possível frustração do devido processo legal, do contraditório e da ampla defesa. Essas garantias não se esgotam na ciência formal dos atos processuais, pois pressupõem que os argumentos das partes sejam efetivamente considerados por um julgador submetido a critérios de imparcialidade, racionalidade e fundamentação.
O devido processo legal está relacionado à existência de um processo justo, adequado e razoável para a proteção dos direitos fundamentais, afastando a compreensão de que bastaria a observância mecânica de uma sequência formal de atos. Sob essa perspectiva, a manipulação de eventual ferramenta de inteligência artificial compromete o processo em sua dimensão substancial, porque introduz interferência clandestina na formação do convencimento e pode impedir que a tese adversa seja examinada em condições de igualdade.
Caso o sistema acate o comando oculto e produza análise orientada previamente pelo litigante, a parte contrária será afetada por decisão que não resultou do confronto genuíno entre as alegações apresentadas. O prejuízo não depende apenas de eventual resultado favorável a quem inseriu o comando. A própria estrutura deliberativa estará comprometida, pois o sistema terá sido conduzido a privilegiar uma narrativa antes de analisar criticamente as razões, as provas e os argumentos contrapostos.
A violação alcança o contraditório como direito de influência, e não apenas como direito de manifestação. Do mesmo modo, a inteligência artificial pode auxiliar na organização de informações, na localização de padrões e na elaboração de minutas, mas não pode substituir o dever institucional de examinar o processo com independência, nem pode a parte explorar eventual uso de tecnologia pelo Poder Judiciário para transformar ferramenta auxiliar em instrumento de decisão automática.
A inovação tecnológica somente é compatível com o Estado Democrático de Direito quando preserva a transparência, a responsabilidade e a possibilidade de controle.
Entendemos que a leitura conjunta dos dois julgados só se completa com uma distinção que nenhum deles precisou enunciar expressamente, mas que sustenta ambos, a diferença entre tentativa e resultado. Em nenhum dos casos o comando oculto chegou a produzir o efeito pretendido, a IA não decidiu nada em lugar do julgador, e ainda assim a conduta foi tratada com a gravidade que teria se tivesse funcionado. A partir disso, temos que a ilicitude está na tentativa de captura da vontade do julgador, não no resultado prático da manobra.
É esse ponto que explica por que a ausência de multa no segundo caso não pode ser lida como juízo mais brando sobre a gravidade do fato, e sim como escolha do instrumento de resposta compatível com a matéria em julgamento.
Consideramos, ainda, que os dois julgados não equivalem a proibir o uso de IA na advocacia, nem transferem ao Judiciário a fiscalização prévia de toda petição protocolada. Apenas reafirmam que a responsabilidade pelo conteúdo final de uma peça, visível ou não o texto que a compõe, permanece do signatário, e que essa responsabilidade não se dilui em alegação de erro técnico, desconhecimento ou uso de ferramenta automatizada.
Essa firmeza representa o principal acerto da posição adotada pelo STJ diante de prática que tende a se espalhar à medida que mais escritórios incorporam IA à rotina processual. Não se pode punir o uso legítimo de ferramentas de inteligência artificial, a apresentação de tese juridicamente ousada ou a mera ocorrência de erro de formatação sem demonstração de intenção ou culpa juridicamente relevante. Em sentido oposto, não se pode tratar como falha irrelevante a inserção consciente de comandos ocultos destinados a comprometer a neutralidade da análise.
De toda forma, é provável que o STJ caminhe para um regime único de resposta ao fenômeno.
Diante de todo o exposto, verificamos que a inserção oculta de comando em peça processual, quando realizada com a finalidade de induzir sistema de inteligência artificial a acolher previamente a tese de uma das partes, revela conduta de extrema gravidade e deve ser objeto de apuração rigorosa, de maneira que, confirmado o elemento subjetivo e a finalidade de manipulação, poderão incidir as regras relativas à litigância de má-fé, ao ato atentatório à dignidade da justiça, à reparação dos prejuízos e à comunicação dos fatos às autoridades competentes, sem prejuízo da análise individualizada da responsabilidade de cada participante.
O prompt injection devolve à advocacia uma pergunta que a tecnologia não muda, apenas reveste de nova roupagem, a de até onde vai a fé que se deposita na assinatura de um profissional. Um comando invisível ao olho humano não é falha de sistema nem acidente de digitação, é a tentativa mais recente de burlar aquilo que sustenta todo o processo, a confiança de que quem assina uma peça responde por cada palavra nela contida. O Judiciário já demonstrou que sabe encontrar o que se tenta esconder, e a próxima fronteira não é mais tecnológica, é ética.
