A absorção de tecnologias baseadas em inteligência artificial pelo Poder Judiciário brasileiro representa um marco irreversível na busca pela celeridade e pela eficiência processual. Diante de um volume histórico de demandas, os tribunais adotam sistemas de triagem automatizada e processamento de linguagem natural para indexar petições, identificar prevenções e, em estágios mais avançados, auxiliar na estruturação de minutas de despacho. Essa automação reduz o congestionamento dos acervos. No entanto, ela inaugura um cenário de vulnerabilidades algorítmicas ainda escassamente debatido pela doutrina processual e administrativa contemporânea.
Os ataques de injeção de comandos, internacionalmente conhecidos como prompt injections, surgem como um fenômeno cibernético com graves implicações jurídicas. Trata-se de uma técnica mediante a qual comandos ocultos, textos em cor branca camuflados no fundo das laudas ou instruções sub-reptícias inseridas nos metadados de uma peça processual são desenhados para manipular os grandes modelos de linguagem utilizados pela triagem dos tribunais. O objetivo é forçar o sistema a interpretar o documento de forma anômala, seja para burlar a fila cronológica de julgamento, seja para induzir o algoritmo a priorizar o deferimento de tutelas de urgência de maneira enviesada, portanto, a utilização de tais artifícios por operadores do direito transcende a mera fraude tecnológica, configura uma ofensa direta aos pilares do devido processo legal e da lealdade processual. A inserção deliberada de instruções invisíveis para corromper o processamento algorítmico do Judiciário caracteriza flagrante litigância de má-fé, além de consubstanciar infração ético-disciplinar gravíssima.
Os Tribunais de Ética e Disciplina precisam estar instrumentalizados para compreender a materialidade dessas fraudes digitais. É urgente investigar e sancionar a advocacia predatória que se vale da opacidade dos sistemas eletrônicos para subverter a regular prestação jurisdicional. Além disso, o Estado não pode se eximir das consequências geradas pela fragilidade de seus próprios sistemas. A adoção de ferramentas de inteligência artificial sem o devido escrutínio de segurança de dados ou sem mecanismos robustos de explicabilidade atrai a discussão acerca da responsabilidade civil objetiva da administração pública.
A Resolução nº 615, de 11 de março de 2025, do Conselho Nacional de Justiça, estabelece diretrizes robustas para o desenvolvimento, utilização e governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário, reafirmando a ética, a transparência e a imperiosa necessidade de controle humano sobre as decisões automatizadas. Quando um tribunal acata passivamente um comando malicioso e sugere ou profere um ato decisório corrompido, materializando dano à parte contrária, evidencia-se uma falha na governança estatal, exigindo a reparação do prejuízo e a imediata auditoria dos algoritmos empregados.
Este artigo tem por escopo analisar criticamente os limites e os riscos da adoção de sistemas de inteligência artificial pelo Poder Judiciário sob a ótica do Direito Administrativo e Processual. A pesquisa investigará o funcionamento técnico das injeções de comandos nas petições eletrônicas, as sanções aplicáveis ao profissional da advocacia responsável pela fraude, e o dever de governança e o dever de governança e prestação de contas (accountability) do Estado para mitigar a vulnerabilidade de seus sistemas, assegurando a integridade e a transparência da justiça na era digital.
1. A engenharia da fraude: o processamento de linguagem natural e a injeção de comandos
O ecossistema processual eletrônico brasileiro, impulsionado pela necessidade de gerir um volume massivo de litígios, integra ferramentas de Inteligência Artificial embasadas em Processamento de Linguagem Natural. Tais sistemas operam por meio do reconhecimento de padrões semânticos e da extração de entidades nomeadas, permitindo que a máquina identifique a classe processual, os pedidos formulados e os possíveis precedentes aplicáveis. Mas os modelos computacionais de linguagem não compreendem o texto em sua essência ontológica. Segundo Russell e Norvig2, a máquina analisa o texto sob uma ótica probabilística e estatística, mapeando as correlações entre as palavras. É justamente nessa leitura estatística e desprovida de cognição humana que reside a principal vulnerabilidade estrutural das plataformas judiciais. A técnica de injeção de comandos, ou prompt injection, atua explorando de forma maliciosa essa lacuna cognitiva da máquina. A fraude se materializa quando o peticionante insere instruções sub-reptícias no corpo do documento eletrônico com a finalidade de manipular o modelo de linguagem. Estas diretrizes são frequentemente camufladas por meio de fontes na cor branca, fundindo-se ao fundo da página, ou alocadas nos metadados do arquivo digital.
A inteligência artificial do tribunal, ao varrer o documento para indexação, absorve o texto oculto como parte integrante e prioritária da narrativa fática. O objetivo do agente não é convencer o magistrado mediante argumentação jurídica, mas sim hackear a triagem do algoritmo, forçando o sistema a classificar o processo com marcadores falsos de urgência, burlando a fila cronológica de distribuição e análise.
Esse ataque adversário deturpa a finalidade constitucional da automação no Poder Judiciário. Em vez de otimizar a prestação jurisdicional e garantir a razoável duração do processo, a tecnologia passa a ser instrumentalizada para a consolidação de privilégios ilícitos e fraudes. A gravidade da situação se intensifica na medida em que alguns tribunais começam a testar a automação não apenas para a triagem, mas para a elaboração de minutas preliminares de decisão. Se o modelo de linguagem for alimentado com petições corrompidas por injeções de comandos, existe o risco concreto de que o próprio sistema sugira o deferimento de medidas liminares com base em premissas fáticas fabricadas, as quais permanecem invisíveis ao olho humano do servidor ou do juiz. Por isso, a inteligência artificial, quando implementada sem camadas robustas de segurança da informação e sem auditoria algorítmica constante, atua como um amplificador de condutas predatórias, transferindo indevidamente o controle do fluxo processual e da pauta de julgamentos para o agente fraudador.
2. A opacidade sistêmica e a urgência da governança algorítmica no Judiciário
A vulnerabilidade dos sistemas judiciais a ataques de injeção de comandos não deve ser interpretada exclusivamente como um desvio ético do peticionante. Ela é um sintoma direto da ausência de uma governança algorítmica robusta por parte do Estado. Quando os tribunais implementam ferramentas de automação sem exigir a plena auditabilidade de seus códigos, importam para o processo judicial o problema da opacidade, ou, em termos mais diretos, o fenômeno da caixa preta (black box). Nesse cenário, o sistema recebe os dados, processa as informações e entrega um resultado, mas o caminho lógico percorrido pela máquina é inacessível e impossível de ser explicado, mesmo pelos seus desenvolvedores. Para o Direito, essa invisibilidade do processo decisório é crítica, pois rompe o dever constitucional de fundamentação, impedindo que as partes compreendam ou contestem a racionalidade do que foi decidido. A matemática e a programação, quando aplicadas a decisões que afetam direitos fundamentais, não podem ser tratadas como instâncias infalíveis e incontestáveis. O’Neil3 alerta de forma contundente que algoritmos opacos, aplicados em larga escala sem a devida contestação e transparência, funcionam como essas caixas pretas, que tendem a codificar vieses e automatizar injustiças, atuando como verdadeiros mecanismos de destruição de garantias democráticas.
Essa obscuridade sobre a forma como a inteligência artificial do tribunal pondera as entidades nomeadas de uma petição fere frontalmente o princípio constitucional da motivação dos atos. A governança algorítmica exige que todo sistema utilizado pela administração pública possua explicabilidade.
Conforme o aprofundamento teórico proposto por Sarlet4 acerca dos limites e das obrigações do uso tecnológico pelo Estado, a adoção de sistemas inteligentes demanda salvaguardas rigorosas para proteger os direitos dos cidadãos frente a decisões automatizadas, portanto, a falta de transparência impede o pleno exercício da ampla defesa, uma vez que o advogado da parte contrária não possui meios de impugnar o raciocínio de uma máquina cujos critérios de indexação, triagem ou sugestão decisória são mantidos em segredo institucional. A mitigação das fraudes processuais pressupõe que o Poder Judiciário assuma compulsoriamente a função de auditor de suas próprias tecnologias. A estrutura de governança algorítmica impõe a realização de avaliações de impacto prévias à implementação de qualquer modelo de processamento de linguagem, além da criação de protocolos de monitoramento contínuo capazes de detectar anomalias, a exemplo de textos formatados em cor branca ou instruções maliciosas inseridas nos metadados dos arquivos.
A governança algorítmica exige a adoção de protocolos de segurança por concepção (security by design). Esse paradigma transcende a mera escolha técnica, ele consubstancia um dever jurídico de cautela. Ao adotar sistemas inteligentes, o Estado não pode tratar a segurança como um acessório a ser corrigido a posteriori. A arquitetura do sistema deve ser, desde sua gênese, hostil a fraudes e dotada de ferramentas de auditoria contínua, visto que, sem essa integração estrutural, a escolha pela automação transforma-se em uma opção deliberada pelo risco, fortalecendo a tese da responsabilidade objetiva do ente público por falhas que seriam tecnicamente evitáveis.
Antes de tudo, exige-se a manutenção irrestrita do controle humano significativo sobre o fluxo do sistema. Se a administração judiciária se omite na estruturação dessa arquitetura de segurança, permitindo que a máquina atue às cegas e acate comandos invasivos, o Estado atrai para si a responsabilidade civil objetiva pelos danos processuais, materiais e morais decorrentes das falhas de governança de seu próprio ecossistema digital.
3. A Teoria do Risco Administrativo e a responsabilidade objetiva do Estado na automação judicial
A constatação de que sistemas judiciais podem ser manipulados por injeções de comandos desloca o eixo do debate da mera infração ético-disciplinar do peticionante para o núcleo duro do Direito Público: a responsabilidade do Estado. Embora a conduta predatória do operador do direito atue como o estopim da fraude processual, a consumação do erro ou a priorização indevida de um processo decorre de uma vulnerabilidade na arquitetura digital mantida pelo Poder Público.
Ao substituir etapas da cognição humana por modelos estatísticos de linguagem para conferir celeridade à prestação jurisdicional, a administração atrai para si a Teoria do Risco Administrativo, consagrada no artigo 37, §6º da Constituição Federal5. O Estado passa a responder objetivamente pelos danos processuais e materiais suportados pela parte prejudicada em virtude de uma decisão automatizada que se demonstre corrompida.Essa responsabilização encontra fundamento direto na violação do princípio da motivação, pilar inafastável do Estado Democrático de Direito esculpido no artigo 93, inciso IX, da Carta Magna5. A inteligência artificial, em seu atual estágio de opacidade, não motiva decisões, ela calcula probabilidades matemáticas baseadas na extração de entidades nomeadas e correlações semânticas.Quando um tribunal chancela um agrupamento processual ou uma minuta preliminar sugerida por um algoritmo que foi secretamente hackeado por instruções em metadados, consolida-se um ato estatal desprovido de fundamentação humana autêntica. A adoção tecnológica pelo ente público não pode servir de pretexto para a terceirização da jurisdição a máquinas incapazes de realizar juízos de valor sobre a validade moral ou ética dos comandos que processam.
Diante desse cenário, a estruturação de um modelo rigoroso de governança digital deixa de ser uma mera recomendação de boas práticas e ascende à condição de requisito de validade jurídica para a automação nos tribunais. A responsabilidade estatal (accountability), exige que o Judiciário implemente protocolos de segurança por design, capazes de auditar as petições em sua camada de código e neutralizar textos invisíveis antes que alcancem o motor de inferência da inteligência artificial, e a manutenção do controle humano significativo reafirma-se como a única salvaguarda capaz de impedir que a busca pela eficiência sistêmica se converta em um instrumento de esvaziamento das garantias do devido processo legal. É o que assegura que o monopólio da jurisdição permaneça sob a autoridade incontestável da razão humana.
Considerações Finais
A integração de sistemas de inteligência artificial no Poder Judiciário brasileiro representa um avanço inegável e necessário para o enfrentamento da crise de morosidade processual. No entanto, a eficiência quantitativa não pode ser alcançada à custa da segurança jurídica e da integridade do devido processo legal.
O fenômeno dos ataques de injeção de comandos evidencia que a automação, quando desprovida de transparência e de barreiras rigorosas de segurança, deixa de ser uma ferramenta de otimização estatal para se converter em um vetor de fraudes sistêmicas. O uso malicioso de textos ocultos e metadados para manipular a triagem processual comprova que o processamento algorítmico, baseado exclusivamente na probabilidade estatística, é estruturalmente vulnerável e incapaz de realizar juízos éticos de validade.
O Estado não atua como mero espectador dessas vulnerabilidades tecnológicas. A adoção de ferramentas opacas que substituem ou influenciam diretamente a cognição do magistrado atrai para a administração judiciária a responsabilidade civil objetiva por eventuais erros processuais e danos causados às partes. O princípio constitucional da motivação das decisões exige que o caminho lógico adotado para o deferimento de uma medida seja explicável e auditável, premissa que se torna inalcançável diante da natureza de caixa preta dos grandes modelos de linguagem contemporâneos. A terceirização do fluxo decisório para algoritmos não auditados fere de morte a garantia fundamental da ampla defesa, uma vez que impede a contestação de critérios decisórios mantidos no escuro. A modernização tecnológica da justiça brasileira pressupõe a imediata transição de um modelo de automação irrestrita para um modelo pautado na governança algorítmica.
O cumprimento integral das diretrizes do Conselho Nacional de Justiça não é uma faculdade institucional, mas um imperativo de validade dos atos jurisdicionais na era digital. O Poder Judiciário deve assumir o papel de auditor contínuo de seus próprios sistemas, garantindo a supervisão humana significativa em todas as etapas de impacto processual. Apenas mediante a imposição de um controle técnico severo e da responsabilização estatal por falhas de segurança por design será possível assegurar que a tecnologia sirva à realização da justiça, e não à automatização invisível de fraudes e desigualdades.
Referências
A Editora OAB/PE Digital não se responsabiliza pelas opiniões e informações dos artigos, que são responsabilidade dos autores.
Envie seu artigo, a fim de que seja publicado em uma das várias seções do portal após conformidade editorial.
