A crescente inserção da Inteligência Artificial (IA) na sociedade tem transformado significativamente a forma como os indivíduos interagem, produzem conhecimento, manifestam suas ideias e se comunicam no cotidiano. O desenvolvimento dessas tecnologias tem proporcionado maior eficiência na execução de tarefas, ampliado o acesso à informação e impulsionado inovações em diversos setores da atividade humana, inclusive no âmbito jurídico. Hoje, o processamento de dados em grande escala e o uso de algoritmos sofisticados deixaram de ser recursos exclusivos do setor de tecnologia para se tornarem peças centrais da infraestrutura de serviços públicos e privados.
Entretanto, embora parte da doutrina e da comunidade científica destaque os benefícios expressivos da Inteligência Artificial, como a otimização de procedimentos burocráticos, a redução de custos operacionais e o aumento da eficiência das atividades profissionais, também existem diversos posicionamentos que alertam para os riscos decorrentes de sua utilização irrestrita. Entre as principais preocupações debatidas por juristas e especialistas em tecnologia estão a falta de transparência dos algoritmos (o chamado fenômeno da “caixa-preta”), a possibilidade de reprodução de vieses discriminatórios inconscientes, a proteção dos dados pessoais dos cidadãos, a responsabilização civil e administrativa por decisões influenciadas por sistemas automatizados e a imperiosa necessidade de preservação dos direitos e garantias fundamentais.
No sistema de justiça brasileiro, essas ferramentas vêm sendo cada vez mais integradas à rotina de magistrados, membros do Ministério Público, advogados, defensores públicos e demais operadores do Direito. Elas auxiliam desde tarefas simples, como a pesquisa jurisprudencial acelerada, até funções complexas, como a elaboração de minutas de peças processuais, a análise preditiva de documentos e a organização do fluxo de processos nos cartórios. Apesar dos inegáveis benefícios relacionados ao ganho de produtividade e à busca pela celeridade processual, esse avanço acelerado também levanta profundas discussões sobre os limites éticos, jurídicos e constitucionais da sua utilização. Afinal, a tecnologia no Direito não deve servir apenas para acelerar procedimentos, mas também para garantir que a justiça continue sendo entregue com qualidade, humanidade e respeito aos parâmetros legais.
Antes de analisar esses limites de forma detalhada, é fundamental compreender o conceito de ética, pois ela constitui um dos principais referenciais normativos para avaliar a legitimidade das condutas humanas e das decisões que impactam a sociedade. Para isso, adotarei como referência o pensamento do filósofo australiano e teórico do Direito John Finnis. Segundo o autor, a ética consiste em um conjunto articulado de princípios práticos que orientam a conduta humana em direção ao bem, servindo como base sólida para a tomada de decisões moralmente corretas e juridicamente justas. Para Finnis, a ética não é apenas uma abstração teórica, mas uma busca constante por promover a dignidade da pessoa humana, a justiça distributiva e corretiva, a equidade nas relações sociais e o bem comum — valores que se configuram como indispensáveis para a sustentação de uma sociedade verdadeiramente democrática.
Quando transpomos esse pensamento para o campo da Inteligência Artificial no Judiciário, percebemos que o uso de algoritmos não pode ser encarado como uma simples questão de eficiência técnica. A aplicação da ética de Finnis nos lembra que a tecnologia deve ser instrumentalizada para servir ao ser humano e ao bem comum, jamais colocando em risco os bens essenciais que estruturam a coexistência social pacífica e justa.
Nas últimas décadas, o Brasil passou por um intenso e complexo processo de hiperjudicialização, caracterizado pelo aumento constante e exponencial do número de ações submetidas à apreciação do Poder Judiciário. Diversos fatores contribuem para essa sobrecarga, que vai desde a maior conscientização dos cidadãos sobre seus direitos até a cultura de litígio entre grandes litigantes institucionais, como empresas de telecomunicações, instituições financeiras e o próprio Estado. Apesar das sucessivas reformas processuais — a exemplo da consolidação de precedentes vinculantes — e do incentivo crescente aos meios alternativos de resolução de conflitos, como a conciliação e a mediação, o volume de processos pendentes continua extremamente elevado, comprometendo a razoável duração do processo e a eficiência da prestação jurisdicional.
Nesse contexto desafiador, o uso da Inteligência Artificial surge como uma importante e promissora ferramenta para auxiliar na gestão processual. Ela permite triar petições iniciais com rapidez, identificar recursos repetitivos, agrupar demandas de massa por temas semelhantes, reduzir o tempo de tramitação das ações e, em última análise, aumentar a produtividade dos tribunais. Contudo, essa busca por maior celeridade não pode ocorrer a qualquer custo. Sua utilização deve respeitar rigorosamente os limites éticos, jurídicos e constitucionais, especialmente quando as ferramentas tecnológicas deixam de atuar como meras organizadoras de dados e passam a influenciar, direta ou indiretamente, atividades relacionadas à tomada de decisões judiciais.
Atento ao avanço célere dessas tecnologias e à necessidade de uniformizar práticas no país, o Conselho Nacional de Justiça editou a Resolução nº 615, de 11 de março de 2025, estabelecendo diretrizes claras e fundamentais para a governança e a utilização da Inteligência Artificial nos tribunais brasileiros. Entre as suas principais determinações, destaca-se a obrigatoriedade da supervisão humana direta sobre os sistemas de IA (o princípio do human-in-the-loop). Isso garante que nenhuma decisão de caráter substantivo ou terminativo seja tomada exclusivamente por ferramentas automatizadas, resguardando sempre a possibilidade de revisão e reapreciação fundamentada por um agente humano qualificado.
Além disso, a referida resolução reforça o princípio constitucional da transparência e da publicidade processual ao exigir que os tribunais disponibilizem de forma clara e acessível informações sobre o uso de soluções tecnológicas em suas rotinas. O ato normativo também institui o Comitê Nacional de Inteligência Artificial, órgão responsável por orientar, acompanhar e fiscalizar a implementação dessas ferramentas no Poder Judiciário, promovendo padrões éticos unificados e incentivando o desenvolvimento responsável de tecnologias voltadas à Justiça.
Apesar das inegáveis vantagens operacionais proporcionadas pela Inteligência Artificial, sua utilização indiscriminada ou sem as devidas cautelas pode representar riscos relevantes e duradouros ao Estado Democrático de Direito. Um dos pontos mais críticos reside no fato de que os sistemas automatizados aprendem a partir de bases de dados históricas. Caso esses dados contenham discriminações implícitas, distorções ou falhas operacionais do passado, a IA pode simplesmente reproduzir e amplificar esses erros e vieses comportamentais. Isso compromete diretamente a imparcialidade das decisões e a garantia de igualdade de tratamento entre as partes litigantes.
Outro risco sutil, porém profundo, diz respeito ao uso excessivo ou acrítico dessas ferramentas pelos operadores do Direito. A confiança cega nos modelos gerativos pode desencadear uma perigosa dependência tecnológica por parte de advogados, pareceristas e magistrados. Esse fenômeno tende a enfraquecer habilidades artesanais e indispensáveis do fazer jurídico, tais como a capacidade de interpretação analítica das normas, a formulação de uma argumentação jurídica inovadora, o exercício refinado da hermenêutica e a construção progressiva do raciocínio crítico diante de situações inéditas ou atípicas.
Além dos aspectos estritamente jurídicos e procedimentais, a doutrina filosófica e científica contemporânea também tem chamado a atenção para os riscos existenciais e estruturais relacionados ao desenvolvimento descontrolado da tecnologia. O filósofo sueco Nick Bostrom sustenta que o avanço de sistemas computacionais cada vez mais autônomos exige a criação rigorosa de mecanismos de controle e alinhamento (alignment problem), capazes de garantir que os objetivos das máquinas permaneçam perfeitamente em sintonia com os valores e a ética humanos. Segundo o autor, uma inteligência artificial muito avançada ou superinteligente desenvolvida sem o devido alinhamento normativo poderá representar uma séria ameaça à autonomia, à liberdade e à própria capacidade de decisão da humanidade (BOSTROM, 2014).
No âmbito específico da magistratura, essa preocupação ganha contornos de extrema gravidade. Julgar uma causa não se resume a uma operação matemática de subsunção fria da lei ao fato, nem à simples aplicação dogmática de textos normativos. A atividade jurisdicional exige analisar cuidadosamente as nuances do caso concreto, interpretar a legislação à luz dos valores vigentes, avaliar o conjunto probatório com sensibilidade, escutar as partes com empatia e ponderar princípios constitucionais muitas vezes conflitantes.
Embora a Inteligência Artificial consiga processar e cruzar volumes gigantescos de dados em poucos segundos — feito impossível para qualquer ser humano —, ela é desprovida de capacidade de julgamento moral, consciência ética, intuição ou compreensão genuína das dores e particularidades humanas presentes em cada lide. A máquina trabalha com probabilidades estatísticas e padrões de linguagem, enquanto o ato de julgar exige humanidade e discernimento moral. Por essa razão, o papel do magistrado humano continua sendo inteiramente indispensável para garantir uma decisão justa, equânime e compatível com a tutela efetiva dos direitos fundamentais.
Essa necessidade de vigilância e imposição de limites já pode ser observada na prática forense do dia a dia. Um exemplo emblemático ocorreu na Justiça do Estado de Santa Catarina, quando a empresa Natura foi condenada por litigância de má-fé após a identificação do uso da técnica conhecida como prompt injection (injeção de instruções) em uma petição apresentada por sua defesa (Processo nº 5001058-31.2026.8.24.0055). Segundo consta na decisão judicial, foram inseridos comandos de texto ocultos ou invisíveis na peça processual, elaborados com a intenção deliberada de manipular e influenciar os sistemas de Inteligência Artificial que pudessem ser utilizados pelos assessores ou magistrados durante a triagem e análise do processo, buscando induzir a ferramenta a gerar resumos ou minutas favoráveis à empresa.
Ao analisar o incidente, o magistrado entendeu que essa conduta deliberada configurou fraude processual e violou frontalmente os deveres processuais de boa-fé objetiva, lealdade e cooperação entre os sujeitos do processo. Esse caso prático demonstra de forma cristalina que os riscos éticos e normativos relacionados à Inteligência Artificial no Direito não pertencem ao plano da ficção científica ou das meras hipóteses acadêmicas. O uso inadequado, abusivo ou desleal dessas ferramentas tecnológicas já produz consequências jurídicas e materiais concretas, reforçando a urgência de se estabelecer regras de transparência e limites éticos indisponíveis para o seu emprego no sistema de justiça.
Diante desse cenário dinâmico e em constante evolução, percebe-se que o verdadeiro desafio não reside na rejeição da tecnologia ou no banimento da Inteligência Artificial em si, mas sim na forma ética, prudente e transparente como ela é empregada pelos profissionais e pelas instituições do Direito. Quando utilizada de maneira responsável, ética e bem regulamentada, essa tecnologia pode contribuir expressivamente para a modernização das rotinas do Poder Judiciário, tornando a prestação de serviços jurisdicionais mais célere, organizada e acessível à população.
Entretanto, o entusiasmo com a inovação digital não pode se sobrepor aos pilares fundamentais da ordem jurídica. O uso da tecnologia deve estar sempre rigorosamente subordinado aos princípios e garantias individuais assegurados pela Constituição Federal, à necessária e permanente supervisão humana e aos valores éticos universais que orientam a nobre atividade de promover a justiça.
Assim, conclui-se que a Inteligência Artificial pode ser uma valiosa e potente aliada do Poder Judiciário brasileiro, desde que atue estritamente como um instrumento de suporte técnico e organizacional, e jamais como substituta do discernimento, da sensibilidade e da responsabilidade da atuação humana. O seu limite intransponível está localizado justamente no momento em que a automação passa a interferir indevidamente na autonomia reflexiva do julgador, no exercício da interpretação humana do Direito ou na garantia constitucional de proteção e promoção dos direitos fundamentais de todos os cidadãos.
REFERÊNCIAS
A Editora OAB/PE Digital não se responsabiliza pelas opiniões e informações dos artigos, que são responsabilidade dos autores.
Envie seu artigo, a fim de que seja publicado em uma das várias seções do portal após conformidade editorial.
