O século XXI é caracterizado por uma transformação digital sem precedentes, em que o avanço das tecnologias de inteligência artificial (IA) redefine as fronteiras entre o público e o privado, o humano e o tecnológico, o jurídico e o algorítmico. Essa revolução, que se manifesta na automação de políticas públicas, na digitalização da Justiça e na coleta massiva de dados pessoais, traz consigo um dilema central para o Direito Constitucional contemporâneo: como preservar as garantias fundamentais em um cenário em que decisões estatais são cada vez mais mediadas por algoritmos e sistemas de aprendizado de máquina? A questão não é apenas técnica, mas profundamente política e jurídica, pois envolve a essência do constitucionalismo moderno: o controle do poder e a proteção da dignidade humana.

O constitucionalismo, desde sua origem, tem como finalidade limitar o exercício do poder e assegurar direitos. No entanto, o poder hoje assume novas formas – ele não se manifesta apenas por meio de atos de governo ou legislação, mas também através de linhas de código, decisões automatizadas e sistemas inteligentes que processam informações de maneira opaca e autônoma. Surge, assim, a necessidade de repensar o próprio paradigma constitucional à luz dessa nova realidade. É nesse contexto que se insere a ideia de “constitucionalismo algorítmico”, expressão que traduz o esforço de estender os princípios e valores constitucionais para o campo das tecnologias digitais e das decisões automatizadas.

O uso de inteligência artificial pelo Estado brasileiro já é uma realidade. Ferramentas de triagem automatizada em programas sociais, softwares de reconhecimento facial utilizados na segurança pública e sistemas de análise preditiva aplicados no Judiciário ilustram o avanço da automação na esfera pública. Embora possam aumentar a eficiência administrativa, essas tecnologias também introduzem riscos significativos para os direitos fundamentais. O mais evidente deles é a opacidade algorítmica – a impossibilidade de compreender os critérios e fundamentos que orientam as decisões automatizadas. Essa falta de transparência compromete o princípio republicano da publicidade, inscrito no artigo 37 da Constituição Federal, e ameaça a própria noção de devido processo legal, prevista no artigo 5º, incisos LIV e LV.

O devido processo legal, tradicionalmente entendido como a garantia de que ninguém será privado de seus direitos sem o respeito às formas legais e ao contraditório, precisa ser reinterpretado diante da automação decisória. Quando a decisão é produzida por um algoritmo, o contraditório e a ampla defesa se tornam inviáveis se o cidadão não compreende os parâmetros utilizados pela máquina. A ausência de explicabilidade transforma o devido processo em uma formalidade vazia. Daí decorre a necessidade de formular o conceito de “devido processo algorítmico”, que não substitui o devido processo legal clássico, mas o atualiza para o ambiente digital. Esse novo paradigma exige a explicação compreensível das decisões automatizadas, a revisão humana obrigatória, a proporcionalidade tecnológica e a mitigação de vieses discriminatórios embutidos nos dados de treinamento.

O problema não é hipotético. Experiências internacionais demonstram como o uso indiscriminado de IA pelo Estado pode gerar injustiças sistêmicas. Nos Estados Unidos, o sistema COMPAS, utilizado para prever reincidência criminal, foi amplamente criticado por reforçar discriminações raciais e sociais. Na Europa, algoritmos de triagem em programas de benefícios sociais geraram exclusões indevidas de famílias inteiras. Esses exemplos revelam que o poder algorítmico, quando não submetido a controle jurídico e democrático, reproduz desigualdades e compromete a confiança pública nas instituições. No Brasil, o cenário é igualmente preocupante, pois não há uma política nacional de transparência algorítmica. Apesar da Lei de Acesso à Informação (Lei nº 12.527/2011) e da Lei Geral de Proteção de Dados (Lei nº 13.709/2018), ainda não existe obrigação clara de auditoria de sistemas utilizados pelo Estado, o que favorece a existência de um “Estado invisível”, guiado por códigos indevassáveis.

Essa invisibilidade tecnológica gera um novo tipo de poder – o poder algorítmico – que se desloca da esfera do controle humano e escapa às estruturas tradicionais de responsabilidade. Diferentemente do poder político, que pode ser contestado por meio de mecanismos institucionais, o poder algorítmico opera silenciosamente, escondido na complexidade técnica. Essa opacidade ameaça o núcleo da legitimidade democrática, baseada na deliberação, na motivação e na accountability. Quando decisões públicas passam a ser tomadas por máquinas, sem explicação inteligível, substitui-se a razão pública pela razão computacional, a deliberação pelo cálculo e a motivação pela programação.

O Poder Judiciário, nesse contexto, é chamado a exercer um papel essencial. É ele quem deve reinterpretar a Constituição de 1988 diante das novas formas de poder tecnológico. A Suprema Corte brasileira tem, aos poucos, se aproximado dessas discussões. Em julgamentos como o da ADPF 403 e do RE 1055941, que trataram da responsabilidade de plataformas digitais e do direito ao esquecimento, o Supremo Tribunal Federal reconheceu a necessidade de equilibrar liberdade de expressão e proteção da dignidade humana na era digital. Contudo, é necessário avançar para o reconhecimento explícito de novos direitos, como o direito à explicação das decisões automatizadas e o direito à revisão humana de decisões tomadas por IA.

O Regulamento Geral de Proteção de Dados da União Europeia (GDPR), em vigor desde 2018, oferece um modelo de referência ao estabelecer, em seu artigo 22, o direito de qualquer pessoa de não ser submetida a decisões baseadas exclusivamente em processamento automatizado. Trata-se de um marco normativo que reconhece, de forma concreta, o valor jurídico do controle humano significativo. No Brasil, uma interpretação evolutiva da Constituição pode alcançar resultado semelhante, entendendo-se que o artigo 5º, inciso XXXV – que assegura o acesso ao Judiciário contra lesão ou ameaça a direito – implica o direito de questionar decisões algorítmicas e de exigir sua explicação.

A centralidade da dignidade da pessoa humana nesse debate é inegável. O artigo 1º, inciso III, da Constituição Federal consagra a dignidade como fundamento da República, e esse princípio deve orientar também o uso estatal da inteligência artificial. Reduzir o cidadão a um conjunto de dados ou probabilidades é desumanizar o sujeito de direito. A dignidade exige reconhecimento da singularidade e da autonomia, valores incompatíveis com decisões baseadas em meros padrões estatísticos. Assim, a IA só pode ser utilizada pelo Estado se for compatível com a preservação da autonomia individual, com a igualdade de tratamento e com a justiça procedimental.

Nesse sentido, o constitucionalismo algorítmico é também um projeto ético: ele não busca negar a tecnologia, mas submeter o poder digital ao controle dos princípios constitucionais. Em um tempo em que a eficiência tende a se sobrepor à justiça, o constitucionalismo algorítmico reafirma que a função da Constituição é proteger o humano diante das novas formas de dominação técnica. Como observa Luigi Ferrajoli, a Constituição continua sendo o limite do poder – e o poder, hoje, é também tecnológico.

A consolidação desse novo constitucionalismo requer a formulação de princípios específicos. O primeiro é o princípio da explicabilidade, que garante ao cidadão o direito de compreender as decisões automatizadas que o afetam. O segundo é o princípio da proporcionalidade tecnológica, que impõe limites ao uso de IA conforme a finalidade pública e o impacto sobre os direitos. O terceiro é o princípio da responsabilidade algorítmica, que atribui ao Estado a obrigação de responder objetivamente por danos causados por decisões automatizadas injustas. O quarto é o princípio da revisão humana obrigatória, que impede que máquinas tomem decisões finais sem intervenção de pessoas. E, por fim, o princípio da publicidade digital, que determina a abertura e auditabilidade dos códigos utilizados pelo poder público. Esses princípios traduzem, em linguagem contemporânea, as antigas garantias do Estado de Direito.

Ignorar essa agenda significaria aceitar a naturalização de uma “algocracia” – um governo pelas máquinas, em que a decisão pública se torna indevassável e a cidadania perde seu poder de contestação. Em um regime assim, a democracia se converte em mera aparência, pois o cidadão não sabe que uma decisão foi tomada contra ele, tampouco como ou por quem. O perigo não é apenas teórico: é a perda da capacidade de compreender o próprio funcionamento do Estado.

O caminho para evitar essa erosão democrática passa por três dimensões complementares. A primeira é jurídica, e exige atualização interpretativa do constitucionalismo, incorporando a proteção contra decisões automatizadas. A segunda é institucional, com a criação de órgãos independentes de auditoria algorítmica e observatórios públicos de IA. E a terceira é educacional, pois a literacia digital e o acesso à informação são condições para o exercício pleno da cidadania na era tecnológica.

Em última análise, o desafio do constitucionalismo algorítmico é assegurar que a inteligência artificial seja instrumento de promoção da justiça, e não de dominação silenciosa. A tecnologia, por si só, não é boa nem má: ela reflete os valores que orientam sua utilização. Cabe ao Direito Constitucional garantir que esses valores permaneçam ancorados na dignidade humana, na transparência e na democracia. O futuro do Estado de Direito dependerá, cada vez mais, da capacidade de manter o humano no centro da decisão pública.

A era digital não elimina o constitucionalismo – ela o torna mais necessário do que nunca. Se o século XVIII precisou limitar o poder dos reis, o século XXI precisa limitar o poder dos algoritmos. A Constituição continua sendo, como dizia Norberto Bobbio, o pacto que impede a força de se tornar razão. No novo cenário tecnológico, esse pacto deve ser reescrito em linguagem digital, sem perder sua essência humana. Nenhum código, por mais sofisticado que seja, pode estar acima da Constituição. Nenhum algoritmo pode decidir sem respeito ao devido processo legal. E nenhuma inovação tecnológica deve eclipsar o valor supremo que sustenta o direito e a política: a dignidade da pessoa humana.

Referências

BIONI, Bruno Ricardo. Proteção de Dados Pessoais: a função e os limites do consentimento. 3. ed. São Paulo: Thomson Reuters Brasil, 2023.
FERRAJOLI, Luigi. Poderes Selvagens: a crise da democracia constitucional. São Paulo: Editora Revista dos Tribunais, 2022.
HILDEBRANDT, Mireille. Smart Technologies and the End(s) of Law: Novel Entanglements of Law and Technology. Cheltenham: Edward Elgar, 2015.
MORO, Giovanni. Constitucionalismo Digital: direitos fundamentais na era das plataformas. Lisboa: Almedina, 2023.
PARISE, Émilie. “Algoritmos e o princípio da publicidade administrativa: desafios ao Estado Democrático de Direito”. Revista Brasileira de Direito Público, v. 20, n. 3, 2022.
SARLET, Ingo Wolfgang; MARINONI, Luiz Guilherme; MITIDIERO, Daniel. Curso de Direito Constitucional. 8. ed. São Paulo: Saraiva, 2023.
SOUZA NETO, Cláudio Pereira de; SARMENTO, Daniel. Direitos Fundamentais: estudos de teoria constitucional contemporânea. 3. ed. Rio de Janeiro: Lumen Juris, 2022.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.