Desde o alvorecer da era digital no Brasil, tenho sustentado que a tecnologia deve servir ao Direito, e nunca o oposto. Vivemos hoje o ápice de uma metamorfose: a transição do processo eletrônico para o processo algorítmico. A Inteligência Artificial (IA) generativa, embora celebrada pela sua celeridade, traz consigo um desafio ontológico que toca o cerne da democracia: a preservação da sensibilidade humana no ato de julgar.

O Princípio da Reserva Humana não é uma barreira ao progresso, mas um imperativo ético. Como venho defendendo ao longo de décadas, a atividade jurisdicional não é um mero exercício de lógica matemática ou de probabilidade estatística. Julgar exige o que as máquinas, por definição, não possuem: a prudência e a capacidade de compreender as nuances da tragédia humana que se desdobra em cada processo. A IA pode ser uma "copiloto" excepcional para a triagem de precedentes e organização de fluxos, mas a "caneta" — a decisão que altera a vida, a liberdade ou o patrimônio de um cidadão — deve pertencer exclusivamente ao magistrado.

A reserva humana garante que o Judiciário não se converta em uma tecnocracia fria, onde o jurisdicionado é reduzido a um dado processado por um sistema de "caixa-preta". O juiz deve permanecer no centro do processo, atuando como o filtro crítico que impede que o erro tecnológico se converta em injustiça institucionalizada.

O ponto de maior fricção entre a IA e o Direito reside na fundamentação das decisões. A nossa Carta Magna, no seu Art. 93, IX, é peremptória: toda decisão deve ser motivada. Contudo, a utilização de modelos de linguagem de grande escala (LLMs) introduziu um fenômeno perigoso que apelidamos de "alucinação jurídica". Trata-se da criação de jurisprudências inexistentes e súmulas inventadas por algoritmos que buscam padrões, e não a verdade jurídica.

A recente Resolução nº 615/2025 do CNJ, que tive a honra de acompanhar em seus debates conceituais, consolida a visão de que a IA tem caráter meramente auxiliar. Quando um magistrado adota uma minuta automatizada sem a devida revisão crítica, ele abdica de sua função precípua e fere o dever de fundamentação real. Não basta uma fundamentação "genérica" ou "padronizada"; a decisão deve enfrentar os argumentos específicos das partes.

A falta de transparência dos algoritmos (a opacidade do código) impede que o advogado exerça o contraditório de forma plena. Se não sabemos como a máquina chegou àquela conclusão, como podemos impugná-la? Por isso, defendo que a reserva humana é a única garantia de que a motivação da sentença seja fruto de um convencimento lógico-jurídico humano, e não de um cálculo probabilístico opaco. O juiz que não revisa a máquina deixa de ser magistrado para tornar-se um mero homologador de algoritmos.

Para o futuro do Direito, é fundamental compreendermos que o cidadão possui o direito à revisão humana. Este conceito, já presente no Art. 20 da LGPD, deve ser transposto com rigor para o processo. Se uma decisão é tomada ou sugerida por um meio automatizado, a parte afetada tem o direito inalienável de exigir que um ser humano reavalie os critérios e a lógica aplicada.

Os pilares para a sobrevivência do devido processo legal na era da IA são:

Transparência Algorítmica: Os tribunais devem declarar o uso de ferramentas de IA, permitindo a auditabilidade dos datasets.

Responsabilidade Direta: O magistrado responde pela integridade do texto final. A citação de um precedente falso gerado por IA não é um "erro do sistema", é um erro de supervisão humana.

Humanismo Digital: Devemos formar juízes que saibam usar a tecnologia, mas que não se tornem dependentes dela a ponto de perderem a conexão com a realidade social dos autos.

Concluo reiterando que a tecnologia é um caminho sem volta, e sua adoção é necessária para um Judiciário sufocado. Todavia, a eficiência não pode ser o altar onde sacrificamos as garantias fundamentais. A reserva humana é o último bastião de resistência contra a desumanização do Direito. Que a máquina nos ajude a acelerar o processo, mas que o coração e a mente do homem continuem a ditar o que é Justo