5. O prompt e os diferenciais dos casos concretos
Este é um problema insolúvel, cuja ocorrência tem de ser maximamente minorada. Como diria um antigo e estimado professor de Política Jurídica, “se tem pelo de gato, rabo de gato e mia, então é gato!”. Mas, como todos sabemos, pode não ser. Se o LLM, orientado pelo prompt do julgador ou pela sua função interna de transformação (“prompt” que ele mesmo fez no treinamento), repito, se o LLM detectar as circunstâncias fáticas para rodar certa “função de transformação”, ele entregará aquele resultado maquinalmente. Elementos diferenciadores do caso (distinguishes) não serão vistos, é como se não existissem. Se não há previsão para eles em alguma das funções de transformação do LLM, eles não existem para fins decisórios. Deveriam interferir na decisão, mas estão invisíveis.
Precisariam ser acionadas técnicas especiais para a detecção dessas ocorrências. Mas o mais efetivo dos controles passa pela preservação do sistema humano de decisão, difuso e plural, com seus vários níveis: este é o grande valor jurídico do processo. Qualquer modelagem que desrespeite o sistema humano de decisão, depositando confiança indevida em mecanismos tecnológicos e automáticos, deve ser evitado. A automação precisa avançar por caminhos bem traçados e institucionalizados. O Direito sempre errou, condenou inocentes, absolveu culpados. Mas sempre se precaveu conscientemente de tais equívocos, dentro das possibilidades. Tecnologicamente, erros podem ganhar dramaticidade exponencial.
Prompts, mesmo longos e sofisticados, são estruturas que refletem a visão de um julgador, nos limites hipotéticos dele (previsibilidade). Isso é exatamente o exercício que faz um programador: imagina cenários possíveis e lhes dá encaminhamento. Quando um LLM é treinado, o que ele faz é extrair padrões da base de treinamento, de forma consistente e exaustiva. Prompts humanos não chegam nunca a esse refinamento. Se um juiz utiliza o prompt feito por outro magistrado, ou por um técnico, está adotando o olhar desses terceiros e não o próprio.
Os diferenciais factuais, a subjetividade (visão do mundo, cultura etc), nortes hermenêuticos, tudo se perde no caminho. Humanos em geral estão permanentemente atentos à evolução da doutrina, da lei e da realidade do mundo, são estruturalmente abertos, mudam seus entendimentos: “ [...] um sistema pode reagir de maneira diferente a situações homogêneas ou constantes” (Luhmann, 2010, p. 64). Esta frase aparece ao tratar dos sistemas abertos (no caso, estruturalmente, pois não são causais) e funda-se no avanço da psicologia que customizou a visão bertalanffyana do input/output para o preceito similar, teórico, do esquema estímulo/resposta. Entregar-se às facilidades de receituário decisório pré-pronto e mecânico traz riscos que precisam ser evitados. A troca do causalmente aberto pelo maquínico leva o sistema decisório para um âmbito diferente do humano.
A supervisão não pode ser uma simples verificação da harmonia lógica da minuta sugerida. A análise crítica se impõe, cotejando a realidade fático-probatória dos autos, confirmada diretamente pelo juiz em muitos casos que não repousam em dados objetivos. E essa constatação, nascida da prática instrucional do processo, por exemplo, impacta diretamente a decisão, seja pela utilização pura e simples do prompt, seja pela necessidade de sua customização.
Como dito, impossível eliminar as dificuldades, mas uma prática singularizada (personalizada) e consciente desses limites pode evitar decisões simplistas ou equivocadas. E a atuação dos atores humanos processuais, em todos os níveis, sabedores dos limites dos ferramentais tecnológicos, pode implantar um clima de resiliência, pró-correção, conveniente para a entrega do Direito com equidade.
Neste item, finalmente, tem-se de realçar a necessidade de evitar que o uso generalizado e confiante de prompts (abordagem promptiana) leve a uma padronização dos julgamentos, replicando, no plano decisório-processual, o fenômeno que Sunstein (2020), no plano social, denomina de “cegueira deliberativa”.5 Fatos complexos não podem ser encaixados, sem cuidado, em moldes pré-definidos. Um engessamento assim pode abrir vias de escape de indispensáveis análises abertas, sensíveis à reflexão dos fatos sobre a norma a aplicar (Kelsen) e sobre a decisão a ser entregue. Quanto mais ricos e precisos e diversos os “prompts” (funções de transformação6), gerados pelo próprio LLM, menores os riscos dessa “estandardização” no decidir. Juízes têm compromisso com a aplicação consistente de seus entendimentos aos casos assemelhados, mas devem manter o olhar atento, perceptivamente, para os fatos.
6. Riscos dos “prompts de prateleira": “Escolas de pensamento” algorítmicas
Prompts não são neutros. Podem ser bons ou maus, conforme se ajustem à visão de quem os cria. Carregam com eles, nem sempre de maneira explícita, um modo de observar o mundo, de interpretação do observado e um esquema de valoração dos fatos. São, portanto, esquemas de observação com as lentes de seus criadores. Para Luhmann (1998, p. 270), “La decision no es un estado de conciencia, sino uma estructura significativa. […] a quién le pertenece esta conciencia y hasta dónde se sobreponen los contenidos de la conciencia de diferentes sistemas psíquicos en vista de una decisión, son cuestiones que tienen que aclarar […] “, principalmente no ámbito jurídico e seus princípios organizadores do método de dizer o direito. Os grifos são meus.
O prompt elaborado por alguém (outro juiz, um técnico ou um tribunal), é uma lente de grau específico, particular, que permite ver certas coisas e deixar de lado outras. Portanto, se houver a adoção generalizada de prompts de prateleira (padronizados ou compartilhados), o pensamento jurídico tende à homogeneização, afastando-se da diversidade interpretativa, indispensável para o avanço do Direito e da Justiça. A pluralidade é um valor que precisa ser cultivado na base do sistema. As uniformizações precisam ser feitas por humanos, dentro da institucionalidade sistêmica, para ser legítima. Uma consciência jurídica homogeneizada, entregue às ferramentas promotoras dessa homogeneização, não é o efeito que se pretende com o uso das tecnologias no processo. Afinal, “ [...] una acción que se convierte en rutina pierde el carácter de decisión.” (Luhmann, 1998, p. 270). Exprimi esta ideia como a lei da tendenciosidade (Tavares-Pereira, 2021, p. 558). Ela tem força para inspirar modelagens jurídicas de uso da IA no processo, mas precisa ser combinada com a “não terceirização do esquema de significação” de fatos e provas. Quando os fatos desafiarem o prompt, o aplicador deve saber o que fez e o que deve ser feito para ajustá-lo ao contexto que se apresenta (gerar um novo). Do contrário, a inércia cognitiva tornar-se-á a força mais poderosa do processo de decisão.
Escolas de pensamento algorítmicas, promovidas por ferramentas que destruam o pensamento crítico-diverso-plural, é um risco que as democracias precisam evitar.
7. O fim dos princípios da juris dictio?
Estamos diante de um quadro efetivo de ameaça à independência judicial. Sempre se tentou fazer o máximo para garantir que o magistrado, com autonomia inviolável, aplicasse sua livre convicção ao decidir um caso, seja na interpretação/valoração dos fatos, seja na fixação da norma aplicável à decisão (Kelsen).
Um procedimento que legitima a decisão só existe se o papel do julgador é diferenciado com eficiência, de modo que não haja mecanismos, de nenhum tipo, externos, que condicionem sua decisão: “Ele tem de ser eximido da consideração de outros papéis que o podem motivar para decisões definidas, como membro duma determinada família ou camada social, duma igreja ou seita, dum partido, dum clube, dum bairro.”(Luhmann, 1980, p. 57) Essa isenção, segundo Luhmann, deve ser institucionalizada como obrigação para se alcançar uma decisão objetiva e imparcial. E a lei chega ao ponto de dar liberdade ao julgador para, sem explicação, afastar-se do caso. Tudo em nome da atuação, em todos os processos, de um juiz imparcial, autônomo, não submetido a nenhum tipo de influência, que não sua cultura, sentimentos e valores.
A adoção de prompts criados por terceiros, e principalmente a dependência disso, viola o princípio da independência judicial e todos os seus corolários.
Se o juiz se torna dependente de prompts criados por terceiros, ou mesmo por uma IA "oficial", a autonomia está sendo erodida (Luhmann, 2010, p. 63).7 O sentimento de obrigação de se colocar em linha com o mainstream, não desafiando a “autoridade promptiana sugerida”, ainda que contrariando muitas vezes a própria intuição ou o feeling nascido da análise do caso, fundaria um cenário deplorável de deslegitimação do Direito.
O princípio do juiz natural, por seu turno, é um dos pilares centrais da independência. Não se pode escolher o julgador. Todos sabem que, dadas as circunstâncias de espaço e matéria e envolvidos, o julgador competente está definido. Isso implica a incidência, no julgamento, da pessoa dele e de suas circunstâncias: bagagem estocada (Quine, 1980), experiência, sensibilidade, cultura.
Aplicando-se um prompt externo, quem é o julgador? Quem criou o prompt ou o criador dele? Ocorre, no caso, a despersonalização – entendendo-se como tal a substituição das características particulares mencionadas – e há a violação do princípio do juiz natural. O LLM será conduzido a um resultado ilegítimo, mesmo que, aos olhos de outros, possa ser até qualitativamente melhor. A caixa-preta hermenêutica não será aquela prevista pelo ordenamento jurídico.
O princípio do devido processo legal (procedural due process) também não pode ser corrompido por uma aplicação inadequada da tecnologia. Se é para fundar um Devido Processo Legal Algorítmico (DPLA), isso não pode levar à violação de atributos básicos do procedimento. A transparência e a publicidade são marcas indispensáveis e intocáveis desse ente jurídico secular. Prompts usados precisam nascer das mãos (ou dos dados) do magistrado e espelhar suas características singulares, enquanto decisor juramentado e autorizado para a decisão. Os prompts devem integrar-se à fundamentação constitucional – apanágio de todas as decisões – de modo que as partes possam saber por qual lógica e com que vieses se fixou o direito do caso concreto. A legitimidade da imposição coercitiva da decisão exige esse abrir-se plenamente ao conhecimento das partes, inclusive para o exercício da ampla defesa. Sem isso, é difícil continuar falando em devido processo legal. Antes e acima de tudo, as partes precisam saber como o esquema cognitivo-decisório atuou para lhe impor o ônus da decisão.8
Embora o positivismo e a modernidade tenham trazido a ideia de “direito posto pelo Estado”, isso exige, primeiro, uma explicitação pública e prévia, expressa, do modus operandi do Estado e, ademais, a não violação de regramentos universalmente reconhecidos como legitimadores/chanceladores da prática democrática da dicção do Direito. Prompts conduzem o LLM a determinada decisão. Sem o conhecer, com o máximo de transparência, quais as possibilidades de um contraditório válido que, com todas as armas (ampla defesa), ataque a lógica codificada no prompt?
Considerações finais
A comunidade jurídica está premida, por um lado, pelos volumes de processos aos quais precisa dar vazão. E, por outro, por desafios principiológicos e técnicos. A epistemologia precisa debruçar-se seriamente sobre os problemas da fase de transição em curso. O que podemos conhecer, desses dois mundos tão distantes e que agora precisam juntar-se na tarefa de dizer o Direito? Amalgamar o jurídico e o tecnológico envolve possibilidades de alcançar desempenhos que o Direito jamais conseguiu ter. O preço será o encontro de caminhos que garantam a incolumidade de valores jurídicos e éticos.
A inteligência artificial atingiu condições de fazer coisas impensáveis, inclusive no mau sentido. O trabalho a fazer não é só "treinar para usar" a IA. Esperam-se modelagens fundadas em perguntas mais básicas, não sobre as possibilidades, mas sobre a conveniência de uso. Deve-se usar? Quando? De que maneira? Dentro de que limites? As respostas devem vir dos juristas (do mundo do Direito) porque é o Direito que quer se valer da tecnologia, e não o contrário, como às vezes parece.
Não existe o Direito de ignorar os avanços tecnológicos. Há comando específico da Constituição para o uso de tudo que possa dar celeridade ao processo. Mas não se trata de gerar quantidades sem atenção para a qualidade. Mais não significa melhores sentenças (Ministro Luiz Fux). A qualidade da Justiça (de suas decisões), o resguardo da autonomia dos julgadores e os interesses dos jurisdicionados (ter um Poder que de fato defenda seus direitos, todos eles), são as diretrizes estratégicas primordiais. A eficiência é bem-vinda, assim como a modernização. Desde que seja para a geração de uma Justiça mais eficaz e célere.
Referências bibliográficas
CAMPIONE, Roger; PIETROPAOLI, Stefano. Los Artefactos de la Inteligencia Jurídica: personas y máquinas. Madrid: Dykinson. 2024.
FARQUHAR, S., Kossen, J., Kuhn, L. et al. Detecting hallucinations in large language models using semantic entropy. Nature 630, 625–630 (2024). https://doi.org/10.1038/s41586-024-07421-0.
FOUCAULT, Michel. Vigiar e punir. Tradução de Raquel Ramalhete. Petrópolis:Vozes, 1987.
LUHMANN, Niklas. Introdução à teoria dos sistemas. Trad. De Ana Cristina Arantes. 2. Ed. Petrópolis:Vozes, 2010. 414p.
___________. Legitimação pelo procedimento. Trad. de Maria da Conceição Côrte-Real. Brasília:UnB, 1980.
___________. Sistemas sociales. Lineamientos para una teoría general. Trad. Silvia Pappe y Brunhilde Erker. Rubí (Barcelona):Anthropos, 1998. 445p.
QUINE, Willard V. O. Relatividade ontológica e outros ensaios. 2.ed. São Paulo: Abril Cultural, 1980. p. 116-258. (Os pensadores).
SEN, Amartya. A ideia de justiça. Tradução de Denise Bottmann e Ricardo Doninelli Mendes. São Paulo: Companhia das letras, 2011.
SUNSTEIN, C. Nudge: Improving Decisions About Health, Wealth, and Happiness. (2008). Disponível em: https://www.researchgate.net/publication/235413094_NUDGE_Improving_Decisions_About_Health_Wealth_and_Happiness. Acesso em: 19 mai. 2025.
________. Echo Chambers and Deliberative Democracy. (2020) – Disponível em: https://doi.org/10.1017/S1537592-720-00202-. Acesso em: 24 jun.2023.
TAVARES-PEREIRA, S. Machine learning nas decisões. O uso jurídico dos algoritmos aprendizes. Florianópolis: Artesam. 2021. 796p.
___________. O processo eletrônico e o princípio da dupla instrumentalidade (ou da subinstrumentalidade da tecnologia). Jus Navigandi, Teresina, ano 12, n. 1937, 20 out. 2008. Disponível em: <https://jus.com.br/artigos/11824/o-processo-eletronico-e-o-principio-da-dupla-instrumentalidade>. Acesso em: 16 mar. 2009.
Notas
1 Pesquisa do próprio CNJ apontou que, mesmo antes, expressiva parcela dos pesquisados já usava a IA em suas atividades.
2 Trata-se do “[...] princípio newtoniano, tão destacado por Pedro Domingos, pelo qual “o válido no que vi aplica-se a tudo o que não vi” – princípio da generalização [...] “. (Tavares-Pereira, 2021, p. 290/291. Russell exemplificava com a história do peru de natal empírico que, todas as manhãs, ao tocar o sino, apresentava-se para comer e era alimentado. No dia de natal, ao contrário, teve o pescoço cortado. Uma falha de generalização?
3 O modelo ASSIS, do TJRJ, inspira-se nesta potência das atuais ferramentas de IA generativa.
4 Ajuste fino, complementar. O mercado está repleto de ferramentas baseadas nesta ideia de geração de agentes especializados para determinadas tarefas. Explorar um PDF é, talvez, a mais comum. Valendo-se do domínio da linguagem natural e de outras técnicas indispensáveis e gerais (agnósticas), o algoritmo aprende o conteúdo do PDF e interage com o usuário nos limites desse conteúdo.
5 Amartya Sen (2011) adota um conceito que se assemelha, de ilusão posicional, com foco epistemológico (justiça social), enquanto Sunstein se volta a mecanismos psicológicos/comportamentais (tomada de decisão), para mostrar que a falta de diversidade distorce a percepção da realidade e gera inflexibilidade cognitiva (viés).
6 “Para o analista de sistemas, esse esquema revela nitidamente uma técnica de transformação mediante uma função, constituindo, principalmente, um modelo orientado para a predição, no sentido de que em condições determinadas os resultados podem ser previstos.” (Luhmann, 2010, p. 64) A visão luhmanniana, exposta em 1990, é atual e demonstra a importância de permitir que os LLMs façam, eles mesmos, em fase de aprendizado, o mais rico repertório de prompts (funções de transformação ), coisa que humanos jamais conseguirão, e que eles mesmos, em tempo de operação, encontrem, entre os milhares ou milhões de funções, a mais adequada para o caso.
7 “ [...] não é o meio que pode decidir quais fatores determinantes propiciam o intercâmbio, mas somente o sistema. [...] a partir dele próprio pode decidir o que deve ser considerado como output [...] “.
8 Foucault utiliza o termo opacidade em Vigiar e punir quando trata da história da publicidade: “Na França, como na maioria dos países europeus [...] todo o processo criminal, até à sentença, permanecia secreto: ou seja, opaco não só para o público mas para o próprio acusado.” (Foucault, 1980, p. 32).
Abstract: The urgent and desired use of artificial intelligence in the judicial process, including the decision-making phase, is the focus of this article. The ever-increasing volume of procedural data and the emergence of new, disruptive technological tools are putting pressure on the judiciary to act. AI is powerful, for better or worse. To reduce risks and amplify gains, its activation requires literate human beings to oversee it. This article focuses on the risks of misuse, particularly the deceptive simplicity of tools that grant powers previously enjoyed only by computer programmers (the prompts). As always, facilities bring with them dangers. Modelling solutions based on these tools does not seem to be the correct approach to bringing technology and law closer together appropriately. The article considers literacy, the deceptive confidence induced by pseudo-training, hallucinations and other defects of the tools (biases, for example), hopes for active supervision rather than passive supervision, the diffusion of off-the-shelf prompts (prompt libraries), and threats to procedural principles that are inalienable in democratic states of law. The scenario posed by CNJ Resolution 615 is also mentioned, which aims to boost the use of AI. Although it limits its use to decision support, it necessitates training users to understand the legal and ethical implications of adopting new technologies in decision-making processes.
Key words : Prompts; digital literacy; artificial intelligence; CNJ 615 resolution; hallucination; shelf prompts.
