9. ASSIS e a inversão de lógica: humano no controle.
Um mérito especial da modelagem do ASSIS é a inversão de lógica que ela faz. O ASSIS não chega ao juiz como algo acabado e pronto para uso, salvo de um ponto de vista tecnológico agnóstico: tratamento de linguagem natural, por exemplo.
O software sempre chegou ao usuário pronto, mesmo quando se procurou quebrar a rigidez maquínica com parâmetros, customizações tópicas, desenho de regras de negócio específicas em áreas onde a universalização é impossível. Essa flexibilidade é ilusória, falaciosa, nos limites que a tecnologia entrega. Não é por acaso que se fala tanto em regra de negócio. Os técnicos precisam saber antes para programá-las. Num ambiente data driven, típico de agora, o condicionamento do futuro pelo passado é evidente: a máquina informacional algorítmica pode congelar padrões, replicando-os consistentemente e perigosamente. Pode ser transformada numa arma cibernética de controle social.
O modelo ASSIS é diferente. Trata-se de uma máquina de aprendizado, sim. Não há regra de negócio prévia. Ele é capaz de aprender de uma base de dados que lhe seja fornecida e traduzir em algoritmo (funções implícitas matemáticas) o que aprendeu. Esta parte do programa (funções) é a que vai ser usada no futuro, quando estiver em operação, fazendo inferências. Do ponto de vista jurídico, o ASSIS é, então, uma tabula rasa (Locke) que ele mesmo vai preencher com a base de dados do magistrado a que prestará assistência. Desde 2017 – nascimento dos transformers -, avanços notáveis foram feitos para reduzir tempo e custos de especialização de bases de conhecimento generalistas. Neste janeiro de 2025, uma revolução ocorreu no mundo: DeepSeek r-1, o modelo de IA generativa para as abordagens específicas/especializadas: a ideia de um assistente do juiz que atue em consonância com sua valoração dos fatos e sua interpretação normativa foi reforçada.
Ora, todos estão preocupados porque os algoritmos vão modelar as pessoas. E, de fato, são instrumentos muito eficientes para isso. Bem superiores aos adotados até agora: escola, cursos, imprensa, pedagogia, religião (HARARI, 2024, p. 48-50), medo, narrativas repetidas.
No Assis, no entanto, os juízes condicionam os algoritmos. Colocam nele a coleira de suas visões de mundo e das coisas. A tabula rasa é preenchida com os entendimentos do magistrado assistido, exatamente como se faz com um assistente humano recém-chegado para auxiliar o magistrado em qualquer nível (das varas aos tribunais). Se estiver preenchida, é “apagada” para ser reescrita. A metáfora, para fins de analogia, é quase-perfeita.
No sistema resultante – que incorpora a IA no suporte ao juiz - questões éticas, se existirem, serão as que temos, hoje, no sistema sem tecnologia.
Caixas pretas terão o conteúdo das “caixas-hermenêuticas” com que estamos acostumados e que são, segundo alguns, tão negras quanto.
Considerações finais
Em 2008, classifiquei como ciberprocesso um sistema judicial de decisão que incorporasse maximamente a tecnologia para ampliar a automação e dar suporte à decisão. Esta é a trilha aberta pelos ciberneticistas, há 70 anos, para todas as áreas de atividade humanas.
Na década de 1970, a sociologia estava sem ferramentais para avançar em seus esforços teóricos. Niklas Luhmann colocou a ciência do social a andar pelas trilhas da Cibernética. Uma paralisia semelhante à da Sociologia, enfrentada por Luhmann, acometeu os sonhos cibernéticos da aprendizagem de máquina. Não havia condições fáticas (infraestruturais de comunicação e de hardware) para concretizar os devaneios técnico-científicos. Ela está vencida. A revolução dos transformadores (2017) levou a IA dos aprendizes a explodir. Quem ainda não interagiu com os chats de todos os tipos e portes que andam por aí? Sociologia e Cibernética, portanto, passaram por stops e recomeços semelhantes.
Algoritmos que aprendem e se autoconstroem? Com esse salto imenso, impensável há poucos anos pelos próprios técnicos, esses algoritmos infestaram a vida de todos. Aprendem tudo das pessoas e as orientam/controlam, para o bem e para o mal. Teorizar o mundo, ignorando esta presença ubíqua e poderosa, é um erro fatal. Os senhores do poder, naturalmente, logo se aperceberam disso.
Sistemas sociais e técnicos são totalmente diferentes. Os sociais (sistemas de comunicação) tendem a abeberar-se dos sistemas técnicos, colocando-os em lugar de pessoas (automação). Mas se atributos das pessoas (sistemas psíquicos) são essenciais para o sistema social, a troca implica perdas que precisam ser evitadas. O sistema social não pode ser deformado pela utilização da tecnologia. Aperfeiçoado, sim! Acelerado, sim! Deturpado, não!
O subsistema jurídico-funcional de decisão é um exemplo característico. Substituir juízes humanos implica perda de certas qualidades de julgar, típicas dos humanos, que a tecnologia não consegue emular equivalentemente. Então, a substituição dos julgadores humanos por algoritmos é vista – pela lei e pelos juristas – como problemática. Como substituir julgadores humanos sem desfigurar o sistema judicial de decisão?
É preciso manter o sistema e suas características fundamentais, aplicando a tecnologia para o acelerar. O aporte tecnológico deve ser de apoio e não de substituição dos julgadores.
Em 2017, quando foram exibidas as possibilidades que se abririam tecnologicamente, no futuro próximo, ficou claro que a conciliação das duas ideias implicava uma logística bem especial: para cada juiz um aprendiz!
Em 2024, o TJRJ implementou a ideia e a pôs em prática. Embrionária, com as características de todas as inovações: nada nasce pronto. A evolução técnica de uma boa e correta ideia exige tempo e experimentação.
O modelo ASSIS, de suporte aos juízes, incorpora a ideia da especialização do aprendiz, preserva o sistema jurídico de decisão e suas características essenciais: variância controlada na base (pluralidade), livre convencimento do julgador, respeito aos mecanismos institucionalizados e sistêmicos juridicamente estabelecidos (o sistema processual democrático) e outros valores, como se viu.
E, principalmente, o modelo ASSIS inverte uma lógica da qual todos têm medo. Em vez de os algoritmos controlarem os homens, impondo uma visão única, centralizada, os homens controlam o algoritmo para que faça exatamente o que eles querem, e não outra coisa.
Deste ponto de decisão para a frente, os mecanismos jurídicos atuam para promover a integridade sistêmica, como diria Dworkin.
Já é possível vislumbrar um próximo passo, ainda mais próximo de um ciberprocesso efetivo. Ele será dado no devido tempo.
Referências bibliográficas
BEHROUZ, Ali et Al. Titans: Learning to Memorize at Test Time ( Titans_2501.00663v1). Disponível em: https://doi.org/10.48550/arXiv.2501.00663. Acesso em 28 jan. 2025.
BROWN, Tom B. et. al. Language models are few-shot learners. Disponível em: 1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf (nips.cc). Acesso em: 12 dez. 2020.
CAPPELLETTI, Mauro. Juízes legisladores? Tradução de Carlos Alberto Alvaro de Oliveira. Porto Alegre: Sérgio Antônio Fabris Editor, 1999.
CLAM, Jean. Questões fundamentais de uma teoria da sociedade. Contingência, paradoxo, só-efetuação. São Leopoldo: Unisinos, 2006. 322p.
COUFFIGNAL, Louis. A cibernética. Difusão Europeia do Livro: São Paulo, 1966. 123p.
DEEPSEEK AI, DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. Disponível em: https://arxiv.org/pdf/2501.12948. Acesso em 28 jan. 2025.
DINAMARCO, Cândido Rangel. A instrumentalidade do processo. 3. ed. São Paulo: Malheiros, 1993.
DOMINGOS, Pedro. O algoritmo mestre. São Paulo: Novatec, 2017.
FERRAZ JR, Tercio Sampaio. Introdução ao estudo do direito. Técnica, decisão, dominação. São Paulo: Atlas, 1990. 3ª. Tiragem. 335p.
FERREIRA, Mariah Brochado. Direto e Estado entre mundo analógico e era digital: reflexões de fronteira em homenagem a Wolfgang Hoffmann-Riemariah Brochado. São Paulo: Editora Dialética, 2024.
FIOLHAIS, Carlos. Universo, computadores e tudo o resto. Lisboa: Gradiva, 1994.
HAAB, Daniel. Portfólio e projetos de IA do TJ/RJ. Disponível em: https://www.youtube.com/watch?v=cIGMypPhWmU&t=10814s. Acesso em: 28 jan.2025.
HARARI, Yuval Noah. Nexus: uma breve história das redes de informação, da Idade da Pedra à inteligência artificial. Tradução de Berilio Vargas e Denise Bottmann. São Paulo: Companhia das Letras, 2024. 497p.
HART, H. L. A.; HONORÉ, Tony. Causation in the law. 2.ed. Oxford: Oxford University Press, 1985.
HESSE, Konrad. Temas fundamentais de direitos constitucional. Trad. Carlos dos Santos Almeida et al. São Paulo: Saraiva, 2009.
JOHANSSON, Lars-Göran. Philosophy of science for scientists. Cham:Springer. 2016.
KOZEN, Dexter C. Automata and computability. New York: Springer, 1997.
LUHMANN, Niklas. Legitimação pelo procedimento. Trad. de Maria da Conceição Côrte-Real. Brasília: UnB, 1980. 210p.
LUHMANN, Niklas. Sociologia do direito II. Tradução de Gustavo Bayer. Rio de Janeiro: Edições Tempo Brasileiro, 1985.
LUHMANN, Niklas. Sistemas sociales. Lineamientos para una teoría general. Trad. Silvia Pappe y Brunhilde Erker. Rubí (Barcelona): Anthropos, 1998. 445p.
MACKIE, John L. The cement of the universe. London: Oxford University Press, 1974. (ebook).
NORONHA, Carlos Silveira. Sentença civil. Perfil histórico-dogmático. São Paulo: Revista dos Tribunais, 1995.
POLONI, Ismair Roberto. Técnica estrutural da sentença cível. 2.ed. Rio de Janeiro: Forense, 2003.
TAVARES-PEREIRA, S. O processo eletrônico e o princípio da dupla instrumentalidade. Jus Navigandi, Teresina, ano 12, n. 1937, 20 out. 2008. Disponível em: <http://jus2.uol.com.br/doutrina/texto.asp¿id=11824>. Acesso em: 28 jan. 2025.
TAVARES-PEREIRA, S. Processo eletrônico, máxima automação, extraoperabilidade, imaginalização mínima e máximo apoio ao juiz: ciberprocesso. Disponível em: http://bdjur.stj.jus.br/dspace/handle/2011/35515. Acesso em: 3 abr. 2009.
TAVARES-PEREIRA, S. O machine learning e o máximo apoio ao juiz. Revista Democracia Digital e Governo Eletrônico, Florianópolis, v. 2, n. 18, p. 2-35, 2018.
TAVARES-PEREIRA, S. Machine learning nas decisões. O uso jurídico dos algoritmos aprendizes. Florianópolis: Artesam. 2021. 796p.
VASWANI, Ashishi et Al. Attention is all you need. https://arxiv.org/abs/1706.03762.
WIENER, Norbert. Cibernética e sociedade. O uso humano de sêres humanos. 4 ed. São Paulo: Cultrix, 1954, 190p.
Notas
...
-
A ideia vem de 2008, do artigo Processo eletrônico, máxima automação, extraoperabilidade, imaginalização mínima e máximo apoio ao juiz: ciberprocesso. Incluía, portanto, também imaginalização mínima e extraoperabilidade, a serem exploradas em futuros artigos︎
Introduziram paralelismos e chamaram a atenção para os mecanismos de atenção, obtendo excelentes ganhos de performance. Trabalhavam na equipe Google Brain, em tradução de texto: “We propose a new simple network architecture, the Transformer [...] “. [grifei] (VASWANI, 2017).︎
Em 2008, chamei a atenção para o embate agora vivido intensamente entre tecnologia e Direito, no artigo Princípio da Subinstrumentalidade da tecnologia (TAVARES-PEREIRA, 2008).︎
“A system that consists of only finitely many states and transitions among them is called a finite-state transition system. We model these abstractly by a mathematical model called a finite automaton.” Trad. livre: “Um sistema que consiste em apenas um número finito de estados e transições entre eles é chamado de sistema de transição de estado finito. Nós os modelamos abstratamente por meio de um modelo matemático chamado de autômato finito.” (KOZEN, 1997. p. 14)︎
Falando dos comportamentos deterministas, COUFFIGNAL (1966, p. 22) refere-se a “direção ao objetivo” e a “correção do ato precedente em relação ao objetivo”.︎
Sobre o conceito de interpenetração, indispensável para entender a flexibilidade estrutural dos sistemas sociais dada pelos sistemas psíquicos, ver Niklas LUHMANN (1998, p. 199-235) e S. TAVARES-PEREIRA (2021, p. 727-750).︎
Um dos princípios do processo é o do “juiz natural”: quem deve julgar é o órgão que, antes de tudo, a lei previu para aquele julgamento. E isso envolve o ocupante do cargo (do órgão), naquele dia e hora.︎
É valido perguntar: cabe falar em “totalitarização” ao tratar de “dicção do Direito” (dizer/impor)? O SisJD pode ser um efetivo instrumento de controle absoluto do Estado sobre a sociedade e a vida dos indivíduos/cidadãos. Ele é, naturalmente, a expressão de uma tecnologia de controle social (Ferraz Jr). Dominá-lo é parte dos devaneios dos totalitários. Visões divergentes podem ser proibidas e subjugadas pelo sistema. Economia, propaganda, educação e a própria mecânica democrática: tudo fica ao alcance do poder total e sua ideologia oficial. O terror e a violência política não são bem-vistos. Muito melhor o instrumento da manifestação judicial cooptada. A liberdade individual fica seriamente comprometida. Os objetivos do regime são supremos e tem um instrumento de imposição por uma cadeia de comando (um top-down processing).︎
Abstract: Machine learning AI has definitely gained the conditions to be used, in practical and effective terms, to support judicial decision-making. Correct and legal modeling is the secret. “For every judge an apprentice/learner” respects the constitution and the law. Some are thinking about replacing the judges, others just about giving support. Whether in the Anglo-Saxon system or in continental Europe system, there are universalizable ideas and concerns. Niklas Luhmann's observer theory is a valid guide for thinking about the configuration/development of models for the task that respect the normative order. With an inductive method and a legal-technological analysis, I point out relevant aspects to be taken into account by technologists - when designing models - and by jurists - to authorize the use of the proposed models.
Keywords: Judicial decision; legal-technological models; AI of learners; Cyberprocess; ASSIS.
