5. O problema da explicabilidade da inteligência artificial
A inteligência artificial é desenvolvida com o intuito de oferecer respostas a perguntas humanas com a simulação da capacidade humana de raciocinar, perceber, tomar decisões e resolver problemas (Barreto Junior, Venturi Junior, 2020, p. 239-250). Essa condição é essencial para se compreender como ela pode reproduzir vieses interpretativos em massa sem que seja oportunizada à comunidade jurídica a construção dos limites na formação dos precedentes.
Vale e Pereira (2023, p. 78-80) dizem que a modificação na arquitetura social decorrente da implementação de tecnologias impõe a reconfiguração do Direito para responder a novos desafios próprios desta era. Segundo os autores, as soluções jurídicas tradicionais não respondem, por si só, os novos desafios contemporâneos, o que inclui o direito processual:
A situação não é diferente quando se trata do direito processual, na medida em que as normas fundamentais antes projetadas para um ambiente analógico e alheio à implementação de tecnologias como a inteligência artificial, precisam passar por um processo de refundação, visto que não mais respondem a problemas substanciosos, tais como a falta de explicabilidade dos sistemas computacionais, os vieses discriminatórios e de ferramentas de auxílio à tomada de decisão, a observância do contraditório substancial nas cortes online, a falta de cooperação no processo construtivo dos algoritmos do Poder Judiciário, o risco à isonomia derivado do desequilíbrio entre litigantes habituais e eventuais no uso da análise preditiva, a aplicação tecnológica de precedentes judiciais e a deficitária curadoria do dataset nos projetos de IA que buscam soluções de racionalização processual.
Isso se agrava na medida em que não há regulação legislativa vigente para a inteligência artificial, sendo atualmente o desenvolvimento dessas plataformas regulado pelo Conselho Nacional de Justiça (CNJ). Seus principais expoentes são a Resolução n. 332/2011, que dispõe sobre ética, transparência e governança, e a recente Resolução n. 615/2512, que traz normas relacionadas ao desenvolvimento, utilização e governança de soluções desenvolvidas com uso da inteligência artificial.
Adentrando especificamente o ponto da explicabilidade, a Resolução n. 615/25 a conceitua como “compreensão clara, sempre que tecnicamente possível, de como as ‘decisões’ são tomadas pela IA” (art. 4º, XVIII). Ela também é incluída como princípio, juntamente à transparência, eficiência, contestabilidade, auditabilidade e confiabilidade (art. 3º, II).
A Resolução 332/20, por sua vez, dispõe que o “fornecimento de explicação satisfatória e passível de auditoria por autoridade humana” é um dos aspectos nos quais a transparência consiste (art. 8º, VI). Para possibilitar o controle do usuário, prevê que os sistemas que utilizem inteligência artificial para a auxiliar a elaboração das decisões devem observar “como critério preponderante para definir a técnica utilizada, a explicação dos passos que conduziram ao resultado” (art. 19).
Nada obstante as previsões a respeito da explicabilidade, trata-se de ponto ainda obscuro aos usuários externos do sistema. Como já mencionado em sede introdutória, já há sistemas em operação nos tribunais superiores visando à classificação dos precedentes: o sistema Victor, no Supremo Tribunal Federal13 e os sistemas Athos e Sócrates, no Superior Tribunal de Justiça14, os quais, segundo informações disponibilizadas pelos respectivos tribunais, entraram em operação completa a partir de 2020.
A citada divulgação institucional dessas plataformas dispõe que elas não se orientam à decisão de recursos, mas sim a um apoio na tomada de decisão humana. Não se vislumbram, porém, na prática forense, os métodos que elas vêm utilizando e qual a divisão entre a participação humana e a da máquina nesse processo.
O problema que afeta a inteligência artificial de forma geral, e no Poder Judiciário não é diferente, é a caixa preta algorítmica. Bathaee (apud Peixoto; Bonat, 2020) afirma que ela pode ser representada por dois vetores: complexidade e dimensionalidade. Enquanto a complexidade está ligada ao conhecimento necessário para compreender o sistema em si, a dimensionalidade se relaciona com a quantidade de variáveis que uma inteligência artificial é capaz de processar, superando em muito a capacidade humana.
Nesse contexto, embora a técnica adequada possa nos ajudar a entender a atuação algorítmica sob o vetor da complexidade, o mesmo não pode ser dito em relação ao vetor da dimensionalidade. Isso ocorre porque, em vetores multidimensionais, há uma limitação inerente à própria condição humana em comparação com as máquinas.
Conquanto os atos normativos do Conselho Nacional de Justiça (CNJ) tragam dispositivos no sentido da necessária participação humana para a formação das decisões, ela também sofre com o viés de automação. Esse tema é explorado por Bridle (2018, p. 45), que o descreve como a tendência de os seres humanos confiarem mais em sistemas automatizados de tomada de decisão do que em processos manuais, pressupondo que aqueles possuam um critério mais apurado e previamente validado.
As dificuldades envolvendo a atuação da inteligência artificial trazem, assim, a necessidade regulamentos efetivos que garantam mais transparência. Sobre isso, Vale e Pereira pontuam (2023, p. 135):
Não é mais possível admitir um cenário de opacidade algorítmica. A publicidade das decisões deve ser ampla, sob pena de subtrair das partes a possibilidade de realizar o controle de sua legitimidade constitucional. O princípio da publicidade, em decorrência do crescente número de ferramentas de inteligência artificial, demanda releitura inconteste, a fim de abranger o conhecimento de todas as etapas necessárias à formação do algoritmo, para que se possam consolidar os imperativos de accountability.
Caso contrário, inviabiliza-se até mesma a alegação de distinguishing a ser formulada pela parte que teve, a título de exemplo, o seu recurso vinculado, indevidamente, a uma tese de repercussão geral.
Luís Vale expõe que, nada obstante as resoluções que tratam sobre inteligência artificial tenham tido preocupação com a explicabilidade, elas não trazem mecanismos eficientes para a sua viabilização. Nessa esteira, propõe a formação de um “incidente de explicabilidade” como meio de permitir o controle da utilização da inteligência artificial em um caso concreto e não somente no âmbito concentrado no Conselho Nacional de Justiça15.
Entendemos que a proposta é bem-vinda, na medida em que amplia a participação de todos os agentes envolvidos no sistema de justiça para a delimitação do alcance e formação dos precedentes. Indo além, entendemos que as decisões judiciais assistidas por inteligência artificial devem expor claramente qual o comando dado à inteligência artificial, o retorno por ela dado, com a linha de raciocínio utilizado, e a participação humana no processo.
Esse nível de transparência é necessário para mitigar tanto o risco de reprodução de vieses interpretativos em massa formulados à revelia da comunidade jurídica, bem como para o controle dos riscos relacionados ao viés de automação.
6. Conclusão
A Constituição Federal de 1988 representou o marco do neoconstitucionalismo no Brasil, com grandes reflexos axiológicos e a positivação de direitos e garantias fundamentais que dispõem de força normativa. Para a sua concretização, diversos foram os instrumentos processuais depositados aos cidadãos para acionarem o Poder Judiciário, que passou a assumir uma posição de maior protagonismo na tripartição entre os poderes.
Por serem muitos desses direitos dotados de alta abstração e baixa densidade normativa, esse fenômeno também implicou a ampliação da atividade criativa do Poder Judiciário. Por consequência, isso trouxe prejuízo à segurança jurídica e ao princípio da igualdade, na medida em que casos iguais poderiam vir a ter desfechos diversos.
A progressiva adoção dos precedentes vinculantes surge nesse contexto com a perspectiva de trazer mais racionalidade ao sistema jurídico. Além disso, esse movimento prestigia a celeridade na prestação jurisdicional, já que os casos repetitivos tendem a ser apreciados uma única vez pelos tribunais superiores, bastando aos demais órgãos jurisdicionais a replicação daquela tese firmada.
A ausência de uma cultura consolidada de precedentes, entretanto, faz com que ainda tenhamos muitos problemas na sua aplicação. Abordou-se, nesse sentido, sobre a dificuldade quanto à determinação da ratio decidendi, para a qual aderimos à proposta de Luís Vale para a expansão da adoção da solução de um incidente destinado ao acertamento das razões de decidir, já previsto no Regimento Interno do Superior Tribunal de Justiça, para todos os tribunais, mediante lei federal.
Expôs-se, ademais, que os critérios utilizados para a superação e distinção de precedentes são problemáticos, já que nem sempre são tão claros e permitem que tenhamos precedentes ainda listados ativamente nos tribunais que ou sofreram mutação no seu entendimento ou foram superados por novidade legislativa. Para isso, propusemos a criação de um incidente destinado à apreciação da atualidade do precedente de forma concentrada, que possibilite a delimitação da sua aplicação a partir de um caso concreto.
Em relação à inteligência artificial, percebe-se que o Poder Judiciário dispõe de grande engajamento no desenvolvimento de novas plataformas. O projeto Victor do Supremo Tribunal Federal e os projetos Athos e Sócrates do Superior Tribunal de Justiça são os principais destaques em matéria de precedentes.
A regulamentação do desenvolvimento de plataformas de inteligência artificial atualmente se dá por meio de resoluções do próprio Conselho Nacional de Justiça (CNJ), na condição de supervisor administrativo do Poder Judiciário, ante a inércia do Poder Legislativo. Citamos pontos das resoluções que preveem a explicabilidade e a transparência como princípios para a utilização de inteligência artificial no Poder Judiciário e a participação humana em todas as etapas do ciclo de desenvolvimento e utilização de soluções.
Entendemos, todavia, que isso não soluciona, por si só, os grandes problemas da utilização da inteligência artificial para a classificação dos precedentes: se os problemas citados acima a respeito dos precedentes ainda não foram pacificados, como as plataformas de inteligência artificial poderão ser parametrizadas de forma confiável? Como fiscalizar esses parâmetros em um caso concreto? A participação humana mitigaria suficientemente os riscos relacionados ao viés de automação?
Para responder essas perguntas, aderimos novamente à proposta externada por Luís Vale de criação de um “incidente de explicabilidade”, que permita que essas discussões a respeito do uso de inteligência artificial no Poder Judiciário não fiquem restritas ao Conselho Nacional de Justiça, mas também possam ser apreciadas no âmbito de um caso concreto.
Ainda, acrescentamos que as decisões judiciais que fizerem uso de inteligência artificial devem destacar quais os comandos conferidos à inteligência artificial, as suas respostas e em qual etapa do processo e como se deu a intervenção humana. Somente assim se poderá conferir transparência às ações do Poder Judiciário no sentido de controle dos precedentes.
Por fim, objetivou-se com esta análise trazer luz a alguns dos principais pontos envolvendo a inteligência artificial e sua utilização no âmbito do Poder Judiciário para a correta identificação dos precedentes à luz de uma ideia de explicabilidade. Esperamos que os elementos aqui expostos possam contribuir positivamente na formação de novos caminhos para este tema tão caro ao processo civil contemporâneo.
REFERÊNCIAS BIBLIOGRÁFICAS
BARRETO JUNIOR, Irineu Francisco; VENTURI JUNIOR, Gustavo. Inteligência Artificial e seus efeitos na Sociedade da Informação. In: LISBOA, Roberto Senise (Org.). O Direito na Sociedade da Informação V.4. São Paulo: Almedina, 2020.
BARROSO, Luís Roberto. Curso De Direito Constitucional Contemporâneo - 13ª Edição 2025. 13. ed. Rio de Janeiro: SRV, 2025. E-book. ISBN 9788553626861. Disponível em: https://app.minhabiblioteca.com.br/reader/books/9788553626861/. Acesso em: 15 jun. 2025.
BRASIL. Conselho Nacional de Justiça. Resolução n. 332, de 21 de agosto de 2020. Dispõe sobre a ética, a transparência e a governança na produção e uso de Inteligência Artificial no Poder Judiciário. Diário da Justiça Eletrônico, Brasília, DF, nº 274, p. 4–8, 25 ago. 2020. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3429>. Acesso em: 18 jun. 2025.
BRASIL. Conselho Nacional de Justiça. Resolução n.º 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções com recursos de inteligência artificial no Poder Judiciário. Diário da Justiça Eletrônico, Brasília, DF, sessão jud., 28 abr. 2025. Disponível em: https://atos.cnj.jus.br/files/original1555302025031467d4517244566.pdf. Acesso em: 18 jun. 2025.
BRASIL. Superior Tribunal de Justiça. Regimento Interno do Superior Tribunal de Justiça. Brasília: STJ, 410 p. ISBN 978‑85‑7248‑126‑7. Disponível em: https://www.stj.jus.br/publicacaoinstitucional/index.php/Regimento/article/download/3115/3839. Acesso em: 13 jun. 2025
BRASIL. Superior Tribunal de Justiça. Embargos de Divergência em Agravo em Recurso Especial n. 1.766.665. – RS (2020/0250745-0). Relator: Min. Francisco Falcão. Julgado em: 3 abr. 2024. Corte Especial. Publicado no Diário da Justiça Eletrônico em 6 jun. 2024.
BRASIL. Supremo Tribunal Federal. Ação Direta de Inconstitucionalidade n. 1969, Distrito Federal. Relator: Min. Ricardo Lewandowski. Julgado em: 28 jun. 2007. Publicado em: 31 ago. 2007. Tribunal Pleno.
BRASIL. Supremo Tribunal Federal. Ação Direta de Inconstitucionalidade n. 2135, Distrito Federal. Relator: Min. Néri da Silveira. Julgado em: 2 ago. 2007. Publicado em: 7 mar. 2008. Tribunal Pleno.
BRASIL. Supremo Tribunal Federal. Recurso Extraordinário n. 949.297, Ceará. Relator: Min. Edson Fachin. Julgado em: 8 fev. 2023. Tribunal Pleno. PROCESSO ELETRÔNICO. Repercussão Geral – Mérito. Diário da Justiça Eletrônico, divulgação em 28 abr. 2023, publicação em 2 maio 2023.
BRIDLE, James. A nova idade das trevas: a tecnologia e o fim do futuro [recurso eletrônico]. Edição do Kindle. São Paulo: Todavia, 2018.
DIDIER JUNIOR, Fredie; BRAGA, Paula Sarno; OLIVEIRA, Rafael Alexandria de. Curso de direito processual civil - v. 2: teoria da prova, direito probatório, decisão, precedente, coisa julgada e tutela provisória. 11. ed. Salvador: JusPodivm, 2015.
FÓRUM PERMANENTE DE PROCESSUALISTAS CIVIS. Carta de Florianópolis (VIII Encontro do Fórum Permanente de Processualistas Civis, Florianópolis, 24 a 26 mar. 2017). Florianópolis: Instituto dC, 2017. Disponível em: https://institutodc.com.br/wp-content/uploads/2017/06/FPPC-Carta-de-Florianopolis.pdf. Acesso em: 18 jun. 2025
MARINONI, Luiz Guilherme. A Ética dos Precedentes: Justificativa do Novo CPC. São Paulo: RT, 2014.
PEIXOTO, Fabiano Hartmann; BONAT, Debora. Racionalidade no direito (IA): inteligência artificial e precedentes [recurso eletrônico]. (Direito, Racionalidade e Inteligência Artificial, livro 3). Edição do Kindle. Curitiba: Alteridade Editora, 2020.
THAMAY, Rennan; JUNIOR, GARCIA JÚNIOR, Vanderlei., FROTA JÚNIOR, Clóvis Smith. Precedentes Judiciais. Rio de Janeiro: Saraiva Jur, 2021. E-book. ISBN 9786555598469. Disponível em: https://app.minhabiblioteca.com.br/reader/books/9786555598469/. Acesso em: 16 jun. 2025.
VOJVODIC, Adriana de Moraes; MACHADO, Ana Mara França; CARDOSO, Evorah Lusci Costa. Escrevendo um romance, primeiro capítulo: precedentes e processo decisório no STF. Disponível em https://doi.org/10.1590/S1808-24322009000100002. Acesso em 18 abr. 2025.
VALE, Luís Manoel Borges do; PEREIRA, João Sergio dos Santos Soares. Teoria geral do processo tecnológico [recurso eletrônico]. Edição do Kindle. São Paulo: Thomson Reuters Brasil, 2023.
VALE, Luís Manoel Borges do. Teoria Geral do Processo Tecnológico. Palestra proferida em aula do mestrado em Direito da Sociedade da Informação da FMU em 11 jun. 2025.
