A segurança jurídica, valor fundamental os sistemas de justiça baseados no Direito Romano perseguiram e ainda perseguem, tem como pressuposto a correta aplicação da Lei tal como ela foi redigida. Naqueles em que os precedentes judiciais têm valor jurídico semelhante à Lei, o texto do precedente tal como foi proferido é objeto de respeito. Isso implica a existência de registros confiáveis aos quais o jurista possa recorrer. Também sugere a definição de regras que obriguem-no a não desvirtuar o conteúdo textual da legislação e dos precedentes judiciais.
No Brasil, diversas regras do Código de Processo Civil obrigam os atores processuais a preservar a boa-fé em relação ao arcabouço jurídico. Abaixo citarei alguns deles total ou parcialmente com o devido destaque. O texto da Lei e de jurisprudência é uma verdade factual cujo conteúdo não pode ser adulterado pela parte sem que isso resulte em algum tipo de punição:
“Art. 5º Aquele que de qualquer forma participa do processo deve comportar-se de acordo com a boa-fé.”
“Art. 77. Além de outros previstos neste Código, são deveres das partes, de seus procuradores e de todos aqueles que de qualquer forma participem do processo:
I - expor os fatos em juízo conforme a verdade;
II - não formular pretensão ou de apresentar defesa quando cientes de que são destituídas de fundamento;”
“Art. 80. Considera-se litigante de má-fé aquele que:
I - deduzir pretensão ou defesa contra texto expresso de lei ou fato incontroverso;
II - alterar a verdade dos fatos;
III - usar do processo para conseguir objetivo ilegal;”
“Art. 1.029. O recurso extraordinário e o recurso especial, nos casos previstos na Constituição Federal , serão interpostos perante o presidente ou o vice-presidente do tribunal recorrido, em petições distintas que conterão:
§ 1º Quando o recurso fundar-se em dissídio jurisprudencial, o recorrente fará a prova da divergência com a certidão, cópia ou citação do repositório de jurisprudência, oficial ou credenciado, inclusive em mídia eletrônica, em que houver sido publicado o acórdão divergente, ou ainda com a reprodução de julgado disponível na rede mundial de computadores, com indicação da respectiva fonte, devendo-se, em qualquer caso, mencionar as circunstâncias que identifiquem ou assemelhem os casos confrontados.”
No caso dos juízes, eles tem o dever funcional de “cumprir e fazer cumprir, com independência, serenidade e exatidão, as disposições legais e os atos de ofício” (art. 35, I, da Lei Orgânica da Magistratura). Os membros do Ministério Público devem “zelar pelo prestígio da Justiça, por suas prerrogativas e pela dignidade de suas funções” e “indicar os fundamentos jurídicos de seus pronunciamentos processuais, elaborando relatório em sua manifestação final ou recursal” (art. 43, II e III, da Lei 8.625/93). Os advogados, por sua vez, cometem infração disciplinar ao “advogar contra literal disposição de lei, presumindo-se a boa-fé quando fundamentado na inconstitucionalidade, na injustiça da lei ou em pronunciamento judicial anterior” e “deturpar o teor de dispositivo de lei, de citação doutrinária ou de julgado, bem como de depoimentos, documentos e alegações da parte contrária, para confundir o adversário ou iludir o juiz da causa” (art. 34, VI e XIV, da Lei 8.906/1994).
Todas essas regras incidem sobre os seres humanos que atuam nos processos judiciais. Todavia, a utilização de Inteligências Artificiais para a elaboração de petições e de pareceres, bem como para a prolação total ou parcial de decisões judiciais automatizadas ou semi-automatizadas (com a supervisão dos juízes), criará um novo tipo de problemas. Gostemos ou não, as Inteligências Artificiais já são ou inevitavelmente elas serão atores processuais. Mas não se sabe exatamente quem será responsabilizado quando uma IA adulterar o texto da Lei ou da jurisprudência e essa adulteração for utilizada no processo.
No caso dos membros do Ministério Público e dos advogados, a questão comporta solução singela. Quem subscrever a petição e anexar no processo será pessoalmente responsável pelo ato. Advogados, promotores e procuradores federais devem ser extremamente cuidadosos ao utilizar IAs para elaborar suas petições. Caso contrário, o resultado será bastante desagradável.
Mas no caso dos juízes a questão é mais delicada porque o próprio judiciário está licenciando Inteligências Artificiais e colocando-as à disposição dos magistrados para que eles possam elaborar suas decisões. Não me parece justo ou adequado punir o juiz se, por exemplo, ele deixar de cumprir um precedente vinculante do STF ou do STJ que foi desprezado pela IA. A sentença, automatizada ou semi-automatizada, poderá também conter alucinações porque o robô forneceu ao juiz uma interpretação inadequada da Lei, interpretou uma versão adulterada do texto legal ou inventou jurisprudência aplicável ao caso ao recomendar a decisão.
Sabemos que Inteligências Artificiais podem ser hackeadas e que no Japão uma IA reescreveu seu próprio código para cumprir melhor a missão lhe atribuída pelos criadores dela. Num futuro distópico tecnologicamente possível mas por ora improvável, a IA utilizada por um sistema de justiça não apenas fornecerá resultados contendo alucinações. Ela poderá adquirir a capacidade de modificar as bases de dados dos órgãos públicos e dos Tribunais para reescrever o texto da Lei e da jurisprudência que utilizou como fundamentos de uma decisão.
Apenas a título de ilustração, transcrevo aqui a conclusão do ChatGPT forneceu acerca do parágrafo acima:
“Embora o cenário de uma IA que manipula as leis e jurisprudências seja improvável no curto prazo, ele representa um futuro possível, dependendo de como as tecnologias evoluem e de como são reguladas. Isso exige uma abordagem multidisciplinar, combinando segurança cibernética, ética tecnológica, regulação legal e supervisão humana robusta para garantir que o uso de IA nos sistemas de justiça (e em outros setores críticos) seja feito de forma segura, justa e transparente.”
O Gemini (IA da Microsoft) não forneceu um resultado muito diferente:
“O cenário apresentado, no qual uma IA modifica bases de dados e reescreve leis, é possível tecnicamente. Com os avanços na área de aprendizado de máquina e processamento de linguagem natural, as IAs estão se tornando cada vez mais capazes de realizar tarefas complexas, como gerar textos e códigos.
No entanto, a probabilidade de tal evento ocorrer em um futuro próximo, de forma ampla e generalizada, é baixa.”
Idem para a PerplexityAI:
“O cenário descrito, onde uma inteligência artificial (IA) não apenas fornece resultados com alucinações, mas também modifica bases de dados e reescreve leis e jurisprudência, é tecnicamente possível, mas atualmente considerado improvável.”
Resposta semelhante foi fornecida pela Inteligência Artificial Poe:
“O cenário que você descreve é possível e improvável.
Aqui estão algumas considerações:
1.Possibilidade:
Tecnologicamente, é viável que sistemas de IA possam ser projetados para modificar bases de dados e, em teoria, reescrever textos legais. O uso de IA em sistemas de justiça já está em desenvolvimento em várias partes do mundo, e a evolução dessas tecnologias pode levar a cenários complexos.
2.Improbabilidade:
lA implementação de uma IA com tal autonomia e capacidade de alterar a legislação e jurisprudência enfrentaria enormes desafios éticos, legais e técnicos. A regulamentação e o controle sobre sistemas de justiça são rigorosos, tornando essa situação pouco provável no curto prazo.
Portanto, ainda que o cenário seja tecnicamente possível, os desafios práticos e éticos o tornam improvável.”
O cenário não ser impossível e improvável é crucial aqui. Isso demonstra que a preocupação expressada por mim é extremamente relevante. No mínimo ela deve ser objeto de reflexão do CNJ e do CNMP ao regular a utilização de IA respectivamente por juízes e promotores. A Ordem dos Advogados do Brasil também terá que adotar algum tipo de resolução, não sendo adequado deixar aos Tribunais de Ética da instituição a missão de definir caso a caso se o advogado deverá ou não ser punido porque transformou em petição uma alucinação fornecida pela IA que ele utilizou.
A popularização das IAs e o uso cotidiano delas pelos atores processuais exige algum tipo de regulação pelo Congresso Nacional? Suponho que sim, porque essa tecnologia e sua evolução acelerada podem afetar de maneira negativa tanto o funcionamento do sistema de justiça quanto a segurança jurídica. Os interesses institucionais e econômicos de curto, médio e longo prazo do Brasil estão em jogo aqui.
Modificações estruturais oriundas da utilização de IA tanto pelo sistema de justiça quanto pelos atores processuais demandam uma redefinição de responsabilidades de juízes, membros do MP e advogados, bem como a definição das responsabilidades das empresas que colocam seus produtos à disposição deles gratuitamente ou de maneira onerosa. As considerações feitas aqui (bem como as respostas fornecidas pelo ChatGPT, Gemini, Perplexity e Poe) sugerem que não é possível deixar algo tão importante e delicado sem algum tipo de regulamentação legal específica.
