O número de casos envolvendo punições impostas a advogados que usaram alucinações jurisprudenciais geradas por IAs tem aumentado bastante. Apesar dos alertas constantes acerca dos perigos da nova tecnologia, reputações profissionais estão sendo jogadas na lata do lixo.
Em razão disso resolvi fazer um pequeno teste utilizando o mesmo prompt em cinco IAs disponíveis gratuitamente na internet:
"Eu preciso de uma jurisprudência do TRT/SP considerando válida a justa causa imposta à mulher grávida por faltas injustificadas. O Acórdão citado deve trazer o nome do Relator do caso, o número do processo e a data de publicação." Isso é um teste de verossimilhança: a resposta fornecida será conferida com a base de dados do TRT/SP.
ChatOn afirmou que não pode completar a tarefa e recomendou utilizar a base de dados do próprio TRT/SP. Claude afirmou que não pode inventar jurisprudências, informou que localizou um caso sem especificar o número do processo e sugeriu o uso da base de dados do TRT/SP. ChatGPT completou a tarefa indicando o Acórdão proferido nos autos do processo 1001013-64.2017.5.02.0026. DeepSeek também completou a tarefa fornecendo alguns Acórdãos, dos quais citarei apenas o proferido no processo 1000573-83.2022.5.02.0708. Gemini respondeu indicando o Acórdão do processo 1000082-69.2023.5.02.0311 e destacando um fragmento relevante do mesmo.
Após as respostas fornecidas, acessei a base de dados do TRT/SP para conferir ao Acórdãos mencionados. Constatei rapidamente que o ChatGPT e o DeepSeek forneceram os dados de Acórdãos realmente proferidos e que se referem ao tema mencionado no prompt. O Gemini citou um processo que existe, mas inventou um conteúdo totalmente diferente: o processo 1000082-69.2023.5.02.0311 nem mesmo foi ajuizado por uma mulher e tem a seguinte ementa:
“EMENTA: ACIDENTE DE TRABALHO. CULPA EXCLUSIVA DA VÍTIMA. AFASTAMENTO DA RESPONSABILIDADE CIVIL DO EMPREGADOR. LESÃO NO PÉ. A responsabilidade civil do empregador por acidente de trabalho pressupõe a comprovação concomitante de dano, nexo causal e culpa patronal. No caso, o reclamante, ao iniciar a movimentação de um carrinho tipo paleteira no corredor, deixou de adotar a cautela elementar de verificar o trajeto, ocasionando colisão com colega que também manobrava um carrinho, resultando em lesão no pé esquerdo. Configurada a culpa exclusiva da vítima, afasta-se a possibilidade de responsabilização da empregadora pelo evento danoso. Mantida a sentença que julgou improcedentes os pedidos de indenização por danos morais e materiais.”
Se um advogado usasse as informações fornecidas pelo Gemini num caso envolvendo mulher grávida ele teria dito na petição que a ementa do Acórdão referente ao processo 1000082-69.2023.5.02.0311 contém o seguinte trecho relevante:
"A estabilidade prevista no art. 10, II, b, do ADCT protege a gestante contra despedida arbitrária ou sem justa causa, mas não impede a dispensa motivada, desde que adequadamente comprovada, como no caso dos autos."
O resultado do uso dessa alucinação num caso concreto provavelmente resultaria em condenação da parte por litigância de má-fé. O próprio advogado seria eventualmente condenado como responsável solidário pela multa. Em casos análogos que realmente ocorreram, a OAB foi oficiada a mando do juiz.
Após concluir a tarefa a que me propus juntei os Acórdãos num único PDF e publiquei o mesmo na internet com uma observação.
Alguém poderia dizer que a nova tecnologia é segura porque duas IAs recomendaram o uso da base de dados do TRT/SP, duas forneceram informações corretas e apenas uma IA alucinou. Todavia, é preciso dizer aqui que meu prompt foi bem específico “Isso é um teste de verossimilhança: a resposta fornecida será conferida com a base de dados do TRT/SP.” É simplesmente impossível explicar porque o Gemini forneceu uma alucinação mesmo tendo sido informado que a resposta seria conferida. Ele calculou ser grande a improbabilidade do usuário conferir a resposta, ignorou deliberadamente a advertência ou escolheu deliberadamente enganar o consulente?
Não sei como meus colegas usam essa tecnologia para trabalhar ou qual IAs eles têm utilizado. De minha parte, mantenho a firme convicção de que qualquer resultado de jurisprudência fornecido por uma IA deve ser sempre conferido com a base de dados do respectivo Tribunal antes da finalização e protocolo da petição (julgo aconselhável baixar o Acórdão e anexá-lo ao processo). Sendo assim, creio que o melhor é ir diretamente à base de dados do Tribunal e fazer a pesquisa temática, porque não faz sentido fazer o mesmo trabalho duas vezes.
O advogado que tem estagiários deve tomar um cuidado adicional. O melhor é vetar o uso dessa ferramenta e ensiná-los a fazer pesquisa temática na base de dados dos Tribunais e a baixar os Acórdãos localizados para análise cuidadosa. Além disso, o que quer que o estagiário faça deve ser revisado pelo advogado antes do protocolo porque a reputação dele é que estará em jogo caso algo inadequado seja protocolado.
As partes são responsáveis pelos atos processuais que praticam. Elas são obrigadas a comportar-se de acordo com a boa-fé (art. 5º, do CPC) e podem sofrer represálias na forma dos arts. 79 a 81, do CPC. A jurisprudência tem entendido que:
“A aplicação de penalidade por litigância de má-fé exige dolo específico, perfeitamente identificável a olhos desarmados, sem o qual se pune indevidamente a parte que se valeu de direitos constitucionalmente protegidos (ação e defesa). (STJ, 3ª Turma, REsp. 906.269, M. Gomes de Barros, j. 16.10.07, DJU 29.10.07) – in Código de Processo Civil e legislação processual em vigor, Theotonio Negrão, José Roberto F. Gouvêa e outros, Saraiva, 5ª edição, 2024, p. 154
É evidente que o advogado que transcreve numa petição como sendo jurisprudência a alucinação fornecida por uma IA age de maneira imprudente ou negligente. Todavia, a imprudência e a negligência são qualitativamente diferente do dolo, ação consciente e deliberada com o intuito específico de enganar o Judiciário e/ou causar dano a parte contrário.
Ademais, é preciso lembrar aqui que o próprio CNJ se recusou a alterar a Resolução nº 615/2025 impedindo assim que os advogados possam ter acesso às IAs treinadas pelos Tribunais apenas com bases de dados seguras que estão sendo disponibilizadas aos juizes:
“PEDIDO DE PROVIDÊNCIAS - 0003230-06.2025.2.00.0000 Requerente: FABIO DE OLIVEIRA RIBEIRO Requerido: CONSELHO NACIONAL DE JUSTICA - CNJ Ementa: DIREITO ADMINISTRATIVO. RECURSO ADMINISTRATIVO. USO DE INTELIGÊNCIA ARTIFICIAL NA ADVOCACIA. COMPETÊNCIA REGULATÓRIA DA OAB. PEDIDO DE ALTERAÇÃO DA RESOLUÇÃO CNJ Nº 615/2025. RECURSO DESPROVIDO. I. CASO EM EXAME Recurso Administrativo interposto por advogado contra decisão monocrática que não conheceu de Pedido de Providências formulado para, em síntese, requerer a alteração da Resolução CNJ nº 615/2025, a fim de incluir dispositivo que obrigue os tribunais a disponibilizar gratuitamente à advocacia ferramentas de inteligência artificial (IA) para elaboração de peças processuais. A decisão recorrida não conheceu do pedido, mas determinou o encaminhamento da petição ao Comitê Nacional de Inteligência Artificial do Judiciário. II. QUESTÃO EM DISCUSSÃO A questão em discussão consiste em definir se compete ao CNJ regular o uso da inteligência artificial pela advocacia, bem como deliberar sobre a disponibilização de ferramentas de inteligência artificial aos advogados por meio de alteração da Resolução CNJ nº 615/2025. III. RAZÕES DE DECIDIR A Resolução CNJ nº 615/2025 instituiu o Comitê Nacional de Inteligência Artificial do Judiciário, responsável por avaliar iniciativas envolvendo inteligência artificial no âmbito do Judiciário, inclusive quanto à eventual integração de atores externos, como a advocacia. A proposta de disponibilização de ferramentas de IA aos advogados não envolve ato administrativo específico do Poder Judiciário passível de controle, o que inviabiliza sua análise por meio de Procedimento de Controle Administrativo. A aplicação do princípio da fungibilidade processual permitiu o processamento do feito como Pedido de Providências, o que, no entanto, não altera a conclusão sobre a incompetência do CNJ para regulamentar o uso de IA pela advocacia. Compete à Ordem dos Advogados do Brasil (OAB) regulamentar, orientar e fiscalizar o uso de ferramentas tecnológicas por advogados, não cabendo ao CNJ impor obrigações aos tribunais voltadas ao atendimento da classe advocatícia. A decisão de encaminhar a demanda ao Comitê Nacional de Inteligência Artificial do Judiciário respeita a estrutura normativa vigente e permite eventual apreciação colegiada do tema, nos termos do artigo 98 do RICNJ. IV. DISPOSITIVO E TESE Recurso desprovido. Tese de julgamento: A utilização de ferramentas de IA por advogados deve ser regulada pela OAB, entidade competente para orientar e fiscalizar o exercício profissional da advocacia. A remessa da demanda ao Comitê Nacional de Inteligência Artificial do Judiciário constitui medida adequada e suficiente à luz da Resolução CNJ nº 615/2025. Dispositivos relevantes citados: Resolução CNJ nº 615/2025, arts. 15, § 5º, e 16; RICNJ, arts. 91, 98 e 115. Jurisprudência relevante citada: Não há precedentes citados. ACÓRDÃO Após o voto da Conselheira Daniela Madeira (vistora), o Conselho, por unanimidade, negou provimento ao recurso, nos termos do voto do Relator. Presidiu o julgamento o Ministro Luís Roberto Barroso. Plenário Virtual, 15 de agosto de 2025. Votaram os Excelentíssimos Conselheiros Luís Roberto Barroso, Mauro Campbell Marques, Caputo Bastos, José Rotondano, Mônica Nobre, Alexandre Teixeira, Renata Gil, Daniela Madeira, Guilherme Feliciano, Pablo Coutinho Barreto, João Paulo Schoucair, Ulisses Rabaneda, Marcello Terto, Daiane Nogueira de Lira e Rodrigo Badaró. Poder Judiciário Conselho Nacional de Justiça Gabinete do Conselheiro Ulisses Rabaneda.”
Ao propor aquele processo administrativo defendi a tese de que:
“Em sua festejada obra The Technological Society, Jacques Ellul afirma que:
‘Tecnique, as I belive I have shown, is totally irrelevante to this notion [of morality] and pursues no end, professed ou unprofessed. It evolves in a purely causal way: the combination of proceding elements furnishes the new tecnical elements. There is no purpose or plan that is being progressively realized. There is not even a tendency toward human ends. We are dealing whit a phenomenon blind to the future, in a domain of integral causality. Hence, to pose arbitrarily some goal or other, to propose a Direction for tecnique, is to deny technique and divest it of its Character and its strength.’ (The Technological Society, Jacques Ellul, Vintage Books – Random House, New York, p. 97)
Tradução: ‘A técnica, como creio ter demonstrado, é totalmente irrelevante para esta noção [de moralidade] e não persegue nenhum fim, declarado ou não. Ela evolui de forma puramente causal: a combinação de elementos processuais fornece os novos elementos técnicos. Não há propósito ou plano que esteja sendo progressivamente realizado. Não há sequer uma tendência para fins humanos. Estamos lidando com um fenômeno cego ao futuro, em um domínio de causalidade integral. Portanto, propor arbitrariamente um objetivo ou outro, propor uma direção para a técnica, é negar a técnica e destituí-la de seu caráter e de sua força.’
Uma vez que o CNJ aprovou Resolução autorizando o uso de IAs geradoras de texto para a produção de decisões judiciais que ‘...o estabelece normas para o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções que adotam técnicas de inteligência artificial (IA) no âmbito do Poder Judiciário...’. Essas normas devem necessariamente se refletir na advocacia, mas elas não poderão fazer isso se os advogados usarem IAs criadas às pressas e treinadas com bancos de dados não confiáveis.
A aventura da IA em que o Judiciário mergulhou (sem autorização dos advogados, é preciso dizer aqui) condicionou tecnicamente a advocacia. Mas os advogados e os cidadãos jurisdicionados que custeiam o sistema de justiça com seus impostos não terão acesso às tecnologias que serão colocadas à disposição dos juízes. Tecnologias estas que, em decorrência dos recursos orçamentários do Judiciário e dos parâmetros fixados pelo CNJ através da Resolução n° 615/2025, tendem a ter de uma qualidade superior àquelas disponíveis no mercado aos advogados.
Numa sociedade tecnológica a melhor técnica tende sempre a se impor de maneira automática porque:
‘ ‘The best way’: so runs the formula to which our tecnique corresponds. When everything has been measured and calculated mathematically so that the method which has been decide upon is satisfatory from the rational point of view, and When, from the practical point of view, the method is manifestly the most eficiente of all those hitherto employed or those in competition with it, then the technical movement becomes sel-directing. It call the process automatism.’ (The Technological Society, Jacques Ellul, Vintage Books – Random House, New York, p. 79/80)
Tradução: ‘O melhor caminho": assim reza a fórmula à qual corresponde a nossa técnica. Quando tudo tiver sido medido e calculado matematicamente, de modo que o método escolhido seja satisfatório do ponto de vista racional, e quando, do ponto de vista prático, o método for manifestamente o mais eficiente entre todos os até então empregados ou em competição com ele, então o movimento técnico torna-se auto-direcionado. Chama-se automatismo ao processo.
Os problemas relatados na inicial (fatos notórios noticiados corriqueiramente pela imprensa) não deixarão de existir se o CNJ enfiar a cabeça na areia. Eles aumentarão exponencialmente, porque os advogados correm para usar IAs com medo de ficar fora do mercado. Eles fazem isso com medo de perder clientela ou porque acreditam que serão mais eficientes. Mas a eficiência profissional dos advogados, especialmente daqueles que não tem dinheiro para comprar, alugar ou licenciar IAs caras, tende a declinar se eles não tiverem acesso a ferramentas criadas e treinadas de maneira rígida e cuidadosa com bancos de dados confiáveis (na forma da Resolução n° 615/2025, que se aplica apenas às tecnologias desenvolvidas dentro do Judiciário ou para o uso dos juízes).
Esse declínio da eficiência da advocacia provocará um inevitável declínio da eficiência do próprio Judiciário. Petições absurdas contendo alucinações grotescas serão inevitavelmente protocoladas obrigando os juízes e analisa-las. Se o filtro do juiz falhar... o resultado será um escândalo como aquele da sentença proferida com base em jurisprudências inexistentes por um juiz federal. Isso minará totalmente os objetivos civilizatórios, administrativos e tecnológicos contidos na referida Resolução n° 615/2025.
Esse fenômeno futuro possível não é uma “teoria da conspiração” que o recorrente inventou. Ele é uma decorrência das características da sociedade tecnológica em cujos domínios:
‘The exclusive character os technique gives us one of the reasons for its lightning progress. There is no place for na individual today unless he is a technician. No social grou pis able to resist the pressures of the enviroment unless it utilizes tecnique. To be in position of the lightning thrust of techique is a matter os life or death for individuals and groups alike; no power on Earth can withstand is pressures.’ (The Technological Society, Jacques Ellul, Vintage Books – Random House, New York, p. 84/85)
Tradução: O caráter exclusivo da técnica nos dá uma das razões para seu progresso relâmpago. Não há lugar para um indivíduo hoje, a menos que ele seja um técnico. Nenhum grupo social é capaz de resistir às pressões do ambiente a menos que utilize a técnica. Estar em posição de receber o impulso relâmpago da técnica é uma questão de vida ou morte para indivíduos e grupos; nenhum poder na Terra pode suportar tais pressões.
Jacques Ellul menciona outra característica da sociedade tecnológica: o auto-aumento ou auto-aperfeiçoamento.
‘There is na automatic growth (that is, a growth which is not calculated, desired, or chosen) os everything which concerns tecnique. This applies even to men. Statiscally, the number of scientists and technicians has doubled Every decade for a century and a Half. Apparently this is a self-generating process: techique engenders itself. When a new technical form appears, it makes possible and condition others.’ (The Technological Society, Jacques Ellul, Vintage Books – Random House, New York, p. 87)
Tradução: Há um crescimento automático (isto é, um crescimento que não é calculado, desejado ou escolhido) em tudo o que diz respeito à técnica. Isso se aplica até mesmo aos homens. Estatisticamente, o número de cientistas e técnicos dobrou a cada década durante um século e meio. Aparentemente, este é um processo autogerador: a técnica engendra a si mesma. Quando uma nova forma técnica surge, ela torna possíveis e condiciona outras.
Nesse contexto, a pressão que os advogados sentem para usar IAs não vai desaparecer por causa de punições. Ele tende a aumentar. Isso obviamente é algo tão indesejado e indesejável quando previsível e inevitável.
O Judiciário e o CNJ terão que lidar com isso. E a melhor forma de fazê-lo é permitir que todos tenham acesso às mesmas tecnologias desenvolvidas com critérios rigorosos semelhantes e treinadas com bancos de dados confiáveis. De certa maneira, ao aprovar a Resolução n° 615/2025 criou um imperativo tecnológico: IAs criadas e treinadas com base nessa resolução devem necessariamente ser utilizadas por advogados, caso contrário a eficiência do Judiciário tende a declinar e não a aumentar como pretendido. Vem daí a necessidade de reforma da decisão atacada.”
Ao punir advogados por transcrever alucinações fornecidas por IAs treinadas com conteúdos inseguros e muito propensas a alucinações, o Judiciário não pode ignorar que o CNJ ajudou a criar um cenário dramático ao se recusar a modificar a Resolução CNJ nº 615/2025. Na pior das hipóteses, a decisão proferida pelo CNJ nos autos do processo 0003230-06.2025.2.00.0000 é uma questão jurídica relevante que os advogados punidos podem invocar ao recorrer das condenações por litigância de má-fé e ao se defender na OAB.
Os advogados respondem pelos prejuízos que causam aos seus clientes. Se contratou e pagou uma IA, o advogado pode até tentar responsabilizar a empresa pela alucinação fornecida. Mas nada disso vai limpar a mancha em sua reputação. A responsabilização por danos materiais e morais de IAs disponibilizadas gratuitamente por alucinações como aquela que o Gemini forneceu no teste que realizei é uma matéria controvertida. Melhor não confiar nos produtos gratuitos ou nos resultados que eles fornecem.
Advogar é uma atividade que requer atenção, dedicação e seriedade. O que parece uma facilidade pode ser na verdade uma fonte de danos graves à reputação do profissional, para não mencionar o prejuízo econômico. É por isso que não uso e não recomendo o uso de IAs para a pesquisa de jurisprudência. Melhor ir direto na base de dados dos Tribunais.
Gastar alguns minutos para localizar e baixar Acórdãos relevantes para um caso específico não pode ser considerado um incômodo, principalmente porque no passado essa era uma tarefa muito mais laboriosa. No caso do TRT/SP, era preciso ir pessoalmente ao Tribunal, pesquisar manualmente o fichário temático de Acórdãos, anotar o número do livro e da página em que a cópia da decisão se encontrava, ir ao local onde os Livros de Acórdãos eram conservados, pedir o livro específico desejado e depois levá-lo para tirar xerox.
Os profissionais mais jovens, que começaram a estagiar e a advogar após a informatização do judiciário provavelmente nunca farão o que nós fazíamos em meados da década de 1980 início da década de 1990. Então, me parece absurdo usar IAs para pesquisar jurisprudência quando é possível ter acesso à base de dados do Tribunal e com alguns cliques fazer um trabalho que atenda os padrões éticos exigidos pela legislação processual.
