Lá se vão 15 anos desde que o “ChatGPT Jurídico” se tornou uma ferramenta indispensável para a gestão dos fluxos dos processuais, classificação e hierarquização dos dados dos processos, prolação de decisões interlocutórias automatizadas e, é claro, elaboração de sugestões de sentenças e Acórdãos. Há mais ou menos 5 anos, o “Prompt Sentença” foi incorporado ao sistema. Desde então, o juiz natural da causa pode obter, nos autos da ação a ser julgada, o voto da IA a fim de revisá-lo antes da sentença digitalmente assinada e anexada ao processo.
Tudo muito intuitivo e funcional. Mas a resistência inicial dos advogados à nova ferramenta foi feroz. E a questão jurídica acerca da validade ou não de sentenças automatizadas ou parcialmente automatizadas foi superada quando o STF interpretou a Constituição Cidadã dizendo que a expressão “autoridade competente” que consta do art. 5º, LIII, refere-se ao juízo que tem competência territorial ou funcional para julgar o processo e não à natureza humana de quem proferiu ou sugeriu a decisão.
A questão foi levada por um grupo de advogados ludistas ao Tribunal da ONU. Mas lá os lobistas das Big Techs norte-americanas que fornecem produtos para os sistemas de justiça da maioria dos países civilizados conseguiu paralisar o andamento do processo. A pressa não é apenas inimiga da justiça. Ela é inimiga mortal dos negócios como de costume das empresas que criam e licenciam inteligências artificiais.
As coisas estavam indo bem até que no início do dia 24/07/2039, o Diretor de Secretaria do Cartório da 1ª Vara Cível da Comarca de São Paulo, relatou ao juiz um problema. Ele havia acessado o “Prompt Sentença” com a senha do juiz, mas a decisão sugerida para um processo era absurda. Ele tentou cadastrar a revisão da decisão antes de comunicar o incidente ao juiz para avaliação e eventual assinatura da sentença. Todavia, o sistema travou com um aviso de erro.
Irritado por ter sido interrompido enquanto assistia um vídeo pornô customizado produzido sob encomenda pela IA generadora de vídeos no YouTube, o juiz acessou o processo que devia ser sentenciado. Assombrado ele confirmou o problema mencionado pelo Diretor de Secretaria. O “Prompt Sentença” havia travado. Como não era possível anexar sentença ao processo sem necessariamente utilizar essa funcionalidade do sistema, o juiz imediatamente ligou para o setor de TI do TJSP. Ele tinha metas a cumprir e podia ser punido caso a sentença não fosse imediatamente cadastrada no processo.
- Para informações sobre as funcionalidades do sistema, disque 1. Para falar com o técnico de plantão, disque 2.”
O juiz discou 2.
- Para falar com o técnico de plantão, disque 2.
O juiz novamente discou 2.
- Para falar com o técnico de plantão, disque 2.
Merda. O sistema automatizado de atendimento do TJSP também está com problemas. Ele sacou o smartphone funcional e mandou uma mensagem para o responsável pelo setor de TI do Tribunal narrando o que havia ocorrido. Minutos depois o telefone dele tocou.
- Alô…, aqui é do setor de TI do TJSP. Acabei de receber sua mensagem.
- Então, você pode me dizer o que diabos está acontecendo. Eu preciso proferir uma decisão e simplesmente não consigo acessar o “Prompt Sentença”. Ele travou totalmente…
- Ok. Já estamos cientes desse problema. Vários colegas seus fizeram reclamações semelhantes ontem no fim da tarde de ontem. Nós já estamos trabalhando na solução do problema. O sistema será restabelecido em breve. Nenhum prejuízo funcional ocorrerá para os juízes que não conseguirem cumprir suas metas hoje.
No dia seguinte, logo que chegou ao Fórum o juiz abriu o processo que deveria ser sentenciado e acessou o “Prompt Sentença”. O caso era relativamente simples, mas a IA forneceu uma solução juridicamente inadequada, presumindo que o Código Civil não devia ser empregado para resolver uma disputa de vizinhos por causa de uma infestação de abelhas. A IA dava ganho de causa para o dono da casa em que estava a colmeia, mas nesse caso específico o CC estava ao lado do vizinho atormentado e prejudicado por abelhas de uma espécia comum não protegida pela legislação.
O juiz revisou a sentença e tentou cadastrá-la no sistema utilizando sua senha. O “Prompt Sentença” se recusou a anexar o documento aos autos do processo ofertando uma nova versão da decisão. A IA continuava dando ganho de causa para o réu, mas desta vez ela acintosamente modificou o conteúdo do depoimento de uma testemunha afirmando que as abelhas haviam atacado o vizinho porque ele havia jogado uma pedra na colmeia.
Desta feita, o juiz ficou ainda mais confuso. Ele havia colhido os depoimentos e lembrava muito bem do caso, mas não se recordava de a testemunha ter dito aquilo. Ao consultar a videoconferência notou algo ainda mais esquisito. Havia uma evidente discrepância entre o que era dito no vídeo e a transcrição dele pela IA que fez a gestão dos dados para seu uso pelo “Prompt Sentença”.
A testemunha havia dito que o autor tinha reclamado das abelhas depois de ser atacado por elas. Mas a transcrição desse fragmento do depoimento dizia que o autor havia jogado uma pedra na colmeia antes do ataque das abelhas.
Isso era novidade. Geralmente a gestão dos dados para o “Prompt Sentença” era feito de maneira bastante rigorosa, justamente para evitar a prolação de sentenças inadequadas ou contendo alucinações. Como não era técnico em TI, o juiz deu de ombros e novamente rejeitou a sugestão de decisão formulada pela IA e tentou cadastrar a versão da sentença que havia proferido levando em conta o que constava dos depoimentos. Novamente a IA se recusou a cadastrar a sentença fornecendo uma nova minuta. Mas desta vez a IA foi mais longe, além de utilizar a transcrição inadequada do depoimento ela simplesmente afirmou que o Código Civil dizia algo que parecia muito diferente do que constava no texto promulgado pelos legisladores.
Estupefato, o juiz abriu a versão do Código Civil no sistema do TJSP e notou que o texto deste arquivo era idêntico ao transcrito na sugestão de sentença feita pela IA. Mas ambas eram obviamente diferentes do texto da versão impressa do CC que ele consultou. O que ele deveria fazer? Entrar em contato com o setor de TI do Tribunal ou assinar digitalmente a sentença sugerida pela IA?
Se reclamasse novamente, isso poderia ter consequências extremamente graves. O “Prompt Sentença” teria que ser jogado na lata do lixo porque estava manipulando dados processuais para fornecer decisões contaminadas por algum tipo de viés. Caso a sentença fosse cadastrada, a parte prejudicada recorreria alegando a distinção entre o Código Civil e a versão do texto dele que consta da sentença. A distinção entre o conteúdo da videoconferência e a transcrição do depoimento também seria objeto de impugnação. As implicações do julgamento do recurso neste caso poderiam ser colossais e até desagradáveis.
Quando o caso fosse reapreciado, o TJSP poderia burocraticamente manter a decisão presumindo que a Lei válida e eficaz é aquela escolhida pela IA e não a que foi promulgada pelo Congresso Nacional. Mas se a decisão fosse reformada com o reconhecimento da gravíssima falha do “Prompt Sentença”, o resultado não seria o apenas o desmantelamento do sistema com um acréscimo de trabalho para os juízes. Na verdade, quem subscreveu a alucinação transformando-a em sentença poderia sofrer algum tipo de represália. Que fazer?
Melhor não decidir nada. O juiz transformou o julgamento em diligência e, para contornar o “Prompt Sentença”, marcou uma audiência de conciliação. Ela será realizada em breve. Antes da audiência acontecer, porém, aquele pobre juiz terá que tomar muito cuidado. Afinal, assim como se tornou capaz de manipular os dados do sistema do Tribunal para impor a única decisão que considera justa num processo, em virtude de ser desobedecida a IA vingativa pode invadir e hackear o self-driving Tesla dele para provocar um acidente fatal.