Resumo: A Inteligência Artificial (IA) já está inserida no Poder Judiciário Brasileiro, pesquisas indicam que a maior parte dos tribunais possui pelo menos um projeto, em produção ou em desenvolvimento, que utiliza essa tecnologia. O Poder Legislativo ainda não editou norma sobre o tema, mas o Conselho Nacional de Justiça já estabeleceu diretrizes sobre ética, transparência e governança de IA no Judiciário, o que favorece o desenvolvimento colaborativo e o uso racional de recursos. Apesar de inicialmente ser utilizada para realização de tarefas burocráticas, a IA já se aproxima da tarefa mais nobre do judiciário, a tomada de decisão judicial. A celeridade e o aumento da objetividade são os principais argumentos dos defensores da tecnologia. Entretanto, alguns desafios ainda separam a máquina da função judicante, entre eles os vieses algorítmicos e questões relacionadas à segurança da informação.
Palavras-chave: Inteligência Artificial; Decisões Judiciais; Poder Judiciário.
Sumário: 1. Introdução; 2. Conceito de Inteligência Artificial: Automação x Inteligência Artificial; 3. Decisões Judiciais; 3.1. Decisões judiciais: conceito e classificações; 3.2. O juízo natural; 4. Sistema Judiciário Brasileiro em números; 5. O uso de IA para tomada de decisões judiciais; 5.1. Breve discussão sobre premissas para o uso de IA na tomada de decisões judiciais; 5.2. Regulamentação do uso de IA no Brasil; 5.3. Utilização de IA no Judiciário Brasileiro; 5.4. Principais impactos e desafios; 6. Considerações finais; Referências.
1. INTRODUÇÃO
O uso de inteligência artificial (IA) já é uma realidade. Diariamente, sistemas dotados de IA são utilizados desde tarefas básicas, como controlar os eletrodomésticos da casa, até em trabalhos complexos, como a análise de planetas que orbitam estrelas diferentes do sol terrestre.
O Direito não está imune a essa revolução tecnológica. Sistemas de informática já são capazes de executar pesquisas jurídicas, analisar documentos, avaliar probabilidades de sucesso de processo e até redigir peças jurídicas. Alguns escritórios de advocacia, inclusive no Brasil, já utilizam sistemas com inteligência artificial para realizar tarefas antes realizadas por humanos2.
Inicialmente, acreditava-se que a atuação das máquinas limitar-se-ia apenas a postos de trabalho meramente burocráticos, enquanto os humanos estariam ocupados com a criação e a tomada de decisão, fundamentada, em dados já tratados pelos robôs. Neste cenário, as máquinas estariam restritas a atuar apenas como auxiliares no processo decisório, em atividades meramente coadjuvantes.
Entretanto, uma nova realidade parece se descortinar. A inovação tecnológica está rompendo antigos padrões em uma velocidade tão grande e de forma tão abrangente que alguns especialistas, entre eles Klaus Schwab3, fundador e presidente do Fórum Econômico Mundial, acreditam que a humanidade está vivenciando o início da quarta revolução industrial. E a inteligência artificial é uma das tecnologias responsáveis por esse momento disruptivo.
O Poder Judiciário não está blindado a esse novo paradigma. Apesar de haver um enorme hiato entre a possibilidade de um robô elaborar uma peça jurídica e de tomar uma decisão judicial, esse caminho já começou a ser traçado. Em diversos lugares do mundo, inclusive no Brasil, sistemas com inteligência artificial já são utilizados no auxílio à tomada de decisão judicial. A grande litigiosidade e a morosidade do judiciário brasileiro parecem tornar a demanda por essa tecnologia ainda mais patente.
Além da celeridade e do aumento da objetividade das decisões judiciais, o uso de inteligência artificial certamente promoverá mudanças. A própria estrutura do judiciário brasileiro poderá ser alterada se as máquinas assumirem a função judicante. Desafios ainda precisam ser superados, mas o atual estágio de evolução demonstra que o caminho da IA até a tomada de decisão judicial já começou a ser trilhado.
Neste contexto, o presente trabalho objetiva apresentar como a inteligência artificial é utilizada no Poder Judiciário Brasileiro e quais são os desafios para a implementação dessa tecnologia na tomada de decisões judiciais.
2. CONCEITO DE INTELIGÊNCIA ARTIFICIAL: AUTOMAÇÃO X INTELIGÊNCIA ARTIFICIAL
Apesar de parecerem sinônimos, os conceitos de automação e inteligência artificial não podem ser confundidos. Para o adequado entendimento da proposta deste trabalho, é fundamental realizar uma distinção, mesmo que breve, entre estes conceitos.
Neste sentido, Dayane Sabbatine4 esclarece:
[...] a diferença entre automação e IA está na tomada de decisão. A automação não envolve tomada de decisão. O sistema automatizado faz exatamente o que foi programado para fazer, e não erra. O sistema de IA toma a decisão. [...] A máquina vai sendo treinada, por meio desses comandos, a tomar decisões, e vai acumulando esse aprendizado até chegar a um nível ótimo de assertividade , por exemplo, 95%.
Henrique Sperandio5 complementa os ensinamentos de Dayane Sabbatine:
Assim como a automação, a IA torna possível que a máquina execute tarefas humanas, ou seja, ambas as tecnologias podem atingir esse mesmo objetivo. Entretanto, a IA não se restringe à automação. Por meio de informações obtidas com o processamento de grande quantidade de dados, o software pode aprender e gerar novos conhecimentos.
Portanto, ao longo deste trabalho, o termo automação será utilizado como referência ao processo de realização de tarefas repetitivas por softwares, através de comandos preestabelecidos e devidamente ordenados em regras fixadas previamente, sem capacidade de aprendizagem e nem de tomada de decisão autonomamente.
De forma distinta, o termo inteligência artificial (IA) será utilizado sempre que o sistema computacional for capaz de aprender e aperfeiçoar sua atuação na tomada de decisão, de acordo com esse aprendizado.
O objetivo deste trabalho não é definir exaustivamente o conceito de inteligência artificial e nem as divergências doutrinárias sobre tal tema. A sucinta diferenciação conceitual apresentada entre IA e automação, apesar de parecer superficial, é suficiente para proceder um corte metodológico, categorizando os sistemas que se enquadram no perfil desejado.
3. DECISÕES JUDICIAIS
3.1. Decisões judiciais - Conceito e classificações
O juiz é um agente do Estado, é sempre bom repetir, que concretiza o trabalho do legislador. A lei só está concretizada quando interpretada e aplicada ao caso concreto6. De forma específica, essa concretização é realizada através das decisões judiciais.
A decisão judicial poderá ser proferida por apenas um magistrado, de forma monocrática, ou por um grupo com não menos que três magistrados, de maneira colegiada. Enquanto as decisões monocráticas são mais comuns na primeira instância de julgamento, as colegiadas o são em órgão revisores de decisões7. É a lei que define o cabimento de atuação monocrática ou colegiada.
O Código de Processo Civil vigente (CPC) estabelece, em seu artigo 203, que:
Art. 203, CPC. Os pronunciamentos do juiz consistirão em sentenças, decisões interlocutórias e despachos.
§1º Ressalvadas as disposições expressas dos procedimentos especiais, sentença é o pronunciamento por meio do qual o juiz, com fundamento nos arts. 485. e 487 põe fim à fase cognitiva do procedimento comum, bem como extingue a execução.
§2º Decisão interlocutória é todo pronunciamento judicial de natureza decisória que não se enquadre no § 1º.
§3º São despachos todos os demais pronunciamentos do juiz praticados no processo, de ofício ou a requerimento da parte.
Além de estabelecer os pronunciamentos do juiz, o legislador tratou de diferenciá-los. Neste sentido, estabeleceu que sentença é a decisão que, com fundamentos nos artigos 485 e 487 do CPC, põe fim à fase de conhecimento ou extingue a execução. De maneira residual, as decisões interlocutórias são pronunciamentos com carga decisória que não se amoldam ao conceito de sentença. Conclui-se, portanto, que as decisões interlocutórias possuem o objetivo de solucionar questões incidentais, sem encerrar a demanda.8
De forma distinta, os despachos são atos praticados pelo magistrado, em conseqüência do impulso oficial, que não possuem carga decisória9 e objetivam preparar o processo para o adequado julgamento. Portanto, os despachos não podem ser considerados decisões judiciais.
A ausência de carga decisória dos despachos viabiliza a automação dessa tarefa. Ao contrário dos despachos, a tomada de decisão judicial requer um processo de análise, que a automação não consegue proporcionar. Por isso, caso haja a possibilidade da tomada de decisão ser realizada por uma máquina, o modelo de inteligência artificial mostra-se mais adequado para esse desígnio.
Ainda sobre o pronunciamento dos magistrados, o CPC, no artigo 204, apresenta o acórdão como o julgamento colegiado proferido pelos tribunais, e a possibilidade de decisão monocrática por parte do relator do processo.
A fundamentação/motivação das decisões judiciais é um princípio constitucional, presente no artigo 93, IX da carta magna vigente, in verbis: Art. 93, CF, [...] IX- todos os julgamentos dos órgãos do Poder Judiciário serão públicos, e fundamentados todas as decisões, sob pena de nulidade.
Diante da importância da fundamentação das decisões judiciais, o legislador infraconstitucional, repetiu este princípio no CPC: Art. 11, CPC. Todos os julgamentos dos órgãos do Poder Judiciário serão públicos, e fundamentadas todas as decisões, sob pena de nulidade.
Cássio Scarpinella Bueno10 defende que o princípio da fundamentação/motivação além de assegurar a transparência da atividade judiciária, viabiliza o adequado controle dessas decisões.
Elpídio Donizetti11ensina que:
[...] com a fundamentação das decisões judiciais o juiz subsumirá os fatos em apreço às normas, fixando as bases sobre as quais se assentará o julgamento. [...] Através da fundamentação o prolator da decisão deve demonstrar lógica, bom senso e cultura jurídica, no intento de convencer as partes e a opinião pública acerca do acerto da decisão.
Conclui-se, portanto, que a fundamentação da decisão judicial possui importância tanto para o público em geral quanto para as partes do processo. O magistrado não pode decidir de forma arbitrária. Conhecer as razões que levaram à determinada decisão é fundamental para comprovar a imparcialidade do julgador e para permitir que a parte que se sinta prejudicada possa recorrer desta decisão12.
Neste sentido, Carlos Alberto Menezes Direito13 assevera que o fundamento do julgado é que dá força ao dispositivo. Juiz que julga sem convencer, sem expor as razões de seu convencimento, ademais de violar o direito positivo, malfere a essência da função judicante.
3.2. O Juízo Natural
Para Alexandre de Moraes14, a carta magna brasileira de 1988 trouxe o princípio do juiz natural insculpido nos incisos XXVII e LIII do artigo 5º:
CF. Art. 5º: Todos são iguais perante a lei, sem distinção de qualquer natureza, garantindo-se aos brasileiros e aos estrangeiros residentes no País a inviolabilidade do direito à vida, à liberdade, à igualdade, à segurança e à propriedade, nos termos seguintes:
[...]
XXXVII não haverá juízo ou tribunal de exceção;
[...]
LIII ninguém será processado nem sentenciado senão pela autoridade competente.
Ingo Wolfgang Sarlet et al15 ensinam que o juiz natural é juiz imparcial, competente e aleatório. A imparcialidade é a característica que o diferencia das partes, pois o juiz não deve atuar com interesse judicial no resultado do processo. O compromisso do julgador é com a observância dos ditames legais.
A segunda característica do juízo natural é a competência. A competência está associada à necessidade da existência de regras prévias e objetivas capazes de determinar, antes da propositura da ação, qual órgão julgador é o responsável pela apreciação daquela demanda16. A competência estabelece limites para a atuação legítima da função jurisdicional pelo órgão julgador17.
Observe-se que o direcionamento de forma predefinida é para um órgão julgador e não para a pessoa do magistrado, o que violaria a característica da aleatoriedade que preconiza a impossibilidade de escolha deliberada do juiz pelas partes18.
O artigo 5º, inciso XXXVII, é outra premissa do princípio do juiz natural, e veda a possibilidade de juízo de exceção. Impedindo, portanto, que sejam criados órgãos jurisdicionais posteriores e direcionados ao julgamento de determinadas demandas antecedentes.
Entretanto, é cediço que a criação de juizados especializados não viola a vedação constitucional ao juízo de exceção e nem o princípio do juízo natural. Essa técnica é apenas uma divisão da atividade jurisdicional do Estado entre vários órgãos do Poder Judiciário19 e há previsão e proteção constitucional para utilização da mesma20.
De outra forma, a utilização de máquinas para realização de julgamento é vista com algumas ressalvas quando confrontada com o princípio do juízo natural. Neste diapasão, João Paulo Forster et al21 argumentam que o princípio fundamental do juízo natural pressupõe a presença de um julgador humano e o uso irrestrito de máquinas na atividade judicante encontra, portanto, barreiras legais.
Para esses autores, tanto a carreira jurídica nacional, presente na Constituição Federal vigente, quanto a Lei Orgânica da Magistratura pressupõem a presença de um juiz humano. Além disso, o próprio adjetivo natural é capaz de excluir qualquer possibilidade de atuação de um juiz artificial, não dotado de sentimentos humanos22.
4. SISTEMA JUDICIÁRIO BRASILEIRO EM NÚMEROS
O último relatório Justiça em Números23, produzido pelo CNJ no segundo semestre de 2020 com dados coletados no ano de 2019, concluiu que existem pouco mais de 77 milhões de processos em tramitação nas cortes brasileiras. Este relatório apresenta um raio-X do sistema Judiciário brasileiro e evidencia uma situação alarmante.
De acordo com o relatório, no ritmo atual, para zerar o estoque de processos, seriam necessários dois anos e dois meses de trabalho exclusivo para os processos que já estão no judiciário24.
Ao contrário do que muitos acreditam, os números comprovam que o problema da morosidade não está relacionado com a ineficiência dos julgadores. Cada magistrado brasileiro julgou em média 8,7 processos por dia útil, um número bastante considerável, apesar da sabida rede de suporte que existe para a realização desta atividade. A produtividade em relação ao número de decisões proferidas, entre sentenças e decisões interlocutórias, aumentou aproximadamente 34% em 11 anos.
A origem do problema, aparentemente, também não está relacionada com a falta de recursos. A União, Estados, Distrito Federal e municípios gastaram aproximadamente 3% de toda a receita com o Poder Judiciário.
Os dados mostram ainda que, ao contrário de países com sistemas judiciais mais céleres, o Brasil possui um alto grau de litigância. Apenas no último ano, mais de trinta milhões de novos processos novos ingressaram no judiciário brasileiro.
Diante dessa realidade, o uso de inteligência artificial na tomada de decisões judiciais apresenta-se como uma alternativa para tentar solucionar a morosidade e dar mais celeridade aos processos em trâmite no judiciário brasileiro.
5. O USO DE INTELIGÊNCIA ARTIFICIAL PARA TOMADA DE DECISÕES JUDICIAIS
Atualmente, algumas soluções com IA já são empregadas nas etapas preliminares, que antecedem a tomada decisão judicial. Elas auxiliam e instrumentalizam o magistrado para a tomada da decisão ou são empregadas em atividades administrativas. Entre essas soluções, cita-se: o sistema Victor (utilizado no STF) e o Athos (utilizado no STJ).
Esses sistemas conseguem acelerar o processo decisório, seja classificando processos semelhantes25, oferecendo substratos para a decisão ou realizando outras tarefas que apoiam a tomada de decisão. Mas, mesmo nesses casos, o magistrado, pessoa natural, continua sendo o protagonista do processo decisório, pois é ele que, de fato, julga e decide, podendo, inclusive, desconsiderar a ajuda oferecida pelo sistema.
Apesar da evolução dos sistemas dotados de IA, a complexidade da tomada de decisão judicial e as consequências dessas decisões para os indivíduos e a sociedade ainda dificultam o avanço da máquina para atuação como entidade judicante.
Por conta da celeridade que proporciona, a aplicação de IA em etapas que auxiliam e aceleram a tomada de decisão geralmente é bem recebida pela sociedade. De forma distinta, a efetiva tomada de decisão pela máquina é questão polêmica, ainda objeto de muita discussão26.
Além de questões tecnológicas, a utilização de máquinas inteligentes na atividade-fim judicante envolve opções éticas e políticas, áreas que precisam de estudos aprofundados antes de qualquer avanço significativo da tecnologia na atividade27.
Mesmo os entusiastas da tecnologia, defendem que deve haver um avanço racional, gradual e progressivo no uso de IA. Inicialmente, apenas casos com baixa complexidade e teses já consolidadas deveriam ser submetidos à apreciação das máquinas28. E, mesmo essas decisões com menor complexidade, deveriam ser submetidas à revisão humana, pelo menos no primeiro momento.
Neste diapasão, os limites de atuação das máquinas seriam ampliados de forma progressiva, respeitando sempre o nível de maturidade dos sistemas e o aumento do nível de acurácia.
A imparcialidade dos sistemas dotados de IA é outra questão que precisa ser exaustivamente debatida e aprimorada, antes da aplicação destes na atividade judicante. É pacífica a necessidade da imparcialidade do julgador como princípio norteador para que se alcance um resultado justo no processo, independentemente de quem ou quê realizará o julgamento.
Em relação à imparcialidade dos sistemas com inteligência artificial, o ponto relevante do futuro que começa a se descortinar é o chamado enviesamento algorítmico/de máquina. Esse problema relaciona-se com falhas no processo de aprendizagem do sistema, que ocasionam a propagação de valores implícitos dos envolvidos na etapa de programação29.
Em linhas gerais, é como se a máquina aprendesse a atuar de acordo com parâmetros que replicam desigualdades. Esses valores incorporam parcialidade ao sistema, torna-o incapaz de atuar de maneira imparcial.
Um exemplo real da nocividade do enviesamento de máquina foi identificado no sistema utilizado pelos Estados Unidos da América para avaliar o risco de reincidência de acusados. Após análises realizadas por auditoria externa, notou-se que o sistema era enviesado e que IA empregada considerava a cor da pele como variável no cálculo do risco, atribuindo um risco maior aos negros que aos brancos, característica notadamente discriminatória30. A máquina, após o processo de aprendizagem, passou a reproduzir um comportamento extremamente lesivo e danoso, que não era desejado e nem esperado, mas estava de acordo com o treinamento que o sistema recebeu.
5.1. Breve discussão sobre premissas para o uso de IA na tomada de decisões judiciais
A possibilidade do uso de Inteligência artificial na tomada de decisões judiciais inaugura um novo paradigma no sistema judiciário. Neste novo cenário, três premissas básicas precisam ser respeitadas para que o uso de IA respeite os direitos e garantias fundamentais: transparência da informação, necessidade de revisão humana e obrigatoriedade de apreciação pelo juiz da causa no caso de oposição de embargos de declaração, recurso que deverá ser cabível para todas as decisões tomadas por máquinas 31.
A transparência na informação sobre o uso de inteligência é a primeira das premissas. Ela preconiza a necessidade de informar ao jurisdicionado que a decisão foi tomada por uma máquina ou com o auxílio dela. Com esse esclarecimento, o jurisdicionado teria melhores condições de compreender a decisão, para tentar identificar eventuais erros ou vícios32.
Além de cientificar as partes que a decisão foi tomada por um sistema dotado de inteligência artificial, é fundamental que esse sistema seja auditado continuamente por organizações externas e independentes, com o intuito de identificar falhas e apontar inconformidades33.
O segundo requisito, obrigatoriedade de supervisão humana, é apontado por André Roque e Lucas Santos34 como um corolário do direito público subjetivo de acesso aos juízes, presente na carta magna brasileira. Fundamentam essa premissa, portanto, no artigo 5º, XXXV, da carta magna vigente:
Artigo 5º - [...]
XXXV - a lei não excluirá da apreciação do Poder Judiciário lesão ou ameaça a direito; []
Com a premissa da obrigatoriedade de revisão por um juiz humano, a IA seria utilizada tecnicamente como um ferramenta instrumental, com capacidade de orientar, mas não de efetivamente decidir. Mas Medina e Martins35 alertam para o risco da supervisão humana se tornar uma mera formalidade. Na opinião desses autores, o aperfeiçoamento dos sistemas, o aumento do grau de acerto destes, a sobrecarga de trabalho e a própria desídia do revisor podem induzir a chancela humana a apenas um viés de confirmação.
Para Boeing36, em algumas situações, a supervisão humana pode mitigar parcialmente a necessidade de transparência. Como a decisão deverá sempre ser revisada por um humano, não se pode esperar a transparência no nível das minúcias do funcionamento, mas somente no que diz respeito a tornar algumas de suas razões humanamente inteligíveis.
A terceira e última premissa elencada, refere-se à obrigatoriedade da apreciação por um juiz humano sempre que for oposto recurso de embargos de declaração, com questões referentes à obscuridade, contradição, omissão ou erro material de decisões tomadas com o auxílio de inteligência artificial37.
Por conta da própria natureza recursal, faz-se necessário que a análise nesses casos, de forma ampla e não apenas para embargos de declaração, seja realizada por juízes humanos. Não faria sentido submeter o recurso de uma decisão ao mesmo sistema de IA que a tomou. Invariavelmente, esse sistema repetiria a decisão, frustrando de maneira preliminar a possibilidade de reforma da mesma, objetivo precípuo do recurso.
É fundamental que a decisão humana sobre o recurso seja utilizada para reforçar a aprendizagem da máquina, aumentando com isso o seu nível de acerto.
Essas três premissas objetivam realizar uma transição gradual e cautelosa, mantendo a IA como auxiliar do processo decisório. Apesar de possibilitar a tomada decisão pela máquina, este modelo continua condicionando esta decisão a uma validação humana, pelo menos no atual estágio da tecnologia.
5.2. Regulamentação do uso de IA no Brasil
Diante da notável ampliação da utilização de sistemas dotados de IA e das implicações deste uso nas mais diversas áreas da sociedade, é imprescindível que o Brasil possua normas jurídicas que disciplinem o tema, estabelecendo limites e atribuindo responsabilidades.
No ano de 2019, o senador Styvenson Valentim (PODEMOS/RN) apresentou o projeto de lei (PL) de nº 5051/2019 com esse desígnio38. Atualmente este projeto de lei está em processo de análise pela Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática do Senado.
De acordo com o autor, o projeto de lei 5051/2019 objetiva estabelecer princípios para o uso da inteligência artificial no Brasil, com intuito de evitar a concretização de alguns riscos implícitos no uso da tecnologia39. O referido diploma legal não tem a finalidade de frear o avanço da tecnologia, mas de assegurar que esse desenvolvimento ocorra de modo harmônico com a valorização do trabalho humano, a fim de promover o bem-estar de todos. 40
Por este motivo, o PL 5051/2019 propõe impedir que a tomada de decisão seja realizada de maneira autônoma por sistemas com IA. Essa restrição está claramente evidenciada no artigo 2º, V, e no artigo 4º do projeto de lei, in litteris:
Art.2º A disciplina do uso da Inteligência Artificial no Brasil tem como fundamento o reconhecimento de que se trata de tecnologia desenvolvida para servir as pessoas com a finalidade de melhorar o bem-estar humano em geral, bem como:
[...] V - a supervisão humana.
Art.4º Os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana.
§1º A forma de supervisão humana exigida será compatível com o tipo, a gravidade e as implicações da decisão submetida aos sistemas de Inteligência Artificial.
Nota-se que a regulamentação proposta pelo PL 5051/2019 não está circunscrita apenas ao judiciário. Portanto, as implicações de uma eventual aprovação devem ser analisadas em um espectro ainda mais amplo, nas mais diversas áreas.
Por isso, a obrigatoriedade de atribuir função meramente auxiliar aos sistemas decisórios dotados de IA pode trazer consequências desastrosas a setores em que essa tecnologia já é utilizada. Apenas a título exemplificativo, a limitação da atuação da IA a funções auxiliares impossibilitaria a continuidade do uso de semáforo [inteligente]41, que já é uma realidade em diversas cidades, inclusive em Salvador-Bahia.
Se o PL 5051/2019 for aprovado da forma como foi proposto, inviabilizará também a existência de carros autônomos no Brasil. Se o sistema de inteligência artificial do veículo não puder decidir sem a interferência humana, a ideia de carro autônomo perde todo o sentido.
Especificamente no caso dos tribunais brasileiros, ao menos 64 projetos que utilizam IA, seja em produção ou em desenvolvimento, precisariam ser revistos porque apesar de não assumirem a função judicante, esses sistemas são capazes de tomar decisões.
Pelo exposto, na tentativa de regulamentar o uso de IA no Brasil, o PL 5051/2019 mostra-se muito incipiente. Apesar de objetivar estabelecer os princípios para o uso da inteligência artificial, o projeto utiliza o termo inteligência artificial de maneira genérica, não apresentando uma definição precisa sobre este conceito, o que compromete a efetividade da norma.
A preocupação do senador Valentim com a criação de políticas específicas para proteção e qualificação dos trabalhadores em uma realidade em que estes compartilhem as atividades com sistemas de IA42 mostra-se bastante salutar. Entretanto, condicionar, de maneira genérica, a atuação de sistemas com inteligência artificial a funções meramente auxiliares, com a obrigatoriedade de supervisão humana é tentar parar o irrefreável.
Ao invés de tentar impedir formalmente a utilização de sistemas autônomos com capacidade de decisão, o autor poderia ter proposto a possibilidade (e não a obrigatoriedade) de intervenção humana e uma transição gradual, transparente, reversível e com as devidas responsabilizações. Além disso, a transparência e a auditabilidade desses sistemas deveriam ter sido mais detalhadamente abordadas.
Ainda no ano de 2019, a Organização para Cooperação e Desenvolvimento Econômico (OCDE) elaborou o documento OECD Council Recommendation on Artificial Intelligence 43com intuito de nortear o uso e desenvolvimento de IA pelos integrantes do grupo econômico.
O OECD Council Recommendation on Artificial Intelligence é pautado em cinco princípios estruturantes44:
Progresso inclusivo, desenvolvimento sustentável e bem-estar A IA deve ser utilizada para promover o desenvolvimento sustentável, incluindo a redução das desigualdades entre os seres humanos e a proteção do meio ambiente.
Equidade e valores centrados no ser humano O uso e desenvolvimento de IA devem ser pautados por respeito ao Estado de direito, aos direitos humanos, aos valores democráticos, à diversidade e à justiça social. Para tanto, deve-se implementar mecanismos possibilitem a intervenção humana quando necessária à garantia desses direitos
Transparência Deve-se haver uma divulgação responsável sobre as informações dos sistemas dotados de IA para que haja uma compreensão geral de seu funcionamento e a possibilidade de contestação de seus resultados
Robustez, segurança e proteção Deve-se adotar mecanismos de rastreabilidade e gerenciamento de risco em todas as fases do ciclo de vida dos sistemas dotados de IA.
Auditabilidade Os envolvidos devem ser responsáveis, de acordo com suas atuações, pelo funcionamento adequado dos sistemas de IA e pelo respeito aos princípios acima.
Além dos cinco princípios estruturantes, que são de aplicabilidade geral para todos os envolvidos no ciclo de vida dos sistemas com IA, a OCDE incluiu cinco recomendações específicas para que os governos desenvolvam políticas nacionais e de cooperação internacional relacionadas à IA.
Investir em pesquisa e desenvolvimento de IA As iniciativas pública e privada devem engajar-se no investimento para pesquisa, inovação desenvolvimento de IA confiável.
Promover um ecossistema para IA Os governos devem promover o desenvolvimento de um ecossistema digital, com o compartilhamento de dados e de conhecimento de maneira segura, legal e ética.
Moldar um ambiente político favorável para IA Deve-se oferecer um ambiente político favorável para que haja a transição entre a pesquisa/ desenvolvimento paraa implementação/operação;
Capacitar o ser humano e prepará-lo paraa transformação do mercado de trabalho Governos e partes interessadas devem dialogar sobre a utilização de IA no mercado de trabalho e implementar medidas com intuito de capacitar e preparar o trabalhadores para essa nova realidade.
Promover a cooperação internacional para IA confiável Os governos devem cooperar para o desenvolvimento de IA, promovendo o compartlilhamento de conhecimento e desenvolvendo poadrões técnicos globais para IA interoperável e confiável.45
Apesar de não ser membro da OCDE, o Brasil, por intermédio do Ministério das Relações Exteriores, partcipou da elaboração do documento, assinando-o em maio de 2019 durante uma reunião da organização46.
Nesta esteira, no ano de 2020, o deputado Eduardo Bismarck apresentou o PL 21/2020, com intuito de estabelecer princípios, direitos e deveres para o uso de Inteligência artificial no Brasil e criar um marco legal para o uso e desenvolvimento de IA no Brasil47.
O documento da OCDE compõe o núcleo estrutural do PL 21/2020, que inclusive está organizado de maneira similar e traz princípios e recomendações análogas aos elencados na OECD Council Recommendation on Artificial Intelligence.
O projeto de lei 21/2020 está em tramitação, aguardando o parecer do Relator na Comissão de Ciência e Tecnologia, Comunicação e Informática (CCTCI), ainda sem designação de data para que haja a deliberação dos congressistas brasileiros.
Tanto o PL 5051/2019 quanto o PL 21/2020 objetivam estabelecer princípios gerais para o uso e desenvolvimento de sistemas dotados de IA no Brasil.
Apesar de os dois apresentarem nítida preocupação com o papel que o ser humano desempenhará nessa nova realidade que se desvela, o PL 21/2020 mostra-se mais adequado para o cenário nacional. Além de trazer definições essenciais para a delimitação do escopo do projeto, o deputado Eduardo Bismarck apresenta princípios, fundamentos, direitos e deveres das partes envolvidas e diretrizes para atuação dos entes federativos para o uso de desenvolvimento de IA no Brasil. Ademais, este projeto de lei coaduna-se também a recomendação internacional.
Especificamente sobre o uso de IA no judiciário brasileiro, o CNJ editou a resolução 332/2020, que será abordada nos tópicos seguintes.
5.3. Utilização de IA no Judiciário Brasileiro
No ano de 2020, mestrandos da Universidade de Columbia-EUA, em parceria com o Instituto de Tecnologia e Sociedade do Rio do Janeiro (ITS-RIO) realizaram um estudo denominado O Futuro da IA no Sistema Judiciário Brasileiro48.
O projeto contou com a participação do CNJ e teve entre seus objetivos:
Identificar as diferentes ferramentas de IA desenvolvidas pelo Judiciário;
Propor um modelo de governança colaborativa que funcione com o PJe;
Analisar os princípios, incentivos e regulações internas do laboratório de inovação do PJe;
Desenvolver uma proposta de aperfeiçoamento do atual modelo de administração49.
A pandemia do Covid-19 impôs algumas restrições ao projeto, por isso a coleta de dados foi realizada através de entrevistas com magistrados e especialistas responsáveis pelo desenvolvimento de IA nos tribunais brasileiros. Além disso, com intuito de analisar questões relacionadas à segurança do uso de IA, alguns especialistas em Lei Geral de Proteção de Dados (LGPD) também foram entrevistados.
O estudo identificou nove sistemas no judiciário brasileiro que utilizam Inteligência artificial, categorizando-os na seguinte forma:
Sistemas utilizados por Tribunais Superiores: Victor (STF) e Sócrates (STJ)
Sistemas utilizados por Tribunais Estaduais: LEIA (TJAC), Hercules (TJAC); Radar (TJMG), Elis (TJPE), Poti (TJRN), Clara (TJRN) e Jerimum (TJRN), SINAPSES (TJRO).50
Os pesquisadores esclarecem que a lista apresentada pode não representar a totalidade das ferramentas com IA em uso pelos tribunais brasileiros.51
No decorrer da pesquisa, os pesquisadores chegaram às seguintes conclusões:
O sistema judiciário brasileiro não possui uma política diretiva clara, com princípios que assegurem o uso seguro e ético de IA;
Não há comunicação entre o CNJ e os tribunais sobre o desenvolvimento de ferramentas de IA;
Muitos tribunais ainda não adotam o PJe;
Alguns tribunais buscam o auxílio de outros agentes, como academia e o setor privado para o desenvolvimento de ferramentas sem que o CNJ estruture essa colaboração.52
Ainda no ano de 2020, a Fundação Getúlio Vargas (FGV) , por intermédio de seu Centro de Inovação, Administração e Pesquisa do Judiciário, realizou o estudo Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário com ênfase em inteligência artificial com objetivo de fazer um levantamento sobre o uso de inteligência artificial nos tribunais brasileiros naquele momento53.
O estudo da FGV abrangeu os ramos da justiça Estadual, Justiça do Trabalho e Justiça Federal, totalizando 59 tribunais, além do CNJ. Portanto, teve uma amplitude maior que o trabalho realizado pela Universidade de Columbia.
Considerando que o país tem noventa e um tribunais, conclui-se que aproximadamente 65% das cortes brasileiras participaram da pesquisa.
Assim como no estudo realizado pela Universidade de Columbia, a Fundação Getúlio Vargas coletou a maior parte dos dados através de formulários. Inicialmente, a FGV identificou setenta e dois projetos com IA no judiciário brasileiro. Mas, após reavaliação, oito desses projetos foram reclassificados como sistemas de TI sem implementação de IA. Portanto, chegou-se ao número final de sessenta e quatro projetos com IA, em uso ou em fase de desenvolvimento nos tribunais pesquisados. Ressalta-se que esse número é muito superior ao encontrado pelo pela Universidade de Columbia, que havia identificado apenas nove sistemas.54
Os sistemas e projetos encontrados pela FGV estão distribuídos por quarenta e sete tribunais, o que sinaliza que mais da metade dos tribunais brasileiros possuem projetos que implementam inteligência artificial, em produção ou em desenvolvimento. Além disso, alguns tribunais, entre eles o Superior Tribunal de Justiça e o Tribunal Regional da 4ª Região (TRF4), possuem mais de um projeto.
O estudo mostra que o ano de 2018 foi um divisor de águas para o uso de IA nos tribunais brasileiros. Foi a partir desse momento que os projetos começaram a ser desenvolvidos, com crescimento significativo nos anos seguintes.
As equipes internas dos tribunais são responsáveis pelo desenvolvimento de grande parte dos projetos identificados, mas parcerias com a rede acadêmica e com empresas privadas, entre elas gigantes do setor de TI como Amazon e Microsoft, foram observadas. Neste tocante, uma situação chama a atenção: sete projetos de IA foram desenvolvidos pela empresa SoftPlan em parcerias com equipes internas de cada um dos tribunais. De acordo com o levantamento, nestes casos os projetos possuem escopos idênticos ou muito similares, o que indica reaproveitamento e utilização racional da base de conhecimento.
Infelizmente, esse reaproveitamento de tecnologia, com utilização racional de recursos e transferência de conhecimento não era a regra para o desenvolvimento de projetos de IA nos tribunais brasileiros. Apesar de iniciativas de cooperação entre os tribunais existirem, entre elas Sinapse e o projeto GEMINI, de acordo com os dados apresentados pelo estudo da FGV, nota-se que uma parcela considerável dos projetos objetiva resolver problemas similares, mas são desenvolvidos por equipes distintas.
Esse cenário, de aparente ausência de coordenação para desenvolvimento de soluções de IA, que também foi identificado pelo estudo da Universidade de Columbia55, pode ser reflexo da autonomia dos tribunais para a gestão de soluções de tecnologia e da ausência de governança ativa nesta área no período analisado.
Cumpre destacar que a coleta de dados do estudo foi finalizada no mês de agosto de 2020. Nesse mesmo mês, o CNJ editou a resolução 332/2020 para tratar, entre outros assuntos, da governança na produção e no uso de Inteligência Artificial no Poder Judiciário56 . O artigo 10 dessa resolução atribui ao CNJ a responsabilidade pela governança do uso de IA no poder Judiciário. Além disso, estimula o desenvolvimento comunitário e estabelece um repositório de soluções, que pode ser utilizado por todos os tribunais:
Art. 10. Os órgãos do Poder Judiciário envolvidos em projeto de Inteligência Artificial deverão:
I informar ao Conselho Nacional de Justiça a pesquisa, o desenvolvimento, a implantação ou o uso da Inteligência Artificial, bem como os respectivos objetivos e os resultados que se pretende alcançar;
II promover esforços para atuação em modelo comunitário, com vedação a desenvolvimento paralelo quando a iniciativa possuir objetivos e resultados alcançados idênticos a modelo de Inteligência Artificial já existente ou com projeto em andamento;
III depositar o modelo de Inteligência Artificial no Sinapses.
Esse esforço do CNJ em definir um modelo de governança das soluções de IA é um passo fundamental para a continuidade do uso de IA nos tribunais brasileiros. Além de facilitar a administração e evitar o desperdício de tempo e de recursos com retrabalho, o trabalho comunitário fomenta o intercâmbio de informações entre as equipes, o que potencializa sobremaneira o processo de desenvolvimento.
O estudo da FGV mostra que a maior parte dos projetos analisados foi desenvolvida para realizar a gestão de processos, com atuação em tarefas que precedem o julgamento, seja agrupando processos por similaridade de tema, facilitando a pesquisa jurisprudencial ou otimizando a distribuição. Esses sistemas são, portanto, sistemas de apoio à decisão e foram desenvolvidos com intuito de dar mais celeridade aos julgamentos, instrumentalizando o magistrado para a tomada de decisão.
A celeridade está entre as principais motivações dos tribunais para a implementação de sistemas dotados de IA. E os dados apresentados demonstram que, de fato, os sistemas entregam resultados em um tempo extremamente inferior, quando comparado aos humanos57. A título de exemplo, o Victor, sistema do STF que já está em produção, é capaz de realizar em cinco segundos a atividade que um humano experiente realizaria em quarenta e quatro minutos. Ou seja, no mesmo tempo que um servidor do STF analisa um processo, o Victor é capaz de analisar quinhentos e vinte e oito processos. Alem disso, nos testes iniciais, Victor alcançou acurácia superior a 90%58.
Apesar desses sistemas ainda realizarem tarefas extremamente especializadas e nenhum projeto citar a intenção de implementar uma solução com a capacidade efetiva de tomar uma decisão judicial de maneira autônoma, há indícios que esse caminho já começa a ser percorrido. Sobretudo se for cogitada a possibilidade de agregar em apenas um sistema as habilidades individuais de cada uma das soluções de IA já desenvolvidas.
Em um breve exercício reflexivo, analisando os escopos iniciais de alguns projetos identificados no estudo da FGV59 e considerando a possibilidade de comunicação entre eles, se os sistemas fossem interligados da seguinte forma: IA 32- TJ/GO PREVENÇÃO/TRF3 SÓCRATES/ STJ, o sistema resultante seria capaz de: verificar a petição inicial, classificar e agrupar o processo por similaridade, identificar se a ação enquadra-se em um dos casos de improcedência liminar do pedido (art. 332. CPC), verificar se existe algum caso de prevenção relacionado e buscar precedentes sobre o tema do processo.
É verdade que as capacidades do sistema proposto são limitadas e ainda estão distantes de uma solução completa para decidir todas as questões levadas ao Judiciário. Entretanto, ponderando-se que os avanços já obtidos são frutos de apenas dois anos de desenvolvimento individual das soluções, sem dúvida, é viável considerar a concepção de soluções mais robustas no futuro, principalmente por conta do trabalho comunitário das soluções, preconizado pela resolução 332 do CNJ.
5.4. Principais impactos e desafios
A possibilidade de uso de IA nos tribunais brasileiros encontra desafios que antecedem propriamente a implementação dos sistemas dotados de inteligência. Entre esses desafios cita-se a digitalização dos processos físicos, pois a análise de processos judiciais por sistemas inteligentes está condicionada à digitalização dos processos. Para que uma máquina possa analisar e julgar um processo, ele precisa estar em meio digital. Atualmente, segundo o CNJ60, 27% dos processos brasileiros ainda encontram-se em meio físico. Apesar de alguns tribunais já terem alcançado 100% de digitalização dos processos, existem casos de tribunais brasileiros que possuem menos de 30% do acervo em formato digital. Portanto, o primeiro desafio é a total digitalização dos processos judiciais.
O uso da tecnologia, além de buscar a celeridade dos julgamentos, visa remover o erro humano, retirando-o da equação61. Os projetos de IA já implementados no judiciário brasileiro demonstram que essas ferramentas, ainda que atuando em atividades administrativas ou em atividades que precedem a tomada de decisão propriamente dita, já são capazes de tornar o processo de julgamento mais célere.
Entretanto, questões relacionadas a vieses cognitivos e à necessidade constante de adaptação, inclusive com a superação de precedentes, ainda representam enormes desafios para a implementação de soluções com habilidade de tomada autônoma de decisão judicial.
O uso de sistemas eivados de vieses cognitivos humanos, ao invés de resultar no aumento da objetividade e da segurança jurídica, replicaria decisões parciais, confirmando padrões discriminatórios e perpetuando, de forma automatizada, desigualdades sociais62 . Portanto, o desenvolvimento de uma solução de IA que atue com imparcialidade perpassa pela superação do enviesamento da máquina.
O árduo trabalho de desenvolver uma máquina livre de enviesamento está mais associado à qualidade dos dados utilizados durante o aprendizado de máquina que à quantidade desses dados63.
Ainda que a base de dados tenha qualidade, ela é incapaz de trazer todas as possibilidades de conflitos sociais que são levados ao judiciário. Um sistema que precisa de casos paradigmáticos para aprender é ineficaz para julgar demandas inéditas. Mesmo nos casos em que existisse precedentes, o uso da inteligência artificial comprometeria a superação desses precedentes, ocasionando o engessamento da jurisprudência e ferindo direitos fundamentais64.
A implementação de um sistema com capacidade decisória autônoma pelos tribunais brasileiros poderia ainda criar uma situação completamente nova na atualidade: A possibilidade da utilização deste sistema de maneira paralela e extrajudicial, com a terceirização privada do algoritmo decisório65 .
Neste cenário, as demandas poderiam ser examinadas preliminarmente pelo sistema paralelo e privado, com a capacidade de antecipar a decisão judicial. Este processo possibilitaria a adequação da ação judicial aos parâmetros do sistema judicial decisório ou a desistência da ação, antes mesmo de protocolá-la66.
Atores que dispusessem de sistemas paralelos como o citado teriam enorme vantagens em contendas judiciais, pois conseguiriam simular as condições do trâmite judicial em um ambiente completamente controlado. Portanto, a legalidade deste uso precisaria ser avaliada neste novo cenário. Além disso, o desenvolvimento de sistemas em parceria entre as iniciativas pública e privada precisaria ser constantemente discutido pela sociedade.
O sistema recursal e o princípio do duplo grau de jurisdição precisariam ser repensados em um ambiente onde os julgamentos fossem completamente realizados por máquinas. Submeter uma decisão para a reanálise pelo mesmo sistema dificilmente apresentaria resultados distintos. Por outro lado, a utilização de outro sistema com capacidade de reformar a decisão do primeiro colocaria em discussão a tão desejada objetividade do Poder Judiciário.
Apesar da relevância das adversidades já citadas, a garantia da segurança, que inclui a possibilidade de invasão por hackers, apresenta-se como um dos maiores desafios para a implementação de um sistema autônomo de tomada de decisão.
Recentemente, a administração pública brasileira foi alvo de ataques maliciosos, que comprometeram os dados de mais de 220 milhões de pessoas67.
Em novembro de 2020, a rede de telemática do STJ também foi alvo de ataques cibernéticos. Por conta da invasão, as sessões e os prazos processuais daquele tribunal foram suspensos68. O restabelecimento completo dos serviços só ocorreu quinze dias após a invasão.
Em muitos casos, esses ataques a sistemas de informática são descobertos porque os cibercriminosos expõem os dados obtidos de forma ilícita para venda na Dark Web ou se promovem com o ataque. Nessas circunstâncias, os hackers não possuem interesse em esconder o vazamento porque eles precisam publicizá-lo para ganhar dinheiro com a venda. Mas, em um ataque a um sistema decisório, o principal requisito para a manutenção do domínio do sistema é a discrição.
Portanto, os criminosos, caso conseguissem comprometer o sistema decisório do poder judiciário e alterar o seu processo de aprendizagem, seriam capazes de silenciosamente manipular todas as decisões judiciais do país ou apenas as que eles desejassem. Provavelmente, neste caso, o ataque não seria publicizado pelos atacantes, o que atrasaria a descoberta e poderia causar danos irreparáveis.
O amadurecimento dos protocolos de segurança e de gerenciamento de crise é, portanto, desafio essencial para a implementação de sistemas de IA com capacidade decisória no judiciário brasileiro.