A Resolução nº 332 de 21/08/2020 do Conselho Nacional de Justiça (CNJ)[1] estabeleceu normas sobre ética, transparência e governança no emprego de recursos associados à Inteligência Artificial no âmbito do Poder Judiciário.[2]
A despeito das orientações contidas na Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seus ambientes, a medida representa um importante avanço, considerando que no Brasil ainda não há normas específicas sobre a aplicação da Inteligência Artificial nos procedimentos e processos submetidos à gestão do Poder Judiciário.[3]
Em linhas gerais, a aplicação de recursos tecnológicos associados à Inteligência Artificial sempre deverá se destinar a promoção da dignidade da pessoa humana, da liberdade, da igualdade e do acesso à justiça.
Ao reconhecer a importância da criação de regras mais precisas acerca dessas novas tecnologias, o Conselho Nacional de Justiça atenta-se para as inestimáveis contribuições que a inteligência artificial, adequadamente aplicada aos procedimentos do Poder Judiciário, poderá conferir aos processos de tomada de decisão, não apenas com relação à agilidade, mas principalmente no que diz respeito à coerência das decisões judiciais.
Malgrado a inegável importância das medidas, o Conselho Nacional ressalta que a implantação de procedimentos assentados no uso da Inteligência Artificial não poderá deixar de levar em conta necessidade da preservação dos direitos e valores essenciais assegurados na Constituição Federal.
No mesmo sentido, a criação de mecanismos que permitam o emprego da inteligência artificial nos processos de tomada de decisão deve ser orientada por rígidos princípios éticos, além de ser fundada, entre outras premissas, na transparência, previsibilidade e possibilidade de auditoria.[4]
Não só isso.
Ponderou-se também que as decisões judiciais apoiadas pela Inteligência Artificial devem, necessariamente, garantir tratamento isonômico aos interessados, não promover discriminações ilegítimas, favorecer a pluralidade, a solidariedade, além de consistir num julgamento substancialmente justo[5].
Em todo caso uso da Inteligência Artificial, exceto quando houver autorização legal em sentido diverso, deve implicar respeito à privacidade dos usuários, garantindo-lhes direito de ciência e controle sobre o uso de seus dados pessoais[6].
Na introdução da Resolução, antes de estabelecer as normas específicas sobre o tema, o Conselho Nacional de Justiça ainda fez as seguintes observações: i) os dados utilizados no processo de aprendizado de máquina deverão ser colhidos em fontes seguras, preferencialmente governamentais, passíveis de rastreamento e auditoria; ii) no seu processo de tratamento, os dados utilizados devem ser eficazmente protegidos contra riscos de destruição, modificação, extravio, acessos e transmissões não autorizadas.
Vejamos algumas regras específicas da Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ).
Com relação aos propósitos e objetivos da utilização da Inteligência Artificial no contexto do Poder Judiciário, os artigos 1º e 2º da Resolução CNJ nº 332/2020 estabelecem o seguinte:
Art. 1º O conhecimento associado à Inteligência Artificial e a sua implementação estarão à disposição da Justiça, no sentido de promover e aprofundar maior compreensão entre a lei e o agir humano, entre a liberdade e as instituições judiciais.
Art. 2º A Inteligência Artificial, no âmbito do Poder Judiciário, visa promover o bem-estar dos jurisdicionados e a prestação equitativa da jurisdição, bem como descobrir métodos e práticas que possibilitem a consecução desses objetivos.
As definições de alguns conceitos essenciais para melhor compreensão do tema, como algoritmo e sinapse, constam do art. 3º da Resolução CNJ nº 332/2020. Nesse sentido, considera-se:
Algoritmo: sequência finita de instruções executadas por um programa de computador, com o objetivo de processar informações para um fim específico;
Modelo de Inteligência Artificial: conjunto de dados e algoritmos computacionais, concebidos a partir de modelos matemáticos, cujo objetivo é oferecer resultados inteligentes, associados ou comparáveis a determinados aspectos do pensamento, do saber ou da atividade humana;
Sinapses: solução computacional, mantida pelo Conselho Nacional de Justiça, com o objetivo de armazenar, testar, treinar, distribuir e auditar modelos de Inteligência Artificial;
Usuário: pessoa que utiliza o sistema inteligente e que tem direito ao seu controle, conforme sua posição endógena ou exógena ao Poder Judiciário, pode ser um usuário interno ou um usuário externo;
Usuário interno: membro, servidor ou colaborador do Poder Judiciário que desenvolva ou utilize o sistema inteligente;
Usuário externo: pessoa que, mesmo sem ser membro, servidor ou colaborador do Poder Judiciário, utiliza ou mantém qualquer espécie de contato com o sistema inteligente, notadamente jurisdicionados, advogados, defensores públicos, procuradores, membros do Ministério Público, peritos, assistentes técnicos, entre outros.
De outro lado, as regras que asseguram o respeito aos Direitos Fundamentais, mesmo nas hipóteses de ações desencadeadas por máquinas no contexto da Inteligência Artificial, estão contidas nos artigos 4º a 6º da Resolução CNJ nº 332/2020:
Art. 4º No desenvolvimento, na implantação e no uso da Inteligência Artificial, os tribunais observarão sua compatibilidade com os Direitos Fundamentais, especialmente aqueles previstos na Constituição ou em tratados de que a República Federativa do Brasil seja parte.
Art. 5º A utilização de modelos de Inteligência Artificial deve buscar garantir a segurança jurídica e colaborar para que o Poder Judiciário respeite a igualdade de tratamento aos casos absolutamente iguais.
Art. 6º Quando o desenvolvimento e treinamento de modelos de Inteligência exigir a utilização de dados, as amostras devem ser representativas e observar as cautelas necessárias quanto aos dados pessoais sensíveis e ao segredo de justiça. Parágrafo único. Para fins desta Resolução, são dados pessoais sensíveis aqueles assim considerados pela Lei nº13.709/2018, e seus atos regulamentares.
Sobre a segurança, os artigos 13 e seguintes da Resolução CNJ nº 332/2020 preconizam o seguinte:
Art. 13. Os dados utilizados no processo de treinamento de modelos de Inteligência Artificial deverão ser provenientes de fontes seguras, preferencialmente governamentais.
Art. 14. O sistema deverá impedir que os dados recebidos sejam alterados antes de sua utilização nos treinamentos dos modelos, bem como seja mantida sua cópia (dataset) para cada versão de modelo desenvolvida.
Art. 15. Os dados utilizados no processo devem ser eficazmente protegidos contra os riscos de destruição, modificação, extravio ou acessos e transmissões não autorizados.
Art. 16. O armazenamento e a execução dos modelos de Inteligência Artificial deverão ocorrer em ambientes aderentes a padrões consolidados de segurança da informação.
Ainda a respeito da pesquisa, do desenvolvimento e da implantação de serviços de inteligência artificial, vale mencionar a o teor do art. 20 da Resolução CNJ nº 332/2020:
Art. 20. A composição de equipes para pesquisa, desenvolvimento e implantação das soluções computacionais que se utilizem de Inteligência Artificial será orientada pela busca da diversidade em seu mais amplo espectro, incluindo gênero, raça, etnia, cor, orientação sexual, pessoas com deficiência, geração e demais características individuais.
§ 1º A participação representativa deverá existir em todas as etapas do processo, tais como planejamento, coleta e processamento de dados, construção, verificação, validação e implementação dos modelos, tanto nas áreas técnicas como negociais.
§ 2º A diversidade na participação prevista no caput deste artigo apenas será dispensada mediante decisão fundamentada, dentre outros motivos, pela ausência de profissionais no quadro de pessoal dos tribunais.
§ 3º As vagas destinadas à capacitação na área de Inteligência Artificial serão, sempre que possível, distribuídas com observância à diversidade.
§ 4º A formação das equipes mencionadas no caput deverá considerar seu caráter interdisciplinar, incluindo profissionais de Tecnologia da Informação e de outras áreas cujo conhecimento científico possa contribuir para pesquisa, desenvolvimento ou implantação do sistema inteligente.
No que toca à prestação de conta e responsabilização por eventuais danos decorrentes da aplicação desses recursos, é importante realçar o art. 25 da Resolução CNJ nº 332/2020, cujo teor é o seguinte:
Art. 25. Qualquer solução computacional do Poder Judiciário que utilizar modelos de Inteligência Artificial deverá assegurar total transparência na prestação de contas, com o fim de garantir o impacto positivo para os usuários finais e para a sociedade.[7]
Finalmente, o art. 28 da Resolução CNJ nº 332/2020 autoriza que o Poder Judiciário estabeleça ajustes de cooperação técnica com outras instituições para o desenvolvimento colaborativo de modelos de Inteligência Artificial. O teor do mencionado artigo é o seguinte:
Art. 28. Os órgãos do Poder Judiciário poderão realizar cooperação técnica com outras instituições, públicas ou privadas, ou sociedade civil, para o desenvolvimento colaborativo de modelos de Inteligência Artificial, observadas as disposições contidas nesta Resolução, bem como a proteção dos dados que venham a ser utilizados.
São essas algumas das principais regras contidas na Resolução CNJ nº 332/2020 acerca do emprego da inteligência artigicial no âmbito do Poder Judiciário.
Para concluir convém ressaltar que as medidas estabelecidas na Resolução CNJ nº 332/2020 demonstram a importância do papel desempenhado pelo Conselho Nacional de Justiça (CNJ) na efetivação dos Direitos Humanos e na promoção do aprimoramento do sistema de justiça brasileiro.
[1] As normas contidas nesta Resolução estão alinhadas com a Estratégia Nacional do Poder Judiciário para o período compreendido entre os anos 2021 a 2026, apontada na Resolução CNJ nº 325/2020.
[2] Este é o décimo oitavo de uma série de outros textos que tratam das orientações normativas do Conselho Nacional de Justiça.
[3] De acordo com o art. 29 da Resolução CNJ nº 332/2020: As normas previstas nesta Resolução não excluem a aplicação de outras integrantes do ordenamento jurídico pátrio, inclusive por incorporação de tratado ou convenção internacional de que a República Federativa do Brasil seja parte.
[4] O art. 8º da Resolução CNJ nº 332/2020 estabelece o seguinte: Art. 8º Para os efeitos da presente Resolução, transparência consiste em: I – divulgação responsável, considerando a sensibilidade própria dos dados judiciais; II – indicação dos objetivos e resultados pretendidos pelo uso do modelo de Inteligência Artificial; III – documentação dos riscos identificados e indicação dos instrumentos de segurança da informação e controle para seu enfrentamento; IV – possibilidade de identificação do motivo em caso de dano causado pela ferramenta de Inteligência Artificial; V – apresentação dos mecanismos de auditoria e certificação de boas práticas; VI – fornecimento de explicação satisfatória e passível de auditoria por autoridade humana quanto a qualquer proposta de decisão apresentada pelo modelo de Inteligência Artificial, especialmente quando essa for de natureza judicial.
[5] Nesse sentido o art. 7 º da Resolução CNJ nº 332/2020 prevê: Art. 7º As decisões judiciais apoiadas em ferramentas de Inteligência Artificial devem preservar a igualdade, a não discriminação, a pluralidade e a solidariedade, auxiliando no julgamento justo, com criação de condições que visem eliminar ou minimizar a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos. § 1º Antes de ser colocado em produção, o modelo de Inteligência Artificial deverá ser homologado de forma a identificar se preconceitos ou generalizações influenciaram seu desenvolvimento, acarretando tendências discriminatórias no seu funcionamento. § 2º Verificado viés discriminatório de qualquer natureza ou incompatibilidade do modelo de Inteligência Artificial com os princípios previstos nesta Resolução, deverão ser adotadas medidas corretivas. § 3º A impossibilidade de eliminação do viés discriminatório do modelo de Inteligência Artificial implicará na descontinuidade de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão.
[6] Acerca do controle do usuário, merecem destaque previsões dos artigos 17 a 19 Resolução CNJ nº 332/2020. O art. 17 prevê o seguinte: O sistema inteligente deverá assegurar a autonomia dos usuários internos, com uso de modelos que: I – proporcione incremento, e não restrição; II – possibilite a revisão da proposta de decisão e dos dados utilizados para sua elaboração, sem que haja qualquer espécie de vinculação à solução apresentada pela Inteligência Artificial. Já o art. 18 estipula: Os usuários externos devem ser informados, em linguagem clara e precisa, quanto à utilização de sistema inteligente nos serviços que lhes forem prestados. Parágrafo único. A informação prevista no caput deve destacar o caráter não vinculante da proposta de solução apresentada pela Inteligência Artificial, a qual sempre é submetida à análise da autoridade competente. Finalmente, de acordo com o art. 19: Os sistemas computacionais que utilizem modelos de Inteligência Artificial como ferramenta auxiliar para a elaboração de decisão judicial observarão, como critério preponderante para definir a técnica utilizada, a explicação dos passos que conduziram ao resultado. Parágrafo único. Os sistemas computacionais com atuação indicada no caput deste artigo deverão permitir a supervisão do magistrado competente
[7] Parágrafo único. A prestação de contas compreenderá: I – os nomes dos responsáveis pela execução das ações e pela prestação de contas; II – os custos envolvidos na pesquisa, desenvolvimento, implantação, comunicação e treinamento; III – a existência de ações de colaboração e cooperação entre os agentes do setor público ou desses com a iniciativa privada ou a sociedade civil; IV – os resultados pretendidos e os que foram efetivamente alcançados; V – a demonstração de efetiva publicidade quanto à natureza do serviço oferecido, técnicas utilizadas, desempenho do sistema e riscos de erros.
