Resumo: O presente artigo tem como objetivo fazer uma apresentação sobre os meandros da inteligência artificial - IA, trazendo as definições de conceito de inteligência artificial, além de um visão geral sobre o assunto e suas características, apresentando ainda os desafios filosóficos e regulatórios. Alguns desses desafios são conceituais, como definir inteligência artificial e como atribuir responsabilidade moral e legal quando os sistemas de IA causam danos. O texto aborda também a problemática relacionada aos programas com inteligência artificial (machine learning) e a necessidade de haver uma legislação para regular o uso e aplicação da inteligência artificial no Brasil, abordando ainda os perigos de uma norma ineficaz, e analisa o potencial que a inteligência artificial (IA) tem para impactar o Direito, discutindo como as ferramentas tecnológico-algorítmicas podem contribuir para diminuição da elevada taxa de congestionamento do Poder Judiciário brasileiro.
Palavras-chave: Inteligência artificial. Machine learning. Leis. Algoritmos.
Sumário: Introdução. 1. Aspectos iniciais a respeito da inteligência artificial. 2. O que é inteligência artificial? 3. Questões necessárias para regulamentação da inteligência artificial. 4. Legislação Brasileira a respeito da inteligência artificial. 5. O uso da inteligência artificial no Judiciário Brasileiro. Conclusão. Referências.
Introdução
O presente artigo tem como escopo a demonstrar a necessidade de conceituação da inteligência artificial e sua problemática aplicada ao Direito.
Para desenvolvimento do tema, a presente pesquisa descreve inicialmente uma visão geral acerca da inteligência artificial
Em seguida, o artigo aborda o conceito de inteligência artificial, demonstrando a relevância no âmbito Jurídico.
Posteriormente, o artigo demonstra as principais vantagens observadas a partir da inclusão da inteligência artificial no Judiciário Brasileiro e a problemática relacionada.
Dando continuidade, Através deste artigo serão examinadas as legislações brasileiras existentes a respeito da inteligência artificial e o perigo da regulamentação ineficaz.
Como último tópico, o artigo levanta diversos questionamentos necessários para a regulamentação da inteligência artificial no Brasil.
A metodologia utilizada para desenvolvimento da pesquisa é puramente bibliográfica. O objetivo do artigo é demonstrar a relevância da inteligência artificial na vida das pessoas, bem como sua aplicação voltada ao Direito e a prestação jurisdicional.
Por fim, o tema é relevante em especial pelo cresce uso da tecnologia na vida das pessoas de todo mundo, bem como na aplicação para uma melhor prestação jurisdicional brasileira.
1. Aspectos iniciais a respeito da inteligência artificial.
Pode ser um pouco óbvio que estamos vivendo na era das máquinas inteligentes (machine learning). A inteligência artificial ("IA") está presente em nossas vidas de inúmeras maneiras sutis e não tão sutis, realizando tarefas que, até recentemente, só poderiam ser realizadas por uma pessoa humana com altos conhecimentos.
Carros autônomos trafegam sem a necessidade de um motorista. Outras máquinas autônomas podem executar transações financeiras complexas, sinalizar potenciais terroristas usando software de reconhecimento facial, e ainda realizam revisão de documentos.
Supercomputadores são capazes de derrotar até mesmo os melhores jogadores de xadrez do mundo, como aconteceu com o Deep Blue (IBM, 1996 – 1997) e o campeão mundial de xadrez Garry Gasparov, em 1997. A primeira partida de Xadrez entre eles ocorreu em 1996, ocasião em que o Gasparov superou o Supercomputador. No encontro subsequente, contudo, o Supercomputador Deep Blue já tinha sido reprogramado para aprender a tática do adversário e vencê-lo, o que de fato ocorreu.
Esse acontecimento provocou uma série de questionamentos no meio acadêmico sobre o conceito em si de inteligência, criatividade e pensamento.
Em uma entrevista no Simpósio Centenário Aeroastro do MIT de 2014, Elon Musk evitou o ceticismo da regulação que caracteriza a maioria dos titãs de negócios do Vale do Silício e sugeriu que alguma intervenção do governo poderia ser sábia no caso da inteligência artificial:
“Eu acho que devemos ter muito cuidado com a inteligência artificial. Se eu tivesse que adivinhar qual é a nossa maior ameaça existencial, provavelmente é que... Eu sou cada vez mais inclinado a pensar que deve haver alguma supervisão regulatória, talvez a nível nacional e internacional, apenas para ter certeza de que não fazemos algo muito tolo”.
Atualmente, o supercomputador mais rápido do mundo é o Summit, construído pela IBM que é capaz de realizar 148 quatrilhões de operações matemáticas por segundo.
Outras figuras proeminentes no mundo da tecnologia - mais notavelmente Bill Gates e Steve Wozniak — expressaram preocupações semelhantes em relação os riscos a longo prazo da IA.
Um primeiro exemplo de programas que utilizam inteligência artificial são programas (artificialmente inteligentes) que podem ser usados para fins de reconhecimento facial quando se procura criminosos em locais públicos, por exemplo. Ou como recentemente foi instalado no Aeroporto de Congonhas - SP, chamado de IDEMIA, um sistema de reconhecimento facial que promete agilizar o embarque de passageiros com rápida confirmação de identidade.
Existem programas artificialmente inteligentes que podem ser usados para processar e analisar grandes quantidades de linguagem escrita ou falada. Tais programas são úteis para entender como a linguagem natural funciona.
Há ainda os programas artificialmente inteligentes que podem ser usados para otimizar o preço de produtos ou serviços. Um Sales online, por exemplo, ao determinar o melhor momento na forma de uma transação.
Estes são apenas alguns exemplos, mais existem muitas mais aplicações de IA, que muitas vezes melhoram a nossa qualidade de vida e ajudam a dar sentido ao mundo em que vivemos. Ao mesmo tempo, porém, a aplicação da IA nem sempre é ausente de problemática.
Atualmente, já estamos rodeados de muitas aplicações de IA nos nossos computadores, telefones ou em locais públicos, e em muitos aspetos.
Será que o nosso sistema legal está bem equipado para lidar com estas inovações tal como já ocorreu no passado com outras inovações, como o telefone no passado, e a internet, até algum tempo atrás?
2. O que é inteligência artificial?
Qualquer legislação que busque regular a inteligência artificial deve, primeiramente, definir exatamente o que é IA. Então, o que é inteligência artificial?
Infelizmente esta é uma pergunta bastante complicada, e há muitas formas diferentes de responder, pois ainda não há uma aceitação generalizada da definição de inteligência artificial, mesmo entre peritos na matéria, muito menos entre os legisladores.
Portanto, primeiro necessitamos olhar separadamente para o significado dos termos: inteligência, artificial e programa.
A palavra inteligência, em si, deriva do latim inter , que significa entre, e legere , que significa escolher ou literalmente ler. Assim, poder-se-ia dizer que a palavra inteligente significa literalmente ser capaz de estabelecer distinções entre coisas diferentes para entender ou compreender a si mesmo e o mundo que nos rodeia.
O termo inteligência artificial assume que esta capacidade humana de entender, compreender, separar o importante do sem importância, pode ser replicado construindo programas de computador que são tão bons, ou, às vezes, até melhores do que os humanos na compreensão. Ordenar, compreender um dado estado de coisas.
O dicionário Merriam Webster (Merriam-Webster Dictionary) define inteligência artificial como: “A capacidade de uma máquina para imitar o comportamento humano inteligente”. (“The capability of a machine to imitate intelligent human behavior”).
A dificuldade em definir inteligência artificial não reside no conceito de artificialidade, mas sim na ambiguidade conceitual da inteligência, porque os seres humanos são as únicas entidades que são universalmente reconhecida como possuidora de inteligência, e não surpreende que as definições de inteligência tendam a estar ligadas às características humanas.
O falecido pioneiro da IA, John McCarthy, que é amplamente creditado como sendo o criador do termo "inteligência artificial", declarou que não existe uma "definição sólida de inteligência que não dependa da sua relação com a inteligência humana" porque "ainda não podemos caracterizar em generalizar que tipos de procedimentos computacionais queremos chamar inteligentes".
Portanto, as definições de inteligência variam muito e concentram-se em milhares de características humanas interligadas que são elas próprias difíceis de definir, incluindo a consciência, a autoconsciência, o uso da linguagem, a capacidade de aprender, a capacidade de abstração, a capacidade de adaptação, e a capacidade de raciocinar.
3. Questões necessárias para regulamentação da inteligência artificial.
Entender a inteligência artificial a partir do ponto de vista jurídico é crucial para estarmos à frente dos problemas futuros.
É evidente que a sociedade pode se beneficiar da inteligência artificial de muitas maneiras. Mas o que devemos fazer quando uma máquina autónoma inteligente comete erros que causas a danos a terceiros?
Questões legais começarão a aparecer em torno da inteligência artificial. Quem (ou o que) poderá ser tido como responsável quando um veículo autônomo causa um acidente? Até que ponto os médicos podem delegar a tarefa de diagnosticar condições médicas a sistemas inteligentes de scanner sem se exporem a aumento da responsabilidade por negligência se o sistema comete um erro?
As perguntas a respeito dos danos causados por IA e a responsabilidade decorrente surgirão com cada vez mais frequência, como por exemplo: O quão poderosos são programas inteligentes artificialmente?
Alguns programas só podem executar tarefas muito básicas como adicionar números, e estes programas podem realmente não merecer ser chamados de inteligentes. Mas outros programas podem executar tarefas muito complicadas, como jogar xadrez ou simular tratamentos médicos complexos.
Do ponto de vista jurídico, o primeiro aspeto diz respeito ao fato de haver um risco de que as preferências, os interesses e até os preconceitos prevaleçam nos programas com IA. Aqueles que escrevem programas artificialmente inteligentes refletem-se nos próprios programas. Até certo ponto, isto é inevitável.
As nossas convicções e os nossos interesses colorem sempre o que fazemos. No entanto, esta circunstância é particularmente problemática no contexto da IA, uma vez que as ferramentas de IA podem ser tão poderosas.
Por exemplo, se um policial trata os suspeitos de forma diferente com base na etnia ele está agindo de forma discriminatória, mas e se a polícia utilizasse um software artificialmente inteligente que identificasse suspeitos de forma diferente com base na etnia? Do ponto de vista jurídico, isto significa que é importante estar consciente do potencial discriminatório das aplicações de inteligência artificial.
A inteligência artificial não é necessariamente mais ou menos tendenciosa do que os seus criadores. Mas devido ao fato de os programas de IA poderem ser facilmente aplicados numa escala muito maior, a IA amplifica os preconceitos dos seus criadores.
Um segundo aspeto diz respeito à dificuldade de supervisionar os programas de inteligência artificial e quem poderia ser responsabilizado.
Quando um ser humano comete um erro, é fácil dizer que o ser humano deve ser responsabilizado por esse erro. Quando uma máquina comete um erro, por exemplo, quando um carro quebra, pode-se frequentemente argumentar que a pessoa ou a Empresa que construiu a máquina deve ser responsabilizada.
No entanto, com programas de IA mais avançados, isso não é tão fácil. E isto porque nem sempre é possível prever como um programa artificialmente inteligente funciona em detalhe. E também nem sempre é possível explicar o alcance, e como e por quê um programa artificialmente inteligente chegou àquela conclusão.
Em suma, a aprendizagem de máquinas (machine learning) significa que o sistema aprende e se adapta ao seu ambiente de aplicação, que é dinâmico e muda ao longo do tempo. É muito difícil para o programador prever ou controlar como o sistema se desenvolve e como irá se comportar, pois depende do ambiente com o qual a machine learning interage e do que aprende com o ambiente.
Isto levanta a questão, naturalmente, se é razoável responsabilizar o programador ou talvez o utilizador por danos causados por uma máquina dotada de inteligência artificial em situações em que eles tomaram todos os cuidados possíveis, mas alguma coisa saiu errada de alguma maneira, e acabou causando danos a um terceiro.
Há que se pensar, também, na possibilidade do programa dotado de IA sobrevida além de seu programador. E se o dano acontecer quando o programador já houver falecido? Responderão seus herdeiros? A atribuição de responsabilidade legal por danos decorrentes de máquinas dotadas de inteligência artificial certamente é um importante ponto a se discutir na regulação da IA.
Portanto, é por isso que, do ponto de vista jurídico, é preciso pensar muito cuidadosamente na forma como o funcionamento do programa de inteligência artificial é supervisionado e quem deve ser responsável quando as coisas não correm como planejado.
Outra pergunta que deve ser feita é "por que" e “para que” um programa artificialmente inteligente deve ser utilizado?
A inteligência artificial pode ser usada para controlar as pessoas, por exemplo, ao rastrear como os humanos se comportam, e também pode ser usada para melhorar a vida de pessoas com deficiências, aumentando a sua mobilidade, por exemplo, no caso de uma deficiência física.
Questionar por qual motivo usamos IA é uma questão política e filosófica, mas também é uma questão legal, uma vez que deve-se determinar se os programas de inteligência artificial devem ser tratados como qualquer outra invenção, ou se devem ser tratados de uma forma muito mais cautelosa para refletir as altas apostas que estão envolvidas na utilização da IA.
Na lei, a possibilidade de responsabilizar alguém por causar danos tem várias funções. Responsabilizar alguém é muitas vezes uma condição necessária para ressarcimento do dano através de uma indenização.
Mas a atribuição de responsabilidade é importante não só para lidar com danos já ocorridos e obter um ressarcimento, como também tem uma potencial função preventiva, dissuadindo as pessoas de se absterem de causar danos pelos quais podem ser responsabilizadas.
A atribuição de responsabilidade legal é justificada por ideias de livre arbítrio e controlo humano. A introdução de máquinas inteligentes que atuam de forma autónoma cria desafios para o sistema legal.
Mas o sistema legais contém vários instrumentos de compensação e prevenção de danos, e não apenas de responsabilidade.
A lei poderia exigir, por exemplo, que os programadores adotem medidas de precaução para evitar que potenciais riscos se materializem, bem como determinar que os programadores façam a aquisição de seguros contra danos a terceiros, quando não houver outra forma de atribuir responsabilidade.
Dessa forma, o surgimento de máquinas autónomas inteligentes e os desafios legais que elas criam não torna, necessariamente, a regulamentação jurídica menos relevante, muito pelo contrário, é de extrema necessidade a criação de leis neste sentido.
4. Legislação Brasileira a respeito da inteligência artificial.
A criação de leis para proteção de dados, a proteção e combate aos cibercrimes e tipificação de condutas ilícitas a partir do uso da internet e programas dotados de inteligência artificial têm se tornado prioridade estratégica para vários países.
Ter uma legislação neste sentido significa que os Governos, entidades públicas e privadas poderão apoiar suas decisões em áreas como saúde, segurança pública, educação e prestação de serviço de forma mais assertiva.
As leis devem garantir segurança e ética na aplicação das tecnologias com base em princípios constitucionais de igualdade e não discriminação, garantindo os direitos humanos fundamentas, sem restringir a autonomia humana, além de fomentar uma sociedade equitativa e inclusiva digitalmente.
O Brasil já possui uma legislação voltada para regular os avanços tecnológicos havidos nas últimas décadas, o que nos coloca em uma perspectiva semelhante ao que vem sendo realizado em escala mundial.
Podemos citar o Marco civil da internet, a Lei de acesso à informação, a Lei 12.737/2012, apelidada de Lei Carolina Dieckmann, e a Lei Geral de Proteção de Dados, que entrou em vigor em 2020. Entretanto, ainda não há nenhuma legislação a respeito do uso da inteligência artificial.
Inicialmente, tramita na Câmara dos Deputados um projeto de Lei de Lei 21/20 que visa criar o marco legal do desenvolvimento e uso da inteligência artificial (IA) pelo poder público, por empresas, entidades diversas e pessoas físicas.
O texto estabelece princípios, direitos, deveres e instrumentos de governança para a IA. Segundo o projeto de Lei, o texto determina que a inteligência artificial deverá respeitar os direitos humanos e os valores democráticos a igualdade, a não discriminação, a pluralidade, a livre iniciativa e a privacidade de dados. Além disso, o texto define que a IA terá como princípio a garantia de transparência sobre o seu uso e funcionamento.
O texto prevê ainda a figura do Agente de IA, que pode ser tanto a pessoa que desenvolve e implanta um sistema (agente de desenvolvimento), como aquele que opera (agente de operação).
Os agentes de IA terão uma série de deveres, como responder, legalmente, pelas decisões tomadas por um sistema de inteligência artificial e assegurar que os dados utilizados respeitam a Lei Geral de Proteção de Dados (LGPD). A norma regula o tratamento de dados pessoais de clientes e usuários de empresas do setor público e privado.
A proposta também prevê os direitos dos agentes de IA e de todas as pessoas afetadas pelos sistemas de inteligência artificial, chamadas no projeto de “partes interessadas”. Entre eles, o acesso à forma de uso, pelos sistemas, de dados pessoais sensíveis, como dados genéticos.
Ante a dificuldade de conceituar a inteligência artificial, surge a dúvida de como atribuir responsabilidade moral e legal quando os sistemas de IA causam danos a terceiros, como o exemplo citado no início deste artigo, no qual um carro não tripulado causa um acidente. Quem seria o responsável, o desenvolvedor da IA utilizada no veículo ou sua montadora?
Fica clara, assim, a necessidade de normatização a respeito da inteligência artificial no Brasil. Enquanto governos de diversos países se apressam para definir regulamentações para a inteligência artificial (IA), nações em desenvolvimento como o Brasil correm sérios riscos se não fizerem o mesmo.
E mesmo que se regulamente a inteligência artificial, mas se faça de uma forma mais flexível, menos rigorosa, haverá um cenário propício de perigos para a população, pois empresas que não forem obrigadas a seguir as normas estabelecidas para o uso e aplicação da IA terão mais lucro, mas provavelmente também causarão mais danos à sociedade.
A inteligência artificial é uma tecnologia capacitadora que terá impacto direto ou indireto em todas as áreas da sociedade. Isto significa que muitos, se não todos, os campos do direito terão de considerar novas realidades.
