Resumo: Trata-se dos aspectos contemporâneos sobre a responsabilidade civil da inteligência artificial nas relações de consumo, conceituando-se inteligência artificial e sua relação com o Direito, a sua influência na vida do consumidor, a responsabilidade civil quanto aos danos provocados pela máquina, o impacto na vida do desenvolvedor, e a personificação da inteligência artificial, porquanto é um assunto em pauta em todo o mundo, atualmente, com última repercussão significativa registrada na Europa, onde o parlamento europeu discutiu sobre a possibilidade de atribuir à inteligência artificial o que chamam de “personalidade eletrônica”. Para tanto, foi utilizado o estudo bibliográfico e documental, por meio do método dedutivo.
Palavras-chave: Ferramentas autônomas, inteligência artificial, responsabilidade da máquina.
Sumário: 1 Introdução; 2 A Inteligência Artificial e sua Relação Com o Direito; 2.1 Inteligência Artificial; 2.2 A Relação da Inteligência Artificial com o Direito; 3 A Influência da Inteligência Artificial na Vida do Consumidor; 4 A Responsabilidade Civil da Inteligência Artificial nas Relações de Consumo; 5 O Impacto da Inteligência Artificial na Vida do Desenvolvedor, Seja ele Empregado, Empresário ou Empresa, sob a Égide Jurídica; 6 Conclusão; Referência.
1. INTRODUÇÃO
A evolução tecnológica segue em ritmo acelerado, e o Direito não está conseguindo acompanhar, a não ser por jurisprudências, quando o Poder Judiciário, sem outra alternativa, é obrigado a “legislar”, indiretamente, razão pela qual se espera que esse movimento 4.0, protagonizado pelos novos juristas, e jovens acadêmicos, seja suficiente para, ao menos, fazer com que, desta vez, o Direito se antecipe aos prováveis prejuízos que o desenvolvimento da inteligência artificial poderá causar, porquanto é algo que impactará diretamente a vida das pessoas nas relações de consumo, como se verá a seguir, e, por muitas vezes, provocará danos irreversíveis.
Atualmente, a inteligência artificial é utilizada em diversos produtos, bem como para prestar serviços diretamente ao consumidor, sem intermediação de um ser humano, por meio de chatbots e organizador de agendas e reuniões, como a tecnologia do Google Duplex, por exemplo, que é uma extensão do aplicativo Google Assistente. Então, tudo isso despertou o interesse de muitos estudiosos contemporâneos, de todas as áreas do conhecimento, mas, sobretudo, da área jurídica, visto que um novo personagem passou a fazer parte das relações de consumo, a máquina (hardware ou software) detentora de inteligência artificial. Dessa forma, prestando serviço diretamente, ou por estar presente no mesmo ambiente que o consumidor, como é o caso de produtos, como a Alexa, da Amazon, a máquina dotada de inteligência artificial, por meio de decisões autônomas, é capaz de se comportar de maneiras não previstas pelo seu criador, gerando prejuízos em níveis de gravidade inimagináveis.
Nesse sentido, qual deve ser a responsabilidade civil da inteligência artificial? Qual é a relação existente entre a inteligência artificial e o Direito? Como esse tipo de máquina influencia na vida do consumidor? Isso quer dizer que a inteligência artificial tem, ou deve ter, personalidade jurídica própria? Qual é o impacto negativo que a inteligência artificial pode trazer para a vida do desenvolvedor, seja ele empregado, empresário ou empresa, sob a égide jurídica? A intenção do presente trabalho é responder todas essas questões, analisando se um sistema dotado de capacidade autônoma pode, ou deve, ser responsabilizado pelos seus próprios atos nas relações de consumo, e delineando a forma como o Estado deve prover segurança jurídica, sopesando a hipossuficiência do consumidor e o dolo ou culpa do desenvolvedor, seja ele empregado, empresário ou empresa. Para tanto, foi utilizado o estudo bibliográfico e documental, por meio do método dedutivo.
2. A INTELIGÊNCIA ARTIFICIAL E SUA RELAÇÃO COM O DIREITO
2.1 INTELIGÊNCIA ARTIFICIAL
A Inteligência Artificial, em sua essência, foi introduzida na sociedade no ano de 1950, pelo matemático britânico Alan Turing, por meio de uma publicação em um jornal da época, de sua autoria, que possuía a seguinte chamada:
1. O Jogo da Imitação
Proponho considerar a questão: “As máquinas podem pensar?”
(TURING, A.M., 1950, traduzido)2
Contudo, a expressão “Inteligência Artificial” somente foi utilizada, pela primeira vez, em 1955, por meio da conferência: A Proposal For The Dartmouth Summer Research Projection on Artificial Intelligence (J. McCarthy, et al, 1955) 3.
A inteligência artificial é uma característica atribuída às máquinas (hardware ou software)4 que possuem autonomia para executar tarefas, sem intervenção humana. Existem, basicamente, três tipos de aprendizado de máquina5:
Supervisionado: um banco de dados com imagens que possuem descrição, por exemplo (a máquina associa o texto da descrição com a imagem – Machine Learning);
Não supervisionado: um banco de dados com imagens sem descrição, por exemplo (a máquina enxerga a imagem, mas precisa categorizar algo que não conhece, sem orientação – Machine Learning);
Baseado em reforço: é a máquina que aprende por meio de tentativa e erro – Deep Learning.
Hodiernamente, o que mais se observa nas relações de consumo é o uso da inteligência artificial baseada em aprendizado supervisionado, visto que é o modelo mais adequado para implementar em uma relação tão sensível.
Nota-se esse tipo de implementação em várias plataformas digitais, como a de streaming, Netflix, que usa a inteligência artificial para categorizar os filmes e séries de acordo com o interesse do consumidor, assim como nas redes sociais, Instagram, Facebook, Youtube, no Spotify, quando se recomenda uma música, entre outras, que oferecem conteúdo que estejam de acordo com os desejos do consumidor.
Por outro lado, o modelo de aprendizado em ascensão, que tornará a inteligência artificial mais sofisticada e passível de maior regulamentação, esta que deve ser pensada a partir de agora, é o baseado em reforço, pois se trata do deep learning, técnica que se espelha na forma de aprendizado do ser humano, simulando, no robô, ou ferramenta inteligente, um tipo de raciocínio constituído por neurônios artificiais.6
2.2 A RELAÇÃO DA INTELIGÊNCIA ARTIFICIAL COM O DIREITO
A pesquisadora Joy Buolamwini, uma cientista da computação do Instituto de Pesquisa Media Lab, localizado nos Estados Unidos da América (EUA), em um documentário exibido na rede Netflix7, mostrou uma descoberta que a deixara irresignada. Em seu estudo, realizou diversos testes com softwares de reconhecimento facial, baseados em inteligência artificial, e notou que vários apresentaram erros, pois não reconheciam sua face. Mas, ao persistir em seus testes, colocou uma máscara, na cor branca, e o software reconheceu seu rosto. Com isso, atribuiu a falha a um comportamento racista da máquina, já que sua pele é preta, e não fora reconhecida por esse detalhe, exclusivamente.
Somando a isso, um caso chocou todas as pessoas do mundo, em 2015, quando uma das empresas protagonistas na área tecnológica, a Amazon.com, anunciou, publicamente, que tinha sob seu domínio uma tecnologia baseada em inteligência artificial realizando recrutamento, que avaliava 100 (cem) currículos e escolhia os 5 (cinco) melhores para conceder a(s) vaga(s). A máquina identificou que a maioria dos candidatos à vaga de desenvolvedor de software eram homens, assim, obviamente, eram os mais escolhidos, simplesmente por estarem em maioria. A ferramenta de recrutamento inteligente, então, entendeu, equivocadamente, que homens eram preferíveis, e não compreendeu que eles eram mais escolhidos por serem maioria no banco de currículos, porquanto não havia tantas mulheres interessadas nessa área. Dessa forma, por um entendimento superficial, a máquina passou a considerar o gênero feminino como questão prejudicial, penalizando todos os currículos que continham o termo “mulher”.8
No primeiro caso, a inteligência artificial foi treinada com imagens predefinidas, de pessoas com pele branca, o que acarretou o comportamento discriminatório da máquina. De outro modo, no segundo caso, a inteligência artificial não recebeu currículos selecionados, e sim um acervo geral, pelo que foi exposto, e esse banco de dados, coincidentemente, concentrava uma maior quantidade de documentos de candidatos do gênero masculino, reflexo da própria sociedade, já que, à época, as mulheres não eram predominantes na área tecnológica, o que permanece até hoje, segundo uma pesquisa da empresa Anitab.org, que registrou, em 2020, uma representatividade de 28,8% por parte das mulheres em empresas ou áreas de tecnologia, apenas9.
Assim, conforme aduz a Dra. e escritora Patrícia Peck Pinheiro, em sua obra “Direito Digital”, com sua primeira versão lançada em 2002: “Toda mudança tecnológica é uma mudança social, comportamental, portanto, jurídica”.10
Diante disso, torna-se nítida a necessidade de comunicação entre essa nova tecnologia e o direito, visto que ainda não está em seu auge, o que denota que há muita coisa, ainda, para acontecer, motivo pelo qual deve haver regulamentação, de maneira responsável, a fim de atenuar os impactos que serão causados de agora em diante, no que tange, sobretudo, ao âmbito consumerista, onde mais se utiliza a inteligência artificial, atualmente.
3. A INFLUÊNCIA DA INTELIGÊNCIA ARTIFICIAL NA VIDA DO CONSUMIDOR
A inteligência artificial está sendo utilizada, principalmente, para angariar clientes e fomentar as relações de consumo, contudo, para isso, as formas de uso dessa tecnologia estão limitando a capacidade de desenvolvimento das pessoas, e prejudicando diversos outros aspectos da vida de cada um.
Existe uma dinâmica no meio tecnológico, muito usado por profissionais de marketing, chamado de content loop11, em que se oferece um conteúdo ao usuário (consumidor), o qual clica, consome, e, após isso, recebe novas recomendações de teores semelhantes ao último conteúdo consumido, um ciclo que se repete eternamente, visto que fica vinculado aos dados de registro do consumidor (no caso de uma rede social), ou ao aparelho, computador ou celular, por meio de identificadores próprios, como o Protocolo de Internet (IP).
Na empresa de streaming Netflix, já mencionada, no Youtube, no Facebook, no Instagram, e no Spotify, por exemplo, esse recurso é utilizado com maestria, tendo em vista que, após consumir o conteúdo, essas plataformas entregam vários outros conteúdos semelhantes ao anterior, repetidas vezes, o que é bom, por um ponto de vista, já que se recebe somente aquilo que interessa, mas, por outro lado, é muito ruim, já que as plataformas estão modelando a personalidade de quem consome, de forma que impossibilita o desenvolvimento pessoal, aprisionando o consumidor no content loop.
Outrossim, esse ciclo sem fim, além de moldar a personalidade de quem consome, também faz com que se crie e sustente, para sempre, um viés ideológico por meio da confirmação12, quando se passa a ler informações e conteúdo que se gosta, somente. Ademais, fortalece o viés de dissonância cognitiva13, que é quando se decide não ler ou consumir conteúdo do qual discorda, pois causa desconforto ao consumidor, sustentando, ainda mais, as suas próprias crenças, sem possibilidade de ceder para qualquer outro tipo de ideia a qual seja apresentado(a).
Ideia essa retratada, também, por Danilo Doneda, o qual aduz: “As decisões automatizadas, baseadas em um método estatístico para análise de grande volume de dados e informações, podem ter grande impacto sobre os direitos individuais, especialmente no que se refere à autonomia, igualdade e personalidade”.14
As palavras de Doneda apenas alertam que o conteúdo gerido por uma inteligência artificial afeta, além dos direitos de personalidade do consumidor, o direito de livre escolha, amparado pelo Princípio da Liberdade de Escolha. 15
A ideia de ter uma ferramenta revolucionária, que vende os produtos para a empresa, assim como faria um ser humano, ou até melhor, utilizando-se das técnicas mais sofisticadas de persuasão, de forma automatizada e sem a necessidade de intervenção humana, agrada os ouvidos de qualquer visionário ambicioso, que, certamente, não medirá esforços para colocar isso para funcionar o quanto antes. Contudo, não se vê, a tempo, as consequências negativas que isso trará, razão pela qual a introdução da máquina baseada em inteligência artificial deve ser bem dosada, de maneira que permita a evolução da tecnologia, sem que cause sérios danos à sociedade, de modo que, também, permita ser acompanhada pelo Direito, que, com o movimento 4.0, agirá mais rápido para tornar o ambiente mais favorável à inserção dessa nova tecnologia.
4. A RESPONSABILIDADE CIVIL DA INTELIGÊNCIA ARTIFICIAL NAS RELAÇÕES DE CONSUMO
Sabe-se que a responsabilidade civil é o ônus de reparar, atribuído a quem comete algum dano a outrem, por qualquer ação ou omissão voluntária, negligência ou imprudência, conforme preleciona o artigo 186 cumulado com o artigo 927 do Código Civil de 2002 (CC/02)16, os quais dispõem:
Art. 186. Aquele que, por ação ou omissão voluntária, negligência ou imprudência, violar direito e causar dano a outrem, ainda que exclusivamente moral, comete ato ilícito.
Art. 927. Aquele que, por ato ilícito (arts. 186 e 187), causar dano a outrem, fica obrigado a repará-lo.
(Lei nº 10.406 de 2002 - grifado) 17
Essa responsabilidade de reparar danos sempre será conferida àquele que é considerado um sujeito que adquire direitos e contrai deveres, que possui uma personalidade jurídica predefinida. Esse conceito geral surgiu quando o CC/02 estabeleceu, em seus artigos 1º e 2º, que toda pessoa é capaz de direito e deveres, e a personalidade civil, também chamada de personalidade jurídica, de qualquer pessoa, começa a partir do seu nascimento com vida.
Art. 1º Toda pessoa é capaz de direitos e deveres na ordem civil.
Art. 2º A personalidade civil da pessoa começa do nascimento com vida; mas a lei põe a salvo, desde a concepção, os direitos do nascituro.
(Lei 10.406 de 2002 - grifado)
Após conhecer esses conceitos, surge o questionamento sobre a possibilidade de uma máquina dotada de inteligência artificial ser apta a adquirir direitos e contrair obrigações, já que se entende que todos os seus atos são voluntários, pois o seu criador, por muitas vezes, estabelece um comando que pode ser desvirtuado pela própria máquina, em sua condição autônoma.
Outrossim, nas relações de consumo, no Brasil, a responsabilidade civil é objetiva, excluindo-se a obrigação de reparar o dano apenas nos casos elencados nos artigos 12 e 14 do Código de Defesa do Consumidor (CDC)18, os quais estabelecem que:
Art. 12. O fabricante, o produtor, o construtor, nacional ou estrangeiro, e o importador respondem, independentemente da existência de culpa, pela reparação dos danos causados aos consumidores por defeitos decorrentes de projeto, fabricação, construção, montagem, fórmulas, manipulação, apresentação ou acondicionamento de seus produtos, bem como por informações insuficientes ou inadequadas sobre sua utilização e riscos.
Art. 14. O fornecedor de serviços responde, independentemente da existência de culpa, pela reparação dos danos causados aos consumidores por defeitos relativos à prestação dos serviços, bem como por informações insuficientes ou inadequadas sobre sua fruição e riscos.
(grifado)19
Contudo, quando se tratar de uma máquina, robô, ou ferramenta inteligente, nos casos em que não houve erro de desenvolvimento, deve-se entender que a máquina é a única responsável pelo dano causado, cabendo ao Estado determinar a pena adequada, sendo possível a proibição de produção da respectiva máquina e/ou modelo, inclusive. Somando a isso, caso uma nova ferramenta inteligente, produzida pelo mesmo criador, cause um novo dano a alguém, deve-se atribuir nova pena, que alcançará o criador da máquina.
Quando se tratar de ferramenta inteligente prestadora de serviços, deve-se manter a imputação da responsabilidade objetiva à empresa, porquanto a posse direta, manutenção, e qualquer outro risco inerente ao uso da coisa, foi avocado pela empresa quando resolveu manter o controle e gerência sobre a máquina.
Contudo, quando se tratar de compra e venda, a imputação da responsabilidade objetiva deve ser mantida nos casos em que o consumidor não foi informado, de forma clara e de fácil compreensão20 para qualquer pessoa de conhecimento mediano, sobre as possíveis consequências prejudiciais ao se fazer uso da ferramenta inteligente, quando se tratar de uma máquina, física ou virtual, vendida ao consumidor, visto que, assim como se compra um cachorro de porte grande, ríspido, e suscetível a causar dano, como a raça Pitbull, por exemplo, as ferramentas inteligentes, mesmo que programadas corretamente, podem ser prejudiciais, se manuseadas ou ensinadas de forma incorreta.
Com isso, o objetivo é afastar, inicialmente, a responsabilidade do programador, seja ele empregado, empresário ou empresa, visto que a tarefa de se criar uma espécie com capacidade autônoma é algo complexo, mas benéfico para a sociedade, uma vez que a ferramenta inteligente é capaz de aprender por meio de tentativas e erros, assim como uma criança, como informado anteriormente, capaz de evitar erros previsíveis, que serão observados pelo inventivo, a fim de auxiliar o ser humano em diversas áreas, de maneira eficaz. Para tanto, é preciso que a ferramenta, ou robô, inteligente alcance certa idade, de plena atividade, sem causar danos, algo a ser interpretado como estágio probatório, período no qual o inventivo será totalmente responsável pelos atos da máquina, e, após isso, terá a máquina adquirido personalidade civil.
A personalidade civil da inteligência artificial já está em discussão no parlamento europeu desde fevereiro de 2017, quando se recomendou as chamadas “Disposições de Direito Civil sobre Robótica”21, a qual atribui a essa personalidade civil uma nova nomenclatura, a chamada “Personalidade Eletrônica”.
O documento diz o seguinte:
Criar um estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autônomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrônicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrônica a casos em que os robôs tomam decisões autônomas ou em que interagem por qualquer outro modo com terceiros de forma independente.
(Disposições de Direito Civil sobre Robótica, 16 fev. 2017, grifado)
Nesse sentido, considerando que o Brasil é um país que tem o costume de importar legislações de outros Estados, ou tomá-las como fonte de inspiração, como a Consolidação das Leis do Trabalho (CLT), inspirada na Carta del Lavoro, da Itália22, bem como a tradição pátria de aguardar a efetividade de uma norma em Estado estrangeiro, antes de implementar regimento semelhante no país, como foi o caso de diversas normas, dentre elas, a Lei Geral de Proteção de Dados (LGPD) e o Marco Legal da Inteligência Artificial (MLIA), ainda em formato de projeto de lei, todas pensadas após implementação de normativo semelhante em vários países estrangeiros, é nítida a possibilidade, neste caso, de se implementar, futuramente, uma norma com teor semelhante ao disposto na Europa, como citado acima, de modo que se atribua uma personalidade eletrônica à máquina detentora de inteligência artificial.
Em mesmo sentido, não se mostraria razoável aplicar uma pena, ou responsabilização direta, de pronto, ao desenvolvedor da ferramenta inteligente, seja ele empregado, empresário ou empresa, porquanto seria como se aos pais de um jovem adulto fossem arrogadas as obrigações por ele adquiridas, assim como acontece na Coréia do Norte, segundo relatos do ex-embaixador do Brasil, que atuava naquele país, à revista Veja, em 2017, onde os pais podem ser condenados pelas faltas cometidas pelo(a) filho(a)23. Nessa esteira, é adequado, como citado alhures, que se permita que a ferramenta inteligente, com capacidade autônoma, seja observada durante um estágio probatório, e que, após esse período, adquira sua personalidade eletrônica, de modo que, durante o estágio probatório, ficará o inventivo, seja ele empregado, empresário ou empresa, responsável por qualquer dano causado pela sua criação, de forma objetiva.
Não obstante isso, é possível que, a fim de que se indenize as pessoas lesadas por qualquer invenção dotada de inteligência artificial, seja criado um seguro obrigatório, conforme o que é defendido no documento do parlamento europeu, “Disposições de Direito Civil sobre Robótica”:
Destaca que uma possível solução para a complexidade de atribuir responsabilidade pelos danos causados pelos robôs cada vez mais autónomos pode ser um regime de seguros obrigatórios, conforme acontece já, por exemplo, com os carros; observa, no entanto que, ao contrário do que acontece com o regime de seguros para a circulação rodoviária, em que os seguros cobrem os atos e as falhas humanas, um regime de seguros para a robótica deveria ter em conta todos os elementos potenciais da cadeia de responsabilidade24
(Disposições de Direito Civil sobre Robótica, 16 fev. 2017, grifado)
Infere-se, pois, que há possibilidade real de conduzir o movimento 4.0 de maneira que o consumidor se beneficie do que lhe será disponibilizado no mercado, e de forma a fomentar a criação dos produtos dotados de inteligência artificial, atribuindo-lhes uma personalidade civil, a personalidade eletrônica, após um estágio probatório, para que a ferramenta inteligente seja validada na sociedade, e/ou implementando uma espécie de seguro obrigatório, de forma que as vítimas sejam ressarcidas sem que haja prejuízo substancial para si, e para que não seja o desenvolvedor, seja ele empregado, empresário ou empresa, onerado demasiadamente.
Por fim, será de grande valia a implementação de um código de ética, ou algum estatuto próprio, para adequar as máquinas inteligentes aos padrões preestabelecidos pela sociedade, como aduz o documento discutido no parlamento europeu, e citado anteriormente, “Disposições de Direito Civil sobre Robótica”, bem como o que preleciona a Dra. e escritora Patrícia Peck Pinheiro em sua obra, “Direito Digital”, com sua primeira versão lançada em 200225, pela qual expõe:
Nesses temas de inovação tecnológica, pensando um mundo conectado e globalizado, a capacidade de criar regulamentações mais internacionais e uniformes é extremamente importante para a segurança jurídica dos indivíduos e das instituições. Como um código de ética a ser seguido por fabricantes e desenvolvedores de máquinas com inteligência artificial, de forma a garantir que novos robôs sigam padrões de privacidade e respeitem valores de dignidade humana. Um estatuto legal único, padronizado, que possa já vir direto de fábrica e que determine direitos, obrigações e responsabilidades.
(PINHEIRO, P. P. 2021, grifado)26
Assim, o país certamente estará mais preparado do que esteve em outras revoluções tecnológicas.
