RESUMO
O presente trabalho pretende apresentar um panorama geral do uso da inteligência artificial aplicado em assistentes virtuais, caracterizando essa aplicação, quando usada pelos órgãos públicos ou entidades da administração indireta, como prestação de serviço público passível de estar sob o campo de aplicação do Código de Defesa do Consumidor. Além disso, procura-se analisar a responsabilização dos agentes da cadeia de desenvolvimento e operação de sistemas de inteligência artificial tendo como base além do código consumerista brasileiro as outras normas incidentes nas citadas aplicações tais como a Lei Geral de Proteção de Dados, e os projetos de lei em discussão no parlamento federal sobre inteligência artificial.
Palavras-chave: Inteligência Artificial. Direito do Consumidor. Assistentes Virtuais.
SUMÁRIO: 1 - INTRODUÇÃO. 2 - INTELIGÊNCIA ARTIFICIAL, 2.1 - Uma visão geral sobre inteligência artificial, 2.2 - Desafios de Regulamentação, 2.3 - Assistentes virtuais. 3 - OS PROJETOS DE LEI SOBRE INTELIGÊNCIA ARTIFICIAL. 4 - RESPONSABILIDADE CIVIL, 4.1 - Responsabilidade civil no âmbito do Código de Defesa do Consumidor, 4.2 - Responsabilidade no âmbito da Lei Geral de Proteção de Dados, 4.3 - Aplicação do diálogo das fontes das normas relativas aos assistentes virtuais. 5. CONCLUSÃO. 6. REFERÊNCIAS.
INTRODUÇÃO
No final dos anos 60, o autor norte-americano Arthur C. Clarke em conjunto com o cineasta Stanley Kubrick lançaram uma das maiores obras de ficção científica da história, em que contam a história da tripulação da espaçonave Discovery One composta por cinco cientistas e controlada pelo computador inteligente e com personalidade humana HAL 9000. A trama se desenrola quando a tripulação passa a desconfiar que a máquina está cometendo erros no diagnóstico de alguns problemas na nave, a máquina por sua vez passa a tentar tomar conta da situação eliminado a tripulação (CLARKE, 1968). Na cultura popular é muito forte a associação da inteligência artificial com a máquina fictícia criada por Clarke, bem como o alerta, em diversas obras culturais, para o cuidado de não deixar comandos e decisões essenciais totalmente nas mãos das máquinas.
Os primeiros estudos sobre inteligência artificial começaram ainda na década de 50, considera-se que o evento The Darthmouth Summer Research Project on Artificial Inteligence seja o momento fundante desse campo da ciência da computação, ocorrido em New Hampshire, nos Estados Unidos (SILVA et al., 2018). Embora tenha passado a fazer parte do imaginário popular a partir de meados do século passado, tanto pela pesquisa como pela arte, os avanços nas tecnologias da informação tem se popularizado e essencialmente comprovado a Lei de Moore, em homenagem Gordon E. Moore, diretor de pesquisa e desenvolvimento de uma empresa eletrônica norte-americana, que previu em 1965 que a quantidade de transistores em um microchip duplicaria a cada dois anos com uma correspondente redução do preço (MOORE, 1965), previsão que permanece aderente até hoje e, dessa forma, os dispositivos eletrônicos capazes da execução de um sem número de algoritmos tem se tornado mais presentes no dia-a-dia de todos, inclusive em países periféricos.
O Governo Brasileiro, ciente da disruptividade dessas tecnologias, tem se preocupado, desde o final do século passado, em integrar o Brasil nessa nova sociedade da Informação onde Governo e sociedade devem andar juntos para assegurar a perspectiva de que seus benefícios efetivamente alcancem a todos os brasileiros (TAKAHASHI, 2000). Mais recentemente, o Decreto do Poder Executivo Federal nº 8.936, de 19 de dezembro de 2016, instituiu a plataforma de Cidadania Digital (posteriormente renomeada Plataforma gov.br), dispondo sobre a oferta de serviços públicos digitais no âmbito dos órgãos da Administração Pública Federal. Em 9 de dezembro de 2019, foi publicado o Decreto nº 10.160, que instituiu a Política Nacional de Governo Aberto cuja diretriz é o estímulo ao uso de novas tecnologias que fomentem a inovação, fortalecimento da governança pública e o aumento da transparência e participação social na gestão e prestação de serviços públicos (BRASIL, 2019). Já em 2020, o Decreto nº 10.332 estabeleceu a Estratégia de Governo Digital para o período de 2020 a 2022, procurando oferecer acesso digital único aos serviços públicos pela integração dos diversos domínios do Governo Federal num portal único. O decreto também coloca como objetivos a digitalização de cem por cento dos serviços públicos digitalizáveis[1], até o final de 2022 e implementar recursos de inteligência artificial em, no mínimo, doze serviços públicos federais, até 2022 (BRASIL, 2020).
A prestação de serviços públicos, segundo ensina Tartuce (2021), também está abrangida pelo Código de Defesa do Consumidor (CDC), por força do seu art. 22, sendo obrigação a prestação de serviços adequados, eficientes e seguros. O parágrafo único do citado artigo assevera que: Nos casos de descumprimento, total ou parcial, das obrigações referidas neste artigo, serão as pessoas jurídicas compelidas a cumpri-las e a reparar os danos causados, na forma prevista neste código (BRASIL, 1990). As decisões judiciais mais frequentes ligadas a esse entendimento, geralmente referem-se à prestação de serviços públicos clássicos como: transporte, educação e fornecimento de água e esgoto (TARTUCE, 2021). Entretanto, graças aos algoritmos de inteligência artificial, vem se popularizando muitos serviços de fornecimento de informações em que o usuário conversa com um programa com capacidade de aprendizagem que o responde em linguagem natural, como se estivesse dialogando com um atendente humano, esses programas são conhecidos como assistentes virtuais ou chatbots. Diversos órgãos estão em processo de implantação de seus chatbots como é o caso do Léo, da Receita Federal do Brasil[2].
Dentro deste cenário, vários países vêm verificando a necessidade de se estabelecer uma estratégia nacional sobre inteligência artificial, o Fórum Econômico Global emitiu um documento informativo apresentando informações sobre o assunto, para orientar os governos nacionais de países que ainda não instituíram normas sobre inteligência artificial (WEF, 2019). No Brasil, vem se debatendo no Congresso Nacional a necessidade de se estabelecer princípios, regras e diretrizes sobre o desenvolvimento e a utilização da inteligência artificial, pode-se citar os Projetos de Lei nº 5.051/2019; 21/2020 e 872/2021, que tratam sobre esta matéria. O PL 21/2020[3], por exemplo, tem como foco principal o uso da inteligência artificial para a promoção da pesquisa e da inovação, para que se possa aumentar a produtividade do Estado, bem como a permitir sua desburocratização e o estimular o empreendedorismo.
O presente trabalho pretende analisar a natureza jurídica do serviço prestado pelos assistentes virtuais, especialmente aqueles disponibilizados por órgãos públicos ou entidades da administração indireta e procura definir qual seria a responsabilidade jurídica que deveria incidir em caso de dano ao cidadão, bem como avaliar sobre quais agentes da cadeia de desenvolvimento e operação de sistemas de inteligência artificial deve recair a responsabilidade e se existe solidariedade entre esses agentes. A análise será feita com base na legislação civil, consumerista e de proteção de dados, bem como baseando-se nas principais ideias presentes na legislação sobre inteligência artificial que se encontra em fase de discussão no Congresso Nacional.
Será apresentado no segundo capítulo uma visão geral sobre a inteligência artificial, especificamente sobre a aplicação em assistentes virtuais, bem como os desafios relativos à regulamentação da matéria enfrentados pelos governos nacionais, no terceiro capítulo será feita uma análise dos projetos de lei sobre inteligência artificial, em tramitação no Congresso Nacional e no quarto capítulo será apresentado a análise sobre a responsabilidade civil nas diversas normas pertinentes à inteligência artificial.
INTELIGÊNCIA ARTIFICIAL
Na presente seção pretende-se apresentar uma visão geral do campo da inteligência artificial, os desafios dos Estados nacionais para implementação das tecnologias de inteligência artificial de modo a potencializar seus benefícios e proteger seus cidadãos dos potenciais efeitos negativos e se encerrará a seção com uma apresentação dos assistentes virtuais, uma das ferramentas de inteligência artificial mais usadas na atualidade e objeto do presente trabalho.
Uma visão geral sobre inteligência artificial
Nos últimos anos a inteligência artificial tem se consolidado como a força impulsionadora da quarta revolução industrial, permeando diversos setores da economia e causando indelével impacto na forma em que as pessoas vivem e trabalham (WEF, 2019). Desde a sua origem, a delimitação do campo de pesquisa apresenta dificuldades, seja em função da definição do conceito de inteligência humana, seja pelas diferentes linhas de pesquisa que tem sido desenvolvidas, a exemplo da linha biológica que pretende desenvolver algoritmos que tentam imitar o comportamento neural humano. O estudo desse campo demanda uma abordagem multidisciplinar, beneficiando-se dos conhecimentos de áreas como: filosofia, linguística, psicologia e biologia (COPPIN, 2010). Em geral, pode-se entender que a inteligência artificial tem sido desenvolvida no sentido de permitir que dispositivos possam realizar tarefas de forma automática, sem a interferência humana, não se trata apenas da realização de tarefas repetitivas, mas os algoritmos devem ser capazes de obter informação, correlacioná-las com informações já existentes em suas bases de referência e proceder operações lógicas para resolver problemas complexos, que nem sempre serão de natureza quantitativa (SILVA et al., 2018).
Atualmente, uma das aplicações mais comuns da inteligência artificial é na área de atendimento ao cliente com a utilização de assistentes virtuais, ou chatbots. O usuário acessa o site ou o aplicativo de uma determinada empresa e pode interagir com um algoritmo que, além de responder dúvidas apresentadas pelo usuário em linguagem natural, pode realizar pequenos serviços como o agendamento de atendimentos, mudança de dados cadastrais, efetivação de pagamentos e encaminhamento de reclamações. O uso de chatbots permite um atendimento mais direcionado às necessidades específicas do cliente, com uma interação natural funcionando como uma espécie de triagem que pode levar ao atendimento humano apenas as dúvidas e serviços mais complexos, aumentando-se a disponibilidade de mão-de-obra e a produtividade humana, um recurso muito precioso (SINGH e SHIVAM, 2019).
Quanto aos impactos da inteligência artificial, costumam-se dividir os estudiosos do campo em três linhas de pensamento: há aqueles que acreditam que o desenvolvimento de dispositivos inteligentes, nunca poderá ser considerado uma inteligência, tendo em vista que para isto, se demandaria a consciência e a autopercepção, o que seria impossível de ser criado artificialmente, este grupo denomina-se Inteligência Artificial Fraca; há os que entendem que em determinado momento será possível o comissionamento de maquinas capazes de comportamentos inteligentes semelhantes aos humanos, denomina-se Inteligência Artificial Forte; por fim, há os que entendem que o resultado do desenvolvimento das aplicações na área poderá levar ao estabelecimento de um intelecto várias ordens de grandeza mais inteligente que os seres humanos com habilidades cognitivas, armazenamento de conhecimento e habilidades sociais, denomina-se Superinteligência, termo definido pelo filósofo sueco Nick Bostron (SILVA et al., 2018).
O trabalho desenvolvido por Alan Turing na década de 50 certamente direcionou o pensamento sobre a inteligência artificial nesse período, trabalhando no sentido de se criar um computador que pensasse, propôs um teste para a determinação de uma máquina inteligente: seria aquela capaz de manter um diálogo com um ser humano sendo que o humano não poderia distinguir se seu interlocutor seria humano ou não. Diversos programas foram desenvolvidos nas décadas seguintes com o intuito de estabelecer um diálogo em linguagem natural, em 1964 Joseph Weizenbaum criou o ELIZA no Instituto Tecnológico de Massachussetts (COPPIN, 2010). Também começaram a ser desenvolvidos programas que pudessem jogar xadrez com um adversário humano. Neste período, acreditava-se que seria possível se desenvolver um algoritmo capaz de interpretar e traduzir a linguagem humana. A partir das décadas seguintes o objeto de estudo da inteligência artificial começou a se dividir em diversas áreas, deixou-se de se focar em criar uma máquina inteligente com raciocínio humano e passou-se a estudar diversas metodologias utilizadas pelo cérebro humano para resolução de problemas, entendendo-se que o desenvolvimento nessas áreas particulares não seria propriamente a criação de uma inteligência artificial, mas poderia conduzir à concepção de sistemas computacionais mais complexos e mais úteis. Esse pensamento tem sido a linha mestra da pesquisa em inteligência artificial. As principais áreas de estudo da atualidade são: aprendizado de máquina (machine learning), sistemas multiagente, vida artificial, visão por computador, planejamento e jogos (COPPIN, 2010).
A estatística é uma ferramenta fundamental no desenvolvimento das tecnologias de inteligência artificial, especialmente no campo do aprendizado de máquina (SILVA et al., 2018). A obtenção de dados significativos e a organização deles com a possibilidade de se fazer inferências, pode emular a maneira como os seres humanos tomam decisões, bem como ajudá-los a contemplar cenários não previstos. Esses aspectos, aliados a grande capacidade de armazenamento de informações, a velocidade para a realização de cálculos e a miniaturização dos dispositivos explica a popularização da inteligência artificial em diversos setores da economia. Até o momento não se trata de uma manifestação inteligente, mas apenas o uso eficiente de máquinas de cálculo customizadas para realização de diversas tarefas, otimizando a vida das pessoas e tornando-as mais produtivas.
Desafios de Regulamentação
Como foi exposto na seção anterior, a inteligência artificial já está presente na vida diária das pessoas e, com a sua evolução gradual, certamente terá um impacto cada vez maior e modificará a forma como as empresas produzem, os consumidores consomem e como os governos prestam serviços para os seus cidadãos (WEF, 2019, p. 4). No âmbito governamental, também será uma fonte de desafios no tocante à: proteção de dados, deslocamento de postos de trabalho e prestação de contas acerca do funcionamento dos algoritmos e suas tomadas de decisão. Nesse sentido, o entendimento sobre a tecnologia e seus desdobramentos é fundamental para que os governos possam desenvolver o seu mister de atender o interesse público de modo a potencializar as vantagens da tecnologia e reduzir os riscos dela para a sua população (WEF, 2019).
Barcarollo (2021) discorre que a evolução tecnológica tem como característica o paradigma da exponencialidade, ou seja, as situações e relações formadas numa sociedade tecnológica se desenvolvem de forma muito rápida e o Direito teria dificuldades para dar respostas tempestivas e eficazes. O autor acrescenta que a transformação digital causará o surgimento de muitos direitos e demandará uma ressignificação do conceito de fontes jurídicas. Advogando pela criação de uma lex digitalis global que possa regular os limites das intervenções da técnica na vida humana, Barcarollo (2021), entende que esse limite é fundamental para que a humanidade possa se beneficiar das vantagens da interação com as máquinas, sem, contudo, invadir a essência do ser humano, que deve ser preservada em seu convívio na sociedade.
Uma das formas que a rápida evolução tecnológica se revela é a relação entre os governos nacionais com os seus cidadãos, tem-se utilizado o termo Governo Eletrônico (e-Government) ou Governo digital, que consiste no uso das tecnologias da informação e comunicação para ofertar informações e serviços digitais aos cidadãos. A Organização das Nações Unidas sistematizou os diferentes níveis de evolução do governo eletrônico, iniciando pelo emergente, em que essencialmente se oferece um site oficial com informações estáticas e limitadas para os cidadãos; aprimorado, onde oferece informações sobre políticas públicas e governança, com links para relatórios, regulamentos e leis; nível interativo, quando passam a oferecer serviços on-line e portais interativos; transacional, que permite uma relação bidirecional entre cidadão e governo, transações online e atendimento 24 horas por dia durante 7 dias da semana e, por fim, conectado, sendo a integração total entre os departamentos e órgãos do governo oferecendo serviços de forma unificada com uma infraestrutura para suporte ao cidadão (UNITED NATIONS, 2002). O Brasil sempre ocupou posição de vanguarda no que se refere à evolução dentro dos estágios de implementação do Governo Eletrônico, já na década de 90 atingira o estágio Interativo, com uma página do Governo, informações, legislação, e serviços on-line tais como o programa de Geração de Declaração de Imposto de Renda. No ano 2000, foi publicado pelo Ministério da Ciência e Tecnologia o Livro Verde Da Sociedade da Informação no Brasil apresentando metas para a sua implementação (TAKAHASHI, 2000). Como dito na introdução, o Poder Executivo Federal vem apresentando uma postura proativa na implementação de um plano de transformação digital dos seus diversos órgãos, criando uma série de dispositivos normativos e estruturas burocráticas para o atingimento dos objetivos traçados. Na mesma linha, o parlamento brasileiro vem discutindo a possibilidade de se aprovar um marco legal para a inteligência artificial. Nota-se que a busca para se alcançar o estágio de Governo Eletrônico Conectado é um movimento irreversível que vem ganhando forte momentum. Diversas iniciativas já vêm sendo implementadas, tais como a publicação do Decreto 10.977, de 23 de fevereiro de 2022, que adota como número de inscrição no Cadastro de Pessoas Físicas como registro geral, com o intuito de unificar e simplificar o atendimento do cidadão.
Assistentes virtuais
Os Assistentes virtuais ou chatbots são uma espécie dentre as várias formas de interface da máquina com o usuário (user interface ou UI), eles são conhecidos como conversational UI (interface de conversação), programas que se utilizam de algoritmos baseados em técnicas de inteligência artificial para interagir com o usuário, essa interação é feita usando a linguagem natural (Natural Language Undesrtanding), pode ser feita por escrito ou até pela linguagem falada. O uso desses programas facilita a execução de tarefas diárias, aumentam a eficiência e mostram uma boa relação entre custo-benefício para as empresas que os utilizam (BATISH, 2018).
A interface com o usuário é um campo bastante amplo e passou por uma grande evolução desde que os computadores passaram a fazer parte do dia a dia. Inicialmente era uma interação textual, por comandos do sistema operacional ou do software usado, evoluiu-se para uma interação gráfica, com o uso de dispositivos de apontamento (mouses), chegando ao estágio de conversação (BATISH, 2018). Ramasubramanian e Shivam (2020) mostram que os assistentes virtuais podem ser classificados conforme o tipo de diálogo que se pretende desenvolver e o tipo de respostas que serão fornecidas pelo programa.
Para eles, o diálogo pode ser de domínio aberto ou fechado. O diálogo de domínio aberto é aquele que o usuário pode trazer para o diálogo qualquer assunto que lhe venha a mente, é o caso de conversas que as pessoas têm entre si e que podem iniciar em um determinado tópico e terminar em outro completamente diferente, exigindo uma riqueza de informações e de vocabulário, aplicações como a Alexa ou Siri tentam alcançar esse propósito, utilizando informações da própria Internet para enriquecer o diálogo. A conversa de domínio fechado é específica a uma determinada área cognitiva, a exemplo uma conversa relativa a ao atendimento de uma empresa, trata-se de uma conversa mais limitada e de vocabulário e informações mais restritas, por vezes de domínio exclusivo da organização (SINGH E SHIVAM, 2019).
Quanto ao tipo de respostas, elas podem ser classificadas em diálogos baseados em regras e diálogos baseados em processamento de linguagem natural (Natural Language Processing ou NLP). Os diálogos baseados em regras, são aqueles menus em que o usuário seleciona opções conforme o atendimento desejado, nesse caso não se pode falar em inteligência artificial. O NLP por sua vez baseia-se em algoritmos que usam a técnica de aprendizado de máquina para um atendimento cada vez mais eficiente ao usuário (RAMASUBRAMANIAN E SHIVAM, 2020).
Embora tenha se conseguido um bom desenvolvimento desses algoritmos de conversação nos assistentes virtuais e vivamos em um sistema jurídico que se baseia na boa-fé das pessoas, o caminho não é livre de eventuais falhas que um sistema automatizado pode cometer. A linguagem humana é muito rica e muitas vezes, mesmo na forma escrita, há informações que podem ser transmitidas de forma implícita, logo, um especial cuidado deve ser tomado com relação a alguns aspectos relacionados à personalidade, tais como o gênero, tom de voz, nível de seriedade e uso de linguagem coloquial, vieses, reação a ofensas, dentre outros.
Além dessa camada mais sutil da comunicação, também podem ocorrer erros de programação. Um bom exemplo foi a recente falha no assistente virtual da empresa Decolar que, pelo fato de os desenvolvedores não terem implementado um filtro a determinadas palavras e frases de baixo calão, permitiram que o sistema publicasse tais termos nas redes sociais da empresa em resposta a usuários maliciosos que perceberam a falha da implementação[4]. O fato narrado certamente gerou danos para a imagem da empresa, que se desculpou aos usuários e apagou as postagens. É um exemplo rico para os desenvolvedores que devem adicionar mais este recurso em seus futuros projetos, mas também levanta a dúvida sobre a responsabilidade sobre o fato, já que havendo dano faz-se necessário perquirir a respeito da responsabilidade por tal dano.
OS PROJETOS DE LEI SOBRE INTELIGÊNCIA ARTIFICIAL
Até o começo de 2022, havia três projetos tramitando no Congresso Nacional tratando sobre o tema da inteligência artificial, os Projetos de Lei nº 5.051/2019; 21/2020 e 872/2021, apresentando diferentes enfoques e alguns já tendo recebido propostas de emenda. O Presidente do Senado estabeleceu, em fevereiro de 2022, uma comissão de juristas para elaborar uma minuta de substitutivo para instruir a apreciação desses três projetos que tratam sobre a matéria, além disso, determinou a tramitação conjunta dos três projetos de lei. O Projeto de Lei 21/2020 (BRASIL, 2020b) parece ser o que tem uma cobertura mais ampla da matéria, dessa forma, será usado como base para a análise do que está sendo discutido sobre a matéria no Congresso Nacional.
O Projeto de Lei 21/2020 propõe-se a estabelecer fundamentos, princípios e diretrizes para o fomentar o desenvolvimento e aplicação da inteligência artificial no Brasil, bem como a atuação do poder público sobre o tema, conforme expresso em seu art. 1º (BRASIL, 2020b).
O Projeto, no art. 2º, também apresenta uma definição bem completa de inteligência artificial, em linha com o que vem sendo discutido atualmente sobre o tema, é:
o sistema baseado em processo computacional que, a partir de um conjunto de objetivos definidos por humanos, pode, por meio do processamento de dados e de informações, aprender a perceber e a interpretar o ambiente externo, bem como a interagir com ele, fazendo predições, recomendações, classificações ou decisões (BRASIL, 2020b),
usando técnicas de aprendizado de máquina, sistemas baseados em lógica, abordagens estatísticas, inferência bayesiana e métodos de pesquisa e otimização. O parágrafo único do artigo exclui do conceito os algoritmos implementados apenas para realizar tarefas repetitivas, conhecidos como macros, tendo em vista que eles não são capazes de se aperfeiçoar e alterar seu funcionamento em função de dados externos. Os assistentes virtuais, em estudo no presente trabalho, se enquadram na definição apresentada.
O objetivo principal da tecnologia de inteligência artificial é, para o projeto de lei, o desenvolvimento científico e tecnológico, previsto expressamente no caput do art. 3º, em seus incisos o artigo prevê objetivos de natureza econômica, inovação e proteção ao meio ambiente. É interessante destacar o inciso IV, que trata especificamente da melhoria na prestação de serviços públicos e na implementação de políticas públicas (BRASIL, 2020b), mostrando que o projeto está alinhado com as diretrizes do Decreto 10.160/2019 (BRASIL, 2019).
Dentre os fundamentos elencados no projeto de lei, destaca-se a preocupação com os princípios constitucionais de livre iniciativa e concorrência, livre manifestação do pensamento, soberania, defesa nacional, a não discriminação regional e a proteção contra práticas abusivas de mercado. Destaca-se também o alinhamento e harmonização com a Lei Geral de Proteção de Dados e com o Código de Defesa do Consumidor, expressos no inciso XV do art. 4º (BRASIL, 2020b).
No art. 5º, que trata dos princípios da lei, está previsto o princípio da transparência que trata do direito das pessoas de serem informadas de maneira clara, acessível e precisa sobre a utilização das soluções de inteligência artificial (BRASIL, 2020b), especialmente sobre o fato de estarem se comunicando diretamente com sistemas de inteligência artificial, tal como por meio de robôs de conversação para atendimento personalizado on-line (chatbot) (BRASIL, 2020b).
Ao tratar forma como o Estados deve disciplinar a aplicação da inteligência artificial, o projeto de lei apresenta algumas diretrizes, dentre as quais, no inciso VI do art. 6º, as diretrizes sobre a responsabilidade:
VI responsabilidade: as normas sobre responsabilidade dos agentes que atuam na cadeia de desenvolvimento e operação de sistemas de inteligência artificial deverão, salvo disposição legal em contrário, pautar-se na responsabilidade subjetiva e levar em consideração a efetiva participação desses agentes, os danos específicos que se deseja evitar ou remediar e a forma como esses agentes podem demonstrar adequação às normas aplicáveis, por meio de esforços razoáveis compatíveis com os padrões internacionais e as melhores práticas de mercado. (BRASIL, 2020b)
Nota-se que o inciso trata de todos os agentes que atuam na cadeia de desenvolvimento e operação dos sistemas de inteligência artificial e adota a responsabilidade subjetiva, sendo necessária a participação efetiva do agente para o resultado danoso ao usuário. Percebe-se também que o inciso deixa em aberto a permissão da adoção da responsabilidade objetiva no caso por meio de dispositivo legal específico.
RESPONSABILIDADE CIVIL
Na presente seção será feita uma análise da doutrina sobre a responsabilidade civil no Código de Defesa do Consumidor, seguindo-se a apresentação de como a responsabilidade é tratada na Lei Geral de Proteção de Dados e por fim será apresentado o diálogo das diversas fontes normativas no tocante à responsabilidade civil na cadeia de desenvolvimento e operação de sistemas de inteligência artificial.
Responsabilidade civil no âmbito do Código de Defesa do Consumidor
Tradicionalmente a responsabilidade civil divide-se em responsabilidade contratual ou negocial e responsabilidade extracontratual ou aquiliana. No primeiro caso, o descumprimento do instrumento contratual enseja a responsabilização da parte que deu causa, incidindo em perdas e danos, bem como multas e juros contratuais; o segundo refere-se à responsabilidade civil decorrente de ato ilícito e do fato de se causar dano a outrem, obrigando à reparação (TARTUCE, 2021).
No Direito Consumerista, embora o consumidor estabeleça um contrato para obtenção de um produto ou serviço com o fornecedor, não é necessário o descumprimento de uma cláusula do mesmo para que se possa exigir a reparação dos danos sofridos. A regra estabelecida pelo Código de Defesa do Consumidor é a responsabilidade objetiva dos fornecedores em relação aos consumidores, estando de acordo com a inteligência do parágrafo único do art. 927 do Código Civil que determina a obrigação de reparar o dano, independentemente de culpa, nos casos especificados em lei, no caso o CDC. Ao consumidor não é necessária a comprovação da culpa ou dolo do fornecedor, mas cabe ao fornecedor se desincumbir dessa culpa para não ter que arcar com a reparação dos danos, há inversão do ônus da prova em função da situação de vulnerabilidade do consumidor. Trata-se da aplicação da teoria do risco-proveito, já que ao ter ganhos econômicos pela comercialização de determinado bem ou serviço, ao fornecedor caberia também a responsabilidade objetiva (TARTUCE, 2021).
O CDC trata da responsabilidade civil dividindo-a em responsabilidade pelo produto ou serviço e, para cada um deles, quanto ao vício ou ao fato (defeito). Ao presente trabalho interessa apenas a responsabilidade sobre serviços, já que se discute a prestação de serviços por assistentes virtuais (chatbots), algoritmos inteligentes, capazes de manter uma conversação com um interlocutor humano, fornecendo informações e prestando alguns serviços como alterações de cadastro, pagamentos, dentre outros.
A responsabilidade pelo vício refere-se a algum problema intrínseco ao serviço prestado, para o problema em estudo, seria o caso de o usuário acessar o serviço de assistente virtual e ele não apresentar o funcionamento desejado. É possível elencar uma série de eventos que poderiam caracterizar o vício: o sistema não estar disponível; o sistema não conseguir compreender a informação digitada pelo usuário; o sistema não dar nenhuma resposta ou apresentar uma resposta incompreensível; o sistema dar uma resposta compreensível, mas absolutamente desconectada do tema em discussão ou o sistema dar uma resposta errada para a pergunta realizada.
Já a responsabilidade pelo fato ou defeito decorre prejuízos para além do serviço prestado, o usuário deve sofrer algum efeito negativo em função da prestação do serviço. Para o objeto do presente estudo, pode-se considerar diferentes categorias de prestação de serviço de um assistente virtual: prestação de serviços de informação, prestação de serviços de alteração de cadastro; prestação de serviços de cobrança, a serem apreciados nos próximos parágrafos.
Para um serviço de informações, o defeito poderia se caracterizar numa situação em que a prestação de uma informação errada leve o usuário realizar uma ação errada ou extemporânea, como por exemplo obter um endereço errado e se deslocar para ele, incorrendo em gastos não desejados, ou, para o caso específico do fisco, obter uma data para entrega de uma declaração de determinado tributo de forma extemporânea, incorrendo em multas tributárias.
Para um serviço de alteração de cadastro, o fato ou defeito poderia ser concretizado por uma alteração incorreta ou o tratamento inadequado das informações pessoais do usuário, dentro das diretrizes da Lei Geral de Proteção de Dados. Uma alteração incorreta de cadastro pode levar ao encaminhamento de notificações ou correspondências para endereços errados podendo, especificamente no caso fiscal, até mesmo prejudicar a defesa dos direitos do contribuinte. O tratamento inadequado de informações também pode incorrer na disponibilização de informações pessoas para partes ilegítimas.
Para um serviço de cobrança, o defeito poderia se caracterizar pela não implementação do pagamento, a falta de registro dele ou a destinação incorreta do recurso. O inadimplemento pode gerar inúmeros desdobramentos ao usuário ou contribuinte, pode resultar no não recebimento da contraprestação a que o valor se refere, em futuras cobranças indevidas e eventuais inscrições em cadastros de inadimplentes.
Tendo se apreciado à forma de responsabilização civil, é importante se tratar de quem são as pessoas legitimadas a responder por essa responsabilidade. Em uma relação de consumo, o CDC adota, via de regra, a solidariedade presumida entre os prestadores de serviços, por força do parágrafo único do art. 7º[5]. No caso de assistentes virtuais, podemos considerar como prestadores os diversos atores envolvidos na cadeia de desenvolvimento e operação de sistemas de inteligência artificial: o órgão responsável pela disponibilização do serviço, o departamento responsável pela disponibilização do serviço (setor de atendimento), o departamento responsável pelo desenvolvimento da solução tecnológica (área de TI do órgão ou empresa de TI contratada) e até mesmo o programador do sistema. É importante se considerar mais um último aspecto relativo a assistentes virtuais dotados de inteligência artificial, já que os mesmos, dependendo do nível de sofisticação de sua implementação, poderão apresentar características de aprendizado, nesse sentido, poderiam aprender informações erradas, seja em seu aprendizado inicial, seja por meio de ataques. Nessa situação, entende-se que também poderiam ser responsabilizado aqueles indivíduos responsáveis por ensinar o algoritmo a dar informações erradas.
No caso da responsabilidade por vícios no fornecimento de serviços, ensina Tartuce (2021) que:
se um serviço contratado tiver sido mal prestado, responderão todos os envolvidos. Nos termos do § 2º do art. 20 do CDC, são considerados como impróprios os serviços que se mostrem inadequados para os fins que razoavelmente deles se esperam, bem como aqueles que não atendam as normas regulamentares de prestabilidade. Em casos tais, enuncia o caput do mesmo preceito legal que o prestador de serviços responde pelos vícios de qualidade que os tornem impróprios ao consumo ou lhes diminuam o valor, assim como por aqueles decorrentes da disparidade com as indicações constantes da oferta ou mensagem publicitária (TARTUCE, 2021, p. 187).
O consumidor nesse caso tem como opções: solicitar a reexecução do serviço, receber a restituição imediata do valor dispendido ou receber abatimento no preço pago pelo produto. Pode-se perceber, pelo exposto, que o vício, caracterizado anteriormente como o mau funcionamento de um assistente virtual, embora passível de responsabilização solidária, não há de trazer nenhum impacto para o prestador de serviços, já que não há remuneração pelo serviço prestado e em se tratando de um serviço automático, não há nenhum impedimento para que o usuário repita a sua solicitação e eventualmente tenha o resultado desejado, seja pelo fato de o sistema voltar a funcionar ou tenha os seus erros de programação (bugs) corrigidos.
Em se tratando de responsabilidade por defeito, ensina Tartuce (2021) que responde de forma objetiva o fornecedor de serviços pelos danos causados ao consumidor, além de haver evidente solidariedade entre todos envolvidos na prestação, especialmente pelo fato de que para o consumidor final torna-se difícil diferenciar o prestador direto em uma cadeia de prestação que resulta no serviço, já que ela é de responsabilidade exclusiva do fornecedor. Dessa forma, para o caso específico de assistentes virtuais, caberia a responsabilização de todos os agentes citados anteriormente, envolvidos no processo de disponibilização, implementação e aprendizado do chatbot.
Responsabilidade no âmbito da Lei Geral de Proteção de Dados
A outra norma ligada às ferramentas de inteligência artificial é a Lei Geral de Proteção de Dados, Lei 13.709/2018, sobre a qual é importante fazer algumas considerações, inclusive no tocante a responsabilidade civil. A lei objetiva tutelar a intimidade e a vida privada, especialmente relativa a dados e informações disponibilizadas em meio digital, que podem ser objeto de invasão ou comercialização.
A Lei define uma série de fundamentos em seu art. 2º, dentre os quais cabe destacar, dentro do objeto do presente estudo: o respeito à privacidade; a liberdade de informação; a defesa do consumidor e a dignidade e o exercício da cidadania pelas pessoas naturais. Também no âmbito do presente estudo é importante trazer a definição da lei para controlador de dados: a pessoa natural ou jurídica, de direito público ou privado, a quem competem as decisões referentes ao tratamento de dados pessoais (BRASIL, 2018), e a definição de operador: pessoa natural ou jurídica, de direito público ou privado, que realiza o tratamento de dados pessoais em nome do controlador (BRASIL, 2018).
Dentre os princípios, elencados no art. 6º, destaca-se: o princípio da segurança, que trata da utilização de medidas técnicas e administrativas aptas a proteger os dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas de destruição, perda, alteração, comunicação ou difusão; e o princípio da prevenção, que consiste na adoção de medidas para prevenir a ocorrência de danos em virtude do tratamento de dados pessoais e, talvez o mais importante no tocante ao objeto do presente estudo, o princípio da responsabilização e prestação de contas, consistindo na demonstração, pelo agente, da adoção de medidas eficazes e capazes de comprovar a observância e o cumprimento das normas de proteção de dados pessoais e, inclusive, da eficácia dessas medidas.
No âmbito do princípio da responsabilização e prestação de contas, o art. 42 da lei trata sobre o dano patrimonial e moral em função de exercício de tratamento de dados pessoais. Do citado artigo, podemos extrair alguns pontos principais sobre a responsabilidade: a lei determina o dever de reparar o dano; responde pelo dano o controlador e solidariamente operador, se descumprir a lei ou as instruções lícitas do controlador; é permitida a inversão do ônus da prova em favor do titular dos dados; é permitido o direito de regresso contra os demais responsáveis solidários no caso de reparação do dano.
Aplicação do diálogo das fontes das normas relativas aos assistentes virtuais
No presente estudo pode-se dizer que: primeiro, foi estabelecido que os serviços públicos podem ser tratados no âmbito do CDC, podendo a pessoa jurídica de direito público ser fornecedora de serviços públicos e ser enquadrada pelo código como fornecedora e o cidadão, recebedor dos serviços, como consumidor, merecedor da qualificação de vulnerável e hipossuficiente; segundo, os serviços prestados por assistentes virtuais (chatbots) de órgãos públicos, dotados de algoritmos de inteligência artificial, podem ser considerados serviços públicos; em terceiro lugar, aplicações de inteligência artificial podem ser enquadradas na lei geral de proteção de dados e na futura lei brasileira sobre inteligência artificial. Dessa forma, não há dúvida que o fornecimento de informações ou a prestação de serviços por assistentes virtuais pode ser enquadrada no CDC, na LGPD e na futura Lei Brasileira sobre Inteligência Artificial.
Ficou caracterizado também que o assistente virtual é uma aplicação de inteligência artificial, que, para a sua implementação e funcionamento depende de uma cadeia de desenvolvimento e operação de sistemas de inteligência artificial, nela incluídos: o órgão responsável pela disponibilização do serviço, o departamento responsável pela disponibilização e operação do serviço (setor de atendimento), o departamento responsável pelo desenvolvimento da solução tecnológica (área de TI do órgão ou empresa de TI terceirizada contratada ou programador) e os responsáveis por testes e aprendizado do sistema. Todos esses atores se encontram no escopo de responsabilização legal.
Também foi delimitado o conceito de vício e de defeito conforme o CDC para as aplicações de assistentes virtuais no item 4.1 do presente trabalho.
Resta então comparar a responsabilização dos agentes conforme as diversas fontes legais (Código Civil, CDC, LGPD e a futura lei brasileira de inteligência artificial será estudada com base no PL 21/2021) pela técnica do diálogo das fontes.
Partindo-se da responsabilidade civil delineada pelo Código Civil, tem-se que é ato ilícito violar direito ou causar dano a outrem, seja por ação ou omissão, seja por dolo ou culpa e a quem comete ato ilícito cabe a reparação do dano. O mesmo preceito é adotado pela LGPD. Para se desincumbir da responsabilidade o CDC determina que o fornecedor prove que o defeito inexiste ou a culpa é exclusiva do consumidor ou de terceiros. A LGPD segue uma linha semelhante, o agente de tratamento dos dados não será responsabilizado se provar: que não realizou o tratamento de dados ou, se tiver realizado, provar que não violou a LGPD ou que o dano é decorrente de culpa exclusiva do titular dos dados ou de terceiros.
Quanto a forma da responsabilização, pelo Código Civil determina-se que a reparação de dano independentemente de culpa será determinada por lei. O CDC é a lei que estabelece que o fornecedor deverá responder independentemente da existência de culpa pela reparação dos danos causados aos consumidores por defeitos relativos à prestação de serviços. No âmbito do Direito Administrativo, a Constituição Federal assegura que as pessoas jurídicas de direito público e as de direito privado prestadoras de serviços públicos responderão pelos danos que seus agentes, nessa qualidade, causarem a terceiros, assegurado o direito de regresso contra o responsável nos casos de dolo ou culpa. A LGPD, por sua vez informa que só responderá pelo dano o operador que deixar de adotar as medidas de segurança previstas na própria lei. O projeto de Lei 21/2020 prevê que a responsabilidade será somente subjetiva e deve levar em consideração a participação efetiva dos agentes nos danos.
Pelo exposto, percebe-se que o CDC é a norma mais protetiva ao cidadão. A Constituição por sua vez assegura a possibilidade de a Administração reaver os valores pagos a título de reparação caso seja apontada a responsabilidade de servidor ou de empresa prestadora de serviço, defendendo assim o interesse público de não ver lesada a Administração Pública. A LGPD baseia a responsabilidade num padrão técnico aceitável de segurança da informação, ocorre que, a cada dia, novas ameaças surgem e é dever do operador e do controlador estar sempre atualizado nas técnicas mais modernas de proteção de dados, não se pode deixar o usuário arcar com o custo de uma violação de seus dados só pelo fato de o controlador dos dados seguir o padrão legal atual, sob pena de violação da boa-fé do usuário. O projeto de lei 21/2020, por sua vez é permissivo demais, já que não haveria responsabilidade caso não fique comprovado o dolo do agente, o que deixaria o usuário, muitas vezes leigo em assuntos de tecnologia de informação, hipossuficiente e vulnerável, totalmente desprotegido e à mercê dos agentes desenvolvedores e operadores de uma tecnologia em que erros de programação (bugs) são extremamente comuns em versões preliminares de sistemas. É fundamental que se traga para o PL a responsabilização, ao menos por culpa, de modo que as empresas tenham de realizar investimentos em testes preliminares antes de disponibilizar sistemas para o usuário.
Com relação aos agentes que podem ser responsabilizados, pelo CDC não é possível determinar que todos os agentes da cadeia de desenvolvimento e operação de sistemas de inteligência artificial podem ser responsabilizados, entretanto, interpretando analogicamente a solidariedade entre o fabricante e o comerciante, pede-se entender que o CDC visa proteger o consumidor e facilitar a defesa de seus direitos, dessa forma, defende-se neste trabalho o entendimento que a responsabilização solidária de todos os envolvidos na cadeia é cabível no próprio código consumerista. A LGPD, por outro lado, responsabiliza, via de regra, o controlador, a solidariedade entre operador e controlador só ocorrerá em caso de descumprimento da legislação ou das instruções do controlador pelo operador. O PL 21/2020 acerta ao determinar que a responsabilização deverá considerar a efetiva participação dos agentes envolvidos nos danos específicos.
CONCLUSÃO
Pelo que foi apresentado nas seções anteriores, percebe-se que o uso da tecnologia da inteligência artificial parece ser um processo irreversível na economia mundial, e que se tornará cada vez mais comum e com maiores habilidades de processamento, tanto pela velocidade das novas máquinas como pelos novos algoritmos e técnicas que serão desenvolvidas nos próximos anos. Nesse cenário, o mundo jurídico deve estar atento e preparar-se para os novos tipos de interação entre homem e máquina, bem como com o surgimento de novos direitos digitais.
A dinâmica das evoluções tecnológicas deve afetar também a forma que se concebe o processo legislativo e até mesmo a estrutura dos Estados nacionais. A tecnologia da inteligência artificial é apenas uma dentre as inúmeras que estão se tornando maduras, nas próximas décadas outras virão, e certamente demandarão uma resposta legal e institucional muito mais rápida do que a que se tem na atualidade.
Especificamente no caso dos assistentes virtuais, é possível se prever um horizonte em que eles se tornarão mais eficientes em entender as necessidades do usuário e poderão atender uma variedade maior de serviços diferentes. Para as aplicações governamentais, é importante que fique claro para os gestores que o chatbot não é apenas uma ferramenta que deve ser implementada por uma decisão de marketing, trata-se de uma ferramenta poderosa, que, se bem aplicada, pode realmente aumentar a produtividade dos órgãos públicos, por esse motivo, a integridade das informações prestadas deve ser uma preocupação fundamental, já que, como foi provado no presente trabalho, é possível a responsabilização do gestor público e de toda a cadeia de desenvolvimento e operação de sistemas de inteligência artificial. Além disso, um esforço deve ser empreendido no sentido de implementar autenticações do usuário, de modo que as informações prestadas possam ser registradas e as ações tomadas possam ter a confiabilidade de estarem sendo feitas pelo cidadão identificado, dando segurança tanto para o órgão público quanto para o cidadão.
Analisando-se o lado do cidadão, tomador do serviço público de inteligência artificial, entende-se, pela análise conjunta dos dispositivos legais, que ele deve buscar a proteção do CDC, por ser a norma mais protetiva de seus direitos, além de a responsabilidade objetiva prevista no CDC albergar-se também na teoria do risco administrativo. O usuário do serviço público deve acionar o órgão responsável pela prestação, podendo chamar à lide solidariamente todos os agentes da cadeia de desenvolvimento e operação, já que claramente está em uma situação de vulnerabilidade técnica. Cabe, além disso, a inversão do ônus da prova, já que no acesso feito pelo contribuinte, em um celular ou computador, muitas vezes não haverá a preocupação em registrar as interações com a máquina, por outro lado, o operador do sistema, tem a obrigação de manter esses registros.
O órgão público, se for o responsabilizado pela indenização ao contribuinte, na ação de regresso, deve elucidar qual foi o agente responsável pelo dano ao cidadão, para que a coletividade não tenha de arcar com a reparação, causada por um agente específico, ademais, a responsabilização do agente, seja por dolo ou culpa, certamente terá um efeito educativo no sentido de sempre se disponibilizar aplicações devidamente testadas ao cidadão. Por esse motivo, critica-se a redação do PL 21/2020 que prevê a responsabilização subjetiva do agente responsável pelo dano.
Sem a pretensão de esgotar assunto tão vasto, o presente trabalho pretendeu ampliar a discussão sobre as aplicações de inteligência artificial, alertando aos desenvolvedores da sua reponsabilidade em oferecer um serviço eficiente, com informações íntegras e com o correto tratamento das informações pessoais.
REFERÊNCIAS
BARCAROLLO, Felipe. Inteligência artificial: aspectos ético-jurídicos. Coimbra, Portugal: Grupo Almedina, 2021.
Batish, Rachel. Voicebot and Chatbot Design, Birmingham, Reino Unido: Packt Publishing, 2018.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Diário Oficial da União, Brasília, 12 de setembro de 1990. Seção 1 Suplemento. p. 1.
BRASIL. Decreto nº 8.936, de 19 de dezembro de 2.016. Institui a Plataforma de Cidadania Digital e dispões sobre a oferta de serviços públicos digitais, no âmbito dos órgãos e das entidades da administração pública federal direta, autárquica e fundacional. Diário Oficial da União, Brasília, n. 243, 20 de dezembro de 2016. Seção 1. p. 7.
BRASIL. Decreto nº 8.936, de 19 de dezembro de 2016. Institui a Plataforma de Cidadania Digital e dispões sobre a oferta de serviços públicos digitais, no âmbito dos órgãos e das entidades da administração pública federal direta, autárquica e fundacional. Diário Oficial da União, Brasília, n. 243, 20 de dezembro de 2016. Seção 1. p. 7.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União, Brasília, n. 157,15 de agosto de 2018. Seção 1. p. 59.
BRASIL. Decreto nº 10.160, de 9 de dezembro de 2019. Institui Política Nacional de Governo Aberto e o Comitê Interministerial de Governo Aberto. Diário Oficial da União, Brasília, n. 238, 10 de dezembro de 2019. Seção 1. p. 3.
BRASIL. Decreto nº 10.332, de 28 de abril de 2020. Institui a Estratégia de Governo Digital para o período de 2020 a 2022, no âmbito dos órgãos e das entidades da administração pública federal direta, autárquica e fundacional e dá outras providências. Diário Oficial da União, Brasília, n. 81, 29 de abril de 2020. Seção 1. p. 6.
BRASIL. Projeto de Lei nº 21, de 4 de fevereiro de 2020. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Camara dos Decputados. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928, acesso em: 02 jun. 2022.
BRASIL. Decreto nº 10.977, de 23 de fevereiro de 2022. Regulamenta a Lei nº 7.116, de 29 de agosto de 1983, para estabelecer os procedimentos e os requisitos para a expedição da Carteira de Identidade por órgãos de identificação dos Estados e do Distrito Federal, e a Lei nº 9.454, de 7 de abril de 1997, para estabelecer o Serviço de Identificação do Cidadão como o Sistema Nacional de Registro de Identificação Civil. Diário Oficial da União, Brasília, n. 38-A, 23 de fevereiro de 2022. Seção 1 Extra A. p. 1.
CLARKE, Arthur C. A space odyssey. 1. ed. Boston:Dutton, 1968.
COPPIN, Ben. Inteligência Artificial. São Paulo: Grupo GEN, 2010.
MOORE, Gordon E. Cramming more components onto integrated circuits. Eletronics Magazine, v. 38, n. 8, abr. 1965
SILVA, F.M.; LENZ, M.L.; FREITAS, P.H.C. et AL., E. Inteligência artificial. Porto Alegre: Grupo A, 2018.
SINGH, A. Ramasubramanian, K e SHIVAM, S. Building na Enterprise Chatbot, Work with Protected Enterprise Data Using Open Source Frameworks, New York, Estados Unidos: Apress Books, 2019.
TAKAHASHI, Tadao. Sociedade da informação no Brasil: livro verde. Brasília: Ministério da Ciência e Tecnologia, 2000.
TARTUCE, Flávio; NEVES, Daniel Amorim A. Manual de Direito do Consumidor: Direito Material e Processual. São Paulo: Grupo GEN, 2021.
UNITED NATIONS. Benchmarking e-government: a global perspective. New York, Estados Unidos: Division for Public Economics and Public Administration, 2002.
WORLD ECONOMIC FORUM. A Framework for developing a National Artificial Inteligence Strategy. Geneva, Switzerland: Centre for Fourth Industrial Revolution, 2019.
