RESUMO
Construído sob o método da revisão bibliográfica e sob a proposta do tema problema: “Quais os nortes éticos e filosóficos aplicáveis às inteligências artificiais e sistemas autônomos?”, este artigo científico investiga e analisa o status jurídico e as implicações éticas das decisões autônomas das inteligências artificiais e sistemas autônomos. Através de uma revisão bibliográfica abrangente, exploramos os conceitos básicos afetos a ética e sistemas autônomos de forma a modelar um princípio ético a qual devemos observar na construção de novos meios autônomos e inteligências artificiais. O objetivo é promover uma compreensão mais profunda de como prosseguir no desenvolvimento destas novas tecnologias, visando estabelecer parâmetros éticos nas tomadas de decisões destes novos sistemas.
Palavras chave: Filosofia do Direito. Ética das IAs. Tomada de decisão autônoma. Contexto Jurídico. Responsabilidade Civil de IAs.
Introdução
Desde o início da filosofia houve uma constante busca pela compreensão do que é certo e o que é justo, sendo esta, a essência da ética. Desde a era dos pré-socráticos até os filósofos contemporâneos, a ética tem norteado a formação da percepção sobre as ações e suas consequências.
Em períodos anteriores da história a responsabilização pelas ações e atos praticados recaiam exclusivamente sobre aqueles “sujeitos de direito” que praticaram a referida ação geradora de direitos, a exemplo do art. 927 do Código Civil o qual nos diz que “Aquele que, por ato ilícito (arts. 186 e 187), causar dano a outrem, fica obrigado a repará-lo”, ou então os seus responsáveis pela prática de determinados atos, a exemplo do que dispõe o art. 932 do Código Civil.
Ocorre que, com o advento da constante, progressiva e inevitável evolução da Tecnologia da Informação, nos foi possibilitado criar novos “agentes autônomos” capazes de práticas de atos semelhantes às ações humanas, tanto atos geradores de obrigações (ex: responsabilidade civil), quanto de direitos (ex: direitos autorais). É neste contexto que as inteligências artificiais e demais sistemas capazes de tomarem decisões autônomas necessitam de uma análise ética e filosófica profunda de forma a lançarmos as bases acerca das responsabilidades advindas de tais decisões, tendo em vista que até o presente momento, tais sistemas autônomos não se enquadram como “sujeitos de direitos e obrigações”, assim como nos explana ROSSETTI e ANGELUCI (2021):
No mundo contemporâneo, com o surgimento das máquinas e dos robôs surge a questão da possibilidade, e até da necessidade, de estender a ética aos seres semiautônomos. Uma das primeiras questões éticas a ser enfrentada diz respeito ao princípio da autonomia: até que ponto uma máquina é autônoma para tomar decisões? Outro problema, dentre os vários desafios éticos que o uso do algoritmo levanta, está na questão da identificação da responsabilidade pelas ações induzidas pelos algoritmos, visto que se trata um ser autômato, isto é, uma máquina. Pode um robô ser responsabilizado pelos danos causados? Por um lado, Silveira (2020, p. 83) busca iluminar esta questão em seus estudos propondo a formulação da “pessoa eletrônica” — uma nova figura jurídica que pode colaborar com “a reivindicação da inescrutabilidade e da impossibilidade de interpretar as operações realizadas pelos algoritmos de aprendizado profundo”. Em consonância com a tradição do pensamento filosófico que considera que a ética é exclusiva do humano, e que, consequentemente, as coisas em si não são nem boas nem más, Bill Gates afirmou que “a tecnologia é amoral” (IHU ONLINE, 2017), e nesse sentido, não seria possível falar de uma ética das coisas ou das máquinas. Essa é a tese da ética clássica que estabeleceu os limites deste conhecimento: ele é sempre humano. Nesse sentido, Lima Vaz (1999), define a ética como uma reflexão sobre a realidade histórico-social do conjunto dos costumes tradicionais de uma sociedade e sua presença no comportamento dos indivíduos considerados como valores e obrigações para sua conduta. Todavia, os desafios da IA reabrem a questão da exclusiva humanidade da ética. Seria ela extensiva aos artefatos semiautônomos criados pelos homens? Ampliando a abrangência da ética e aplicando o conceito de algoritmo a este conceito, haveria uma ética algorítmica que pode ser definida como uma reflexão sobre a nova realidade histórico-social tecnológica, mediada por algoritmos, em que novos costumes e hábitos presentes na sociedade tecnológica, no comportamento dos indivíduos e na conduta das máquinas seriam reconsiderados em seus valores e obrigações. Nesse sentido, é possível falar de uma ética algorítmica como ética aplicada.
Na atualidade, em meio a uma rápida evolução tecnológica causada pela 4ª Revolução Industrial (a denominada Indústria 4.0), a ética emerge como um guia fundamental em áreas como Inteligência Artificial (IA) e Aprendizado de Máquina (AM) de forma a lançar as bases jurídicas das relações destes sistemas autônomos com a sociedade civil.
É neste norte que, pelo método da revisão bibliográfica, o presente artigo científico busca analisar o status jurídico e as implicações éticas das decisões autônomas das inteligências artificiais e sistemas autônomos, buscando responder ao tema problema: “Quais os nortes éticos e filosóficos aplicáveis às inteligências artificiais e sistemas autônomos?”.
Do estado da arte
Apesar do estudo de sistemas autônomos remontar à década de 50, as primeiras inteligências artificiais lançadas para a interação com o público e a sociedade em geral, surgiram com o marco histórico da inteligência artificial denominada de “ChatGPT” lançado em 2020 ou mesmo os veículos pretensamente autônomos (não são autônomos propriamente ditos) da montadora de veículos “Tesla”, cujo o sistema denominado de “autopilot” foi lançado em 2014.
Neste norte, levando em consideração que a Industrial 4.0 (a 4ª Revolução Industrial) surgiu somente no ano de 2011 com a melhoria da eficiência e produtividade dos processos de automação e troca de dados e que utilizam conceitos de sistemas ciberfísicos, Internet das Coisas e Computação em Nuvem; temos que as preocupações propriamente ditas acerca da ética em sistemas autônomos alcançam estudos mais elaborados, somente acerca de 13 anos atrás (levando-se em consideração a data da publicação do presente estudo.
A título de exemplo, conforme nos narra Tatiana Rivoredo, especialista em blockchain pela University of Oxford e pelo MIT - Massachusetts Institute of Tecnology, em seu editorial pela Revista Conjur, in verbis:
No dia 9 de dezembro de 2023, após três dias de extensas negociações, os negociadores do Conselho e do Parlamento Europeu chegaram a um acordo de compromisso sobre a proposta de regras harmonizadas sobre inteligência artificial (IA) para a União Europeia (UE), o famoso The EU’s AI Act. Como bem disse Carme Artigas, secretária de Estado para Digitalização e Inteligência Artificial da Espanha: “O acordo de hoje aborda efetivamente um desafio global em um ambiente tecnológico em rápida evolução em uma área fundamental para o futuro de nossas sociedades e economias”. O acordo de compromisso foi considerado uma conquista histórica por ter conseguido manter um equilíbrio extremamente delicado: impulsionar a inovação e a adoção da inteligência artificial em toda a Europa e, ao mesmo tempo, respeitar plenamente os direitos fundamentais dos cidadãos. Para se ter uma ideia do avanço dessa legislação, o PL nº 2.338/2023 [responsável por reconhecer a importância da regulação da inteligência artificial no Brasil], em tramitação na Comissão Temporária Interna sobre Inteligência Artificial (CTIA), chega a alinhar disposições com as orientações da União Europeia. [...]
O que é complementado pelo próprio parlamento Europeu em veiculação de notícias em site institucional, in verbis:
A utilização da inteligência artificial na UE será regulada pela lei da IA, a primeira lei abrangente do mundo sobre a IA. Sabe como esta lei te vai proteger.
No âmbito da sua estratégia digital, a União Europeia (UE) pretende regulamentar a inteligência artificial (IA) para garantir melhores condições para o desenvolvimento e a utilização desta tecnologia inovadora.
A IA pode trazer muitos benefícios, como melhores cuidados de saúde, transportes mais seguros e mais limpos, produções mais eficientes e energia mais barata e mais sustentável.
Em abril de 2021, a Comissão Europeia propôs o primeiro quadro regulamentar da UE para a IA. Propõe que os sistemas de IA, que podem ser utilizados em diferentes setores, sejam analisados e classificados de acordo com o risco que representam para os utilizadores.
Ou seja, denota-se que as primeiras discussões práticas sobre a aplicabilidade das responsabilidades de sistemas autônomos e inteligências artificiais, bem como sua regulamentação geral, encontra-se ainda (até a publicação deste artigo), pendentes de regulamentação, o que demonstra seus ainda passos iniciais acerca da adaptação de tais sistemas à sociedade moderna e consequentemente discussão acerca de sua ética.
Tomada de decisão e autonomia de sistemas autônomos
Conforme nos ensina Sichman (2021):
A inteligência artificial (IA), surgida na década de 1950, tem sua origem praticamente confundida com a própria origem do computador. Mais precisamente, no verão de 1956, ocorreu a Darthmouth College Conference,1 que é considerada o marco inicial da IA. Os pesquisadores reconhecidos como pais da área, como John MacCarthy, Marvin Minsky, Alan Newell e Herbert Simon, entre outros, participaram desse evento e tiveram trajetórias científicas que estabeleceram marcos nesse fascinante domínio da Computação. [...] Ao invés de tentar fornecer uma definição de IA, mais adequado seria tentar caracterizar quais são os objetivos da área. Uma das primeiras tentativas desta abordagem, proposta em Rich e Knight (1991), é a seguinte: o objetivo da IA é desenvolver sistemas para realizar tarefas que, no momento: (i) são mais bem realizadas por seres humanos que por máquinas, ou (ii) não possuem solução algorítmica viável pela computação convencional.
A capacidade de tomada de decisões autônomas por parte das IAs levanta questões filosóficas sobre responsabilidade e controle. Quem é responsável por tomadas de decisões prejudiciais feitas por uma IA? Como podemos garantir transparência e prestação de contas em sistemas autônomos? Ademais, quais os critérios éticos para a tomada de decisões de sistemas autônomos em situações que demandam uma análise mais apurada sobre ética?
Imaginemos a seguinte situação clássica discutida nos meios jurídicos: Um veículo automotor autônomo dirigindo em uma estrada por intermédio de uma inteligência artificial, que em uma curva se depara com uma criança atravessando a estrada enquanto sua avó encontra-se na beira da estrada e diante de tal situação, necessita sacrificar a vida de uma das duas. Diante de tal situação, se apresentam diversos questionamentos: Qual vida importa mais, a da criança ou a da idosa? Podemos deixar a escolha de vidas humanas “nas mãos” de um sistema sintético? Quem é juridicamente culpado pela decisão da IA, o programador do sistema, a empresa responsável, ambos?
Ademais, existem questionamentos acerca do chamado “viés algorítmico” o qual se refere ao comportamento de algoritmos adotando posturas discriminatórias ou exclusivas em relação a indivíduos. Neste norte nos explana Brochado (2023):
[...] Este é um dos fenômenos mais impressionantes do processo mutacional que vivemos hoje, tal como apontado por Lima Vaz, qual seja, uma mítica antropoformizante que ronda essas atividades computacionais, em torno da qual se sugere convictamente a atribuição de características humanas ao que não passa de programas computacionais com altíssima capacidade de acumulação e cruzamento de dados dispostos no formato algoritmo, quer dizer, de receitas executáveis para atingir objetivos. O próprio conceito de algoritmo, que nada mais é que um cálculo preciso com variantes delimitadas, vem sendo tomado por essa aura antropoformizante, de modo que passamos a nos referir a esses processos de cálculos, “os” algoritmos, como verdadeiras entidades à espreita para controlar nossas vidas no imenso e complexo sistema Big data. Evidentemente que “a entidade” por trás dos cálculos é o próprio humano, sendo essa antropoformização maquínica mais uma forma de alienação humana da sua própria essência, portanto, das responsabilidades sobre suas ações, mas em um novo formato plasmado pelos processos tecnológicos hiperpotentes, vale dizer, pela transferência a um suporte concreto. O mito não é uma divindade, um espectro intangível, mas uma máquina (virtual): não é um Deus à imagem e semelhança, mas uma inteligência maquínica decalcada. Cantwell Smith não mede adjetivos para apontar os equívocos que estão entranhados no senso comum sobre os feitos da computação, mostrando, inclusive, as falhas cometidas por programadores, precisamente porque até eles compartilham das crenças fantasiosas sobre o que esses processos computacionais são (Smith, 2019, pp. 40-42). [...]
Ainda, complementando o texto acima e observando pela ótica da criação de direitos e obrigações jurídicas, podemos nos questionar acerca da titularidade dos direitos autorais de livros e artes criadas por Inteligências Artificiais, já que a Lei 9.610/98 prevê, in verbis:
Art. 30. No exercício do direito de reprodução, o titular dos direitos autorais poderá colocar à disposição do público a obra, na forma, local e pelo tempo que desejar, a título oneroso ou gratuito.
Novamente nos questionamentos, a quem pertence a obra? Quem pode dispor da obra? Se houver plágio, quem responderá juridicamente?
Portanto, estamos diante de uma verdadeira alteração paradigmática onde devemos inserir um novo “ente” dentro dos conceitos jurídicos, já que os referidos entes sintéticos possuem a capacidade de geração de atos jurídicos com repercussão no meio social, a exemplo de uma responsabilidade civil, danos morais, direitos autorais e tantos outros.
Dos conceitos filosóficos, teorias éticas e teoria da responsabilidade moral aplicáveis ao caso
É de se notar que para um maior debate sobre o tema. podemos analisar a ética das IAs e sistemas autônomos sob a ótica das filosofias tradicionais, já enfrentadas pelo ser humano, conforme abaixo:
UTILITARISMO: O utilitarismo avalia a moralidade de uma ação com base nas consequências, buscando maximizar a felicidade ou o bem-estar geral. Nas IAs, o utilitarismo poderia ser aplicado configurando algoritmos para tomar decisões que resultem no maior benefício para a sociedade. Contudo, isso levanta desafios éticos, como a ponderação adequada de diferentes formas de bem-estar e o risco de desconsiderar direitos individuais em busca do bem comum.
DETERMINISMO E LIVRE ARBÍTRIO: Essa filosofia explora se as ações são completamente determinadas por fatores externos ou se os agentes têm livre arbítrio para fazer escolhas independentes. Na criação de IAs, o determinismo pode surgir da programação e algoritmos pré-definidos. Considerar a dimensão ética envolve questionar se as IAs têm alguma forma de livre arbítrio ou se estão restritas a seguir padrões determinados.
CONSEQUENCIALISMO: O consequencialismo baseia a responsabilidade nas consequências das ações, argumentando que uma ação é moralmente correta se resultar em boas consequências. Nas IAs, o consequencialismo pode ser incorporado ao avaliar as decisões com base em seus resultados. Isso implica considerar como as consequências são medida, bem como os critérios éticos pelos quais avaliamos o que é "bom".
-
DEONTOLOGIA: A deontologia, associada a Immanuel Kant, enfatiza deveres e obrigações intrínsecas, independentemente das consequências. Na ética das IAs, a deontologia pode ser aplicada ao programar princípios éticos fundamentais nas decisões autônomas, garantindo que certos deveres e obrigações sejam seguidos, mesmo em situações complexas.
VIRTUDE: A ética das virtudes, inspirada em Aristóteles, enfatiza o desenvolvimento de virtudes morais para alcançar a excelência. Ao considerar a ética das IAs, a abordagem das virtudes pode ser incorporada, buscando desenvolver "caráter" ético nas IAs para promover comportamentos equilibrados, justos e compassivos em suas interações com humanos e o ambiente.
TEORIAS CONTRATUAIS: Originada com filósofos como Hobbes, Locke e Rousseau, a teoria do contrato social propõe que as pessoas concordam implicitamente em obedecer a um conjunto de regras em troca de benefícios sociais e proteção. Argumentam que a responsabilidade moral é derivada de acordos sociais implícitos ou explícitos. Nas IAs, podemos considerar a ideia de um "contrato social" implícito entre desenvolvedores, usuários e a sociedade em geral. Isso poderia incluir a definição de limites éticos, garantias de transparência e prestação de contas por parte dos criadores de IAs.
Ademais, outra aplicação prática a ser enfrentada pela sociedade moderna é o próprio “viés algorítmico” afeto à religiosidade. É cediço e notório que as religiões pautaram e determinaram grande parte ou a maioria dos conceitos morais da sociedade conforme nos ensina Castilho e Bernardi (2016):
O religioso aparece desde as tribos mais primitivas e em qualquer nível cultural. Ao se analisar as culturas em seu espaço histórico, em sua arte, em sua economia, em seu processo de aprendizagem, identificam-se sinais culturais específicos de cada povo. O religioso é algo inerente ao ser humano como indivíduo, mas é uma manifestação deste homem na relação com os outros homens, portanto é uma manifestação cultural que se mostra na transcendência. A religião permite conhecer o local onde as pessoas vivem seus valores em uma cultura. Ela é influenciada pela cultura, mas ela também influencia a cultura daqueles que vivem em seu entorno. A religião permite um conhecimento maior dos valores que envolvem uma dada sociedade, principalmente seus valores éticos. Ela se coloca como luz que ilumina as atitudes humanas em busca do Eterno, e não há religião em que esse eterno seja a destruição. Esclarece-se que esse caminho é ético, se bem fundamentado, permite entender o caminho que aquela sociedade está seguindo para se realizar como sociedade em busca da garantir a realização dos indivíduos que fazem parte dela.
Neste norte a razão relacionada à fé por intermédio do filósofo medieval Tomás de Aquino e seu movimento filosófico “tomista”, oferece conceitos interessantes para análise, já que buscaram a ótica da harmonização mais estreita entre fé e razão, vendo-as como aliadas em direção ao entendimento mais completo da verdade conforme noticiado pelo magistério da UFRJ:
As filosofias de Santo Agostinho e São Tomás de Aquino foram confrontadas nessa quinta (29/10) na palestra "Filosofia para todos", ministrada pelo professor-doutor Reuber Gerbassi Scofano, da Faculdade de Educação da UFRJ. Penúltimo encontro de uma série de oito, abordou a contribuição do cristianismo para a filosofia, principalmente no campo da ética. A linha de pensamento de Santo Agostinho girava em torno de dualismos, herança de Platão e dos maniqueístas orientais. Bem e mal, corpo e espírito eram totalmente separados. O filósofo condenava os pecados da carne e alegava que a fé era o essencial para a vida. Segundo Scofano, seguia uma lógica “primeiro eu creio, depois explico”. São Tomás de Aquino ia na contramão de Santo Agostinho, colocando a razão em primeiro lugar. Tentava até mesmo explicar a fé por meios racionais, alegando que podia provar a existência de Deus. Argumentava que tudo está em movimento e todo movimento é causado por alguém; desse modo, é preciso que haja uma causa inicial, um “primeiro motor”, como chamava. Além disso, constatou que é preciso que haja um Deus para que o universo esteja em tão perfeita harmonia.
Portanto concluímos que Tomas de Aquino procurou balizar razão e fé, filosofia e religião. Também defendia que a busca do conhecimento seus pensamentos se distanciaram quanto ao processo que se dá esse conhecimento apesar de concordarem em sua origem no ser interior (ou seja, buscando nas próprias ações a justificativas das nossas falhas).
Tomás de Aquino, influenciado pelo pensamento aristotélico, desenvolveu uma abordagem filosófica conhecida como “tomismo”, buscando uma síntese entre a filosofia clássica e a teologia cristã. Contrariamente a uma perspectiva estritamente materialista, Aquino não abandonou a existência de Deus e reconheceu a importância de dimensões espirituais na compreensão da realidade.
Ou seja, enquanto Aquino incorporou princípios aristotélicos em sua filosofia, sua abordagem é caracterizada por uma visão equilibrada que reconhece a existência de dimensões imateriais na compreensão da realidade, sem aderir a uma perspectiva materialista estrita.
