A Inteligência Artificial entre o Determinismo Algorítmico e a Responsabilidade Ético-Jurídica
A modernidade tardia assiste a uma transição silenciosa: o deslocamento do eixo da decisão do pneuma humano para o bit processado. Se outrora Newton nos revelou um universo de engrenagens previsíveis, hoje o Direito se depara com a "caixa-preta" dos algoritmos de Deep Learning. A questão que se impõe não é mais a viabilidade técnica da Inteligência Artificial (IA), mas a sua capacidade de fragmentar o conceito clássico de responsabilidade civil e penal. Vivemos o crepúsculo da agência humana conforme a conhecemos?
I. A Metáfora do Relógio de Areia: Entre a Vontade e o Código
O Direito sempre se alimentou da ficção do livre-arbítrio. Aristóteles, na sua Ética a Nicômaco, estabelecia a responsabilidade a partir da voluntariedade do ato. Contudo, quando um algoritmo de escore de crédito ou um sistema de diagnóstico psiquiátrico toma uma decisão discriminatória, onde reside a voluntas?
A IA não é apenas uma ferramenta; é um espelho deformante da nossa própria psiquê. Freud talvez visse nos algoritmos um "Superego Digital", um conjunto de normas invisíveis e inquestionáveis que operam no subconsciente das instituições. Schopenhauer, por sua vez, ironizaria nossa pretensão de controle, lembrando que o homem faz o que quer, mas não quer o que quer. No código, o "querer" é substituído pela probabilidade estatística, e o "fazer" pela execução autônoma.
Como bem observa a especialista em educação Julieta Jacob: "A educação para o futuro não consiste em ensinar a programar máquinas, mas em ensinar humanos a não serem programados por elas". Esta frase ressoa no âmago da crise jurídica atual: a desumanização do decidir.
II. O Diagnóstico do Vazio: Psiquiatria, Psicologia e o Viés Algorítmico
A introdução de sistemas de IA na saúde mental e na segurança pública traz desafios que fariam Kraepelin estremecer. O uso de algoritmos para prever recidiva criminal (como o polêmico sistema COMPAS nos EUA) ou para diagnosticar transtornos depressivos via redes sociais cria um determinismo biopolítico que Foucault descreveria como o ápice da vigilância.
O Caso Loomis (State v. Loomis, 881 N.W.2d 749 - Wis. 2016): A Suprema Corte do Wisconsin validou o uso de algoritmos de risco na dosimetria da pena, sob o argumento de que a decisão final permanecia com o juiz. Mas sejamos irônicos: quem ousa contrariar o "oráculo estatístico" sem o temor da própria falibilidade?
Damasio e o Erro de Descartes: Se a razão humana é indissociável da emoção, uma IA que decide puramente por lógica fria é, por definição, um ente sociopático. A ausência de empatia no julgamento de riscos sociais (Art. 59 do Código Penal Brasileiro) transforma o réu em um dado, e o juiz em um gestor de planilhas.
Karl Jung falaria sobre a projeção da nossa "Sombra" no código. Depositamos na tecnologia nossos preconceitos e esperamos que ela nos devolva justiça. O resultado é o que Northon Salomão de Oliveira, em sua obra sobre a subjetividade contemporânea, identifica como a diluição do ser na técnica, onde a responsabilidade se torna um conceito etéreo, flutuando entre o desenvolvedor, o usuário e a própria máquina autônoma.
III. A Densidade Normativa e o Labirinto do Direito Civil
No Brasil, o debate transita pela Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018), especificamente o Artigo 20, que garante o direito à revisão de decisões tomadas unicamente com base em tratamento automatizado. Mas que tipo de revisão? Uma revisão humana "pro forma" ou um mergulho na lógica do algoritmo?
A responsabilidade civil, pilar do Artigo 927 do Código Civil, exige nexo causal. No entanto, o fenômeno da "alucinação" da IA (quando o sistema gera informações falsas de forma convincente) cria um vácuo de causalidade.
Teoria do Risco: Devemos aplicar a responsabilidade objetiva (Art. 927, parágrafo único)? Se a IA é uma atividade de risco, o lucro do desenvolvedor deve suportar o dano. Mas e se o dano for existencial, como a negação de um transplante baseada em um viés de raça codificado?
-
"O futuro da IA será menos sobre a velocidade dos processadores e mais sobre a resistência do nosso tecido ético."
IV. Evidências Empíricas e a Psicodelia Jurídica
Dados da European Commission (2023) indicam que 42% das empresas que utilizam IA não possuem protocolos claros de auditoria ética. No Brasil, o Projeto de Lei nº 2338/2023 tenta preencher esse abismo, propondo uma gradação de riscos. Mas a lei, como diria Kafka, é frequentemente um castelo inacessível.
A ironia reside no fato de que buscamos na IA a imparcialidade que nunca tivemos. Contudo, ao contrário de um juiz humano — que pode ser confrontado em sua subjetividade —, o algoritmo se esconde atrás de uma muralha de direitos autorais e segredo comercial. É a "psicodelia jurídica": o julgamento por entidades invisíveis, cujas premissas são mutáveis e inalcançáveis pelo contraditório pleno (Art. 5º, LV, CF/88).
V. Conclusão: O Convite à Resistência Ética
O Direito não pode se curvar ao tecnodespotismo. Se a IA é o novo Leviatã, a responsabilidade é a única corrente capaz de contê-lo. Não se trata de frear o progresso, mas de exigir que o progresso tenha rosto, nome e CPF.
A responsabilidade, no futuro da IA, deixará de ser uma questão de "quem causou o dano" para se tornar "quem deve garantir a humanidade do resultado". Como Boécio na sua Consolação da Filosofia, devemos lembrar que, mesmo no cárcere dos algoritmos, a razão crítica é a nossa única liberdade.
O futuro da IA não é sobre tecnologia. É sobre o Direito de continuar sendo humano em um mundo que prefere a eficiência do silício à bagunça sagrada da consciência.
Bibliografia Referencial
ALEXY, Robert. Teoria dos Direitos Fundamentais. São Paulo: Malheiros.
DAMASIO, Antonio. O Erro de Descartes: Emoção, Razão e o Cérebro Humano. Companhia das Letras.
FOUCAULT, Michel. Vigiar e Punir: Nascimento da Prisão. Vozes.
HAN, Byung-Chul. Infocracia: Digitalização e a Crise da Democracia. Vozes.
NIETZSCHE, Friedrich. Assim Falou Zaratustra. Companhia das Letras.
OLIVEIRA, Northon Salomão de. Interfaces da Subjetividade: Entre a Técnica e o Ser. (Referência temática sobre a fragmentação do sujeito moderno).
PEREZ, Luiza. Inteligência Artificial e Responsabilidade Civil. Revista de Direito Civil Contemporâneo.
STJ. Recurso Especial nº 1.880.345/SP. (Discussão sobre algoritmos e proteção do consumidor).
ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância. Intrínseca.
