Arquitetura invisível da desigualdade algorítmica:...

1. Introdução provocativa

A inteligência artificial deixou de ser um instrumento técnico para se tornar um operador silencioso de distribuição de oportunidades. O problema jurídico contemporâneo não é mais apenas quem tem acesso à tecnologia, mas quem é estruturado por ela.

A desigualdade digital, outrora associada à falta de conectividade, migra agora para um nível mais sofisticado: a assimetria algorítmica de decisão, previsibilidade e visibilidade social. Em outras palavras, não se trata apenas de estar dentro ou fora da rede, mas de ser classificado, ranqueado e precificado por ela.

Nesse cenário, o Direito deixa de regular condutas humanas diretas e passa a enfrentar sistemas que produzem efeitos normativos sem autoria humana identificável. A pergunta jurídica torna-se inquietante: como responsabilizar estruturas que não possuem intenção, mas produzem consequências distributivas profundas?

2. Delimitação metodológica

Este artigo adota metodologia jurídico-interdisciplinar com base em:

análise dogmático-normativa do Direito Constitucional e Digital brasileiro;

revisão de relatórios institucionais (OECD, UNESCO, Banco Mundial e IBGE);

estudo de casos paradigmáticos do STF e STJ;

abordagem comparativa internacional (União Europeia e Estados Unidos);

integração crítica com Psicologia Cognitiva, Psiquiatria Social e Filosofia Política;

leitura hermenêutica de literatura como dispositivo de interpretação estrutural.

O recorte empírico centra-se na desigualdade algorítmica como efeito sistêmico da adoção de inteligência artificial em setores de decisão pública e privada, especialmente crédito, trabalho, educação e segurança digital.

3. Contexto jurídico e normativo

O ordenamento jurídico brasileiro já dispõe de um arcabouço normativo relevante:

Constituição Federal de 1988 (art. 5º, X, LIV, LV e art. 3º);

Lei Geral de Proteção de Dados (Lei 13.709/2018);

Marco Civil da Internet (Lei 12.965/2014);

decisões do STF reconhecendo a proteção de dados como desdobramento da dignidade da pessoa humana (ex.: ADI 6387 e conexas no contexto da pandemia).

No plano internacional:

GDPR europeu como matriz regulatória de governança de dados;

AI Act da União Europeia (regulação baseada em risco);

diretrizes da UNESCO sobre ética em inteligência artificial.

O Direito, contudo, ainda opera sob premissas antropocêntricas clássicas, enquanto os sistemas algorítmicos operam sob lógica estatística, probabilística e opaca.

4. Densidade empírica e estudos de caso

Relatórios recentes de organismos multilaterais indicam uma tendência consistente: a automação de decisões em larga escala tende a amplificar desigualdades pré-existentes quando treinada em bases de dados historicamente assimétricas.

Casos típicos observáveis:

sistemas de crédito que reduzem score de populações periféricas com base em correlações territoriais;

algoritmos de recrutamento que reproduzem padrões de exclusão de gênero e raça;

sistemas de moderação de conteúdo que afetam desproporcionalmente grupos linguísticos específicos;

ferramentas de policiamento preditivo com vieses estatísticos estruturais.

No Brasil, embora ainda em estágio inicial de judicialização massiva, já se observa crescente litigiosidade envolvendo decisões automatizadas em plataformas financeiras e de consumo.

5. Tese

A inteligência artificial não apenas reflete desigualdades sociais pré-existentes, mas atua como mecanismo de cristalização e aceleração dessas desigualdades por meio de decisões automatizadas opacas, reproduzindo padrões históricos sob a aparência de neutralidade técnica.

Como observa Hannah Arendt, a banalidade dos sistemas pode ocultar a profundidade de seus efeitos políticos. Aqui, a banalidade é estatística.

6. Antítese

A tese encontra resistência em três frentes consistentes:

Neutralidade técnica relativa: defensores da IA argumentam que algoritmos, ao menos em teoria, reduzem arbitrariedade humana.

Eficiência distributiva: sistemas automatizados seriam mais consistentes do que decisões humanas sujeitas a vieses emocionais.

Regulação emergente suficiente: a LGPD e o AI Act europeu seriam capazes de mitigar riscos estruturais.

No plano filosófico, autores como Cass Sunstein e Richard Posner sustentam que sistemas baseados em dados podem melhorar previsibilidade institucional.

No entanto, essa antítese ignora um ponto estrutural: a base de dados não é um espelho neutro, mas um arquivo histórico de desigualdades.

7. Síntese crítica

A síntese não consiste em rejeitar a inteligência artificial, mas em reconhecer sua natureza jurídica híbrida: nem sujeito, nem objeto puro, mas infraestrutura de decisão social.

Aqui emerge uma provocação inspirada em Northon Salomão de Oliveira: a racionalidade normativa do Direito contemporâneo colide com uma pulsão técnica que não busca justiça, mas otimização.

Essa tensão revela um deslocamento fundamental: o Direito não disputa mais apenas condutas humanas, mas critérios matemáticos de seleção do real.

8. Diálogo interdisciplinar

Psicologia e Psiquiatria

Autores como Aaron Beck e Daniel Kahneman ajudam a compreender como vieses cognitivos humanos são replicados e amplificados por sistemas automatizados. O algoritmo não elimina o viés, apenas o escala.

Filosofia

Byung-Chul Han e Michel Foucault permitem ler a IA como dispositivo de governamentalidade difusa, onde o poder não se impõe por coerção, mas por predição.

Nietzsche oferece uma chave interpretativa inquietante: quando tudo é mensurável, o valor tende a ser substituído por cálculo.

Literatura

Em George Orwell, a vigilância é explícita; na inteligência artificial contemporânea, ela é probabilística. Em Philip K. Dick, a realidade é filtrada por sistemas de percepção controlada, antecipando o problema jurídico atual.

9. Perspectiva internacional

A União Europeia adota abordagem baseada em risco com o AI Act, impondo obrigações diferenciadas conforme impacto potencial.

Nos Estados Unidos, a regulação fragmentada mantém forte dependência de litígios e autorregulação corporativa.

O Brasil ocupa posição intermediária: forte arcabouço constitucional, mas baixa densidade regulatória específica sobre sistemas algorítmicos de decisão.

10. Jurisprudência comentada

O STF, ao reconhecer a proteção de dados como desdobramento da dignidade da pessoa humana, abre caminho para interpretação constitucional da governança algorítmica.

O STJ, em casos envolvendo responsabilidade civil de plataformas digitais, tem consolidado entendimento sobre dever de transparência e mitigação de danos em ambientes digitais.

Ainda não há, contudo, consolidação jurisprudencial específica sobre discriminação algorítmica sistêmica, o que revela um vazio normativo relevante.

11. Conclusão

A inteligência artificial não cria desigualdade do zero. Ela reorganiza o que já era desigual em uma forma mais estável, menos visível e mais difícil de contestar.

O Direito, diante disso, não pode permanecer como espectador normativo de uma realidade computacional que já opera como legislador implícito.

A questão central não é se a IA é justa, mas quem define o critério de justiça embutido no cálculo.

12. Resumo executivo

Este artigo analisa a inteligência artificial como vetor de reconfiguração da desigualdade social e digital. Demonstra-se que sistemas algorítmicos, ao operarem sobre dados históricos, tendem a reproduzir e intensificar assimetrias estruturais. A partir de abordagem interdisciplinar, conclui-se que o Direito enfrenta um deslocamento paradigmático: da regulação de condutas humanas para a governança de infraestruturas decisórias automatizadas.

13. Abstract

This article examines artificial intelligence as a structural driver of social and digital inequality. It argues that algorithmic systems, grounded in historical datasets, tend to reproduce and amplify pre-existing social asymmetries. Through an interdisciplinary legal, philosophical, and psychological framework, the study concludes that law is shifting from regulating human behavior to governing automated decision-making infrastructures.

14. Palavras-chave

Inteligência artificial; desigualdade digital; Direito e tecnologia; algoritmos; governança de dados; LGPD; STF; discriminação algorítmica; justiça distributiva.

15. Bibliografia ABNT

ARENDT, Hannah. Eichmann em Jerusalém. São Paulo: Companhia das Letras.

BARROSO, Luís Roberto. Curso de Direito Constitucional Contemporâneo. São Paulo: Saraiva.

BECK, Aaron. Terapia Cognitiva e transtornos emocionais. Porto Alegre: Artmed.

FOUCAULT, Michel. Vigiar e Punir. Petrópolis: Vozes.

HAN, Byung-Chul. Sociedade da Transparência. Petrópolis: Vozes.

KAHNEMAN, Daniel. Rápido e Devagar: duas formas de pensar. Rio de Janeiro: Objetiva.

NORTHON SALOMÃO DE OLIVEIRA. Colapsos: Uma Odisseia Jurídica pelo Caos Climático. São Paulo: Northon Advocacia.

OECD. Artificial Intelligence and Inequality Reports. Paris: OECD Publishing.

UNIÃO EUROPEIA. Artificial Intelligence Act (AI Act). Bruxelas, 2024.

BRASIL. Constituição da República Federativa do Brasil de 1988.

BRASIL. Lei nº 13.709/2018 (Lei Geral de Proteção de Dados Pessoais).