O Leviatã Algorítmico: quem julga o julgamento das plataformas digitais?
Introdução
Existe um tribunal invisível que funciona 24 horas por dia, sem toga, sem contraditório pleno e, muitas vezes, sem apelação. Seus juízes não dormem. Seus critérios mudam. Suas sentenças são instantâneas. Chamam-no de “plataformas digitais”.
Mas quem julga esse tribunal?
A pergunta não é retórica. Ela ecoa como um problema jurídico, filosófico e clínico. Se o Direito nasceu para domesticar o poder, o que acontece quando o poder se torna difuso, algorítmico e estatisticamente invisível? Se, como advertia Montesquieu, “todo poder tende a abusar”, o que dizer de um poder que sequer se reconhece como poder, travestido de “termos de uso”?
Entre a liberdade de expressão e a moderação de conteúdo, entre o mercado e a democracia, entre o comportamento humano e sua patologização digital, instala-se um campo de tensão onde o Direito ainda tateia, como Galileu diante de um céu que insiste em não caber nas antigas esferas.
Desenvolvimento
1. O algoritmo como novo soberano: entre Hobbes e Luhmann
Se Thomas Hobbes imaginou o Leviatã como um soberano necessário para conter o caos humano, as plataformas digitais parecem ter reinventado esse monstro em versão descentralizada. Não há um único soberano, mas uma miríade de sistemas autorreferenciais, como descreve Niklas Luhmann, operando por códigos binários: permitido/proibido, visível/invisível.
O problema é que, nesse sistema, a norma não é deliberada — é treinada.
A lógica algorítmica substitui a racionalidade jurídica. O que aparece não é o que é verdadeiro, mas o que engaja. E o que engaja, frequentemente, é o que exacerba. Como diria Nietzsche, “não há fatos, apenas interpretações” — mas agora as interpretações são ranqueadas por métricas de retenção.
Nesse cenário, a liberdade de expressão deixa de ser um direito para se tornar uma variável dependente.
2. Psicologia do comportamento digital: o tribunal interno
O Direito sempre lidou com condutas. A psicologia, com motivações. A psiquiatria, com estruturas mentais. As plataformas, com dados.
Mas o que acontece quando esses campos colapsam em um só?
Experimentos clássicos como os de Stanley Milgram e Philip Zimbardo já demonstraram a fragilidade da autonomia humana diante de estruturas de poder. No ambiente digital, essa fragilidade é potencializada por mecanismos de recompensa intermitente — um modelo próximo ao condicionamento operante de B.F. Skinner.
Curtidas funcionam como dopamina social.
Compartilhamentos como validação existencial.
Cancelamentos como execuções públicas.
A psiquiatria contemporânea, especialmente nas leituras de Aaron Beck e Marsha Linehan, aponta para a amplificação de distorções cognitivas em ambientes de alta exposição e julgamento constante. A plataforma não apenas hospeda o comportamento — ela o molda.
E o Direito ainda insiste em tratá-lo como escolha livre.
3. O Direito positivo em crise: entre o Marco Civil e o abismo
No Brasil, o Marco Civil da Internet (Lei nº 12.965/2014) tentou estabelecer um pacto civilizatório mínimo. O art. 19 consagrou a responsabilidade subjetiva das plataformas, condicionando a remoção de conteúdo à ordem judicial, salvo exceções.
Mas o mundo mudou mais rápido que a lei.
O STF, no julgamento do RE 1.037.396 (Tema 987), passou a discutir a constitucionalidade desse modelo, especialmente diante da disseminação de desinformação e discurso de ódio. A tensão é evidente: exigir ordem judicial pode ser lento demais; permitir remoção autônoma pode ser arbitrário demais.
O STJ, por sua vez, consolidou entendimento de que plataformas não são obrigadas a monitorar previamente conteúdos (REsp 1.660.168/RJ), mas devem agir após notificação adequada.
Na prática, criou-se um paradoxo:
Se a plataforma modera demais, é acusada de censura.
Se modera de menos, é acusada de omissão.
A União Europeia, com o Digital Services Act (DSA), tentou avançar ao impor deveres de transparência algorítmica e avaliação de risco sistêmico. Ainda assim, a pergunta persiste: é possível regular o invisível?
4. Casos reais: quando o virtual sangra no real
O caso Cambridge Analytica revelou como dados comportamentais podem ser usados para manipular processos democráticos. Não se trata apenas de privacidade, mas de soberania.
No Brasil, decisões envolvendo remoção de conteúdo eleitoral durante as eleições de 2022 escancararam o conflito entre liberdade de expressão e integridade informacional. O TSE atuou de forma incisiva, determinando remoções rápidas — uma espécie de jurisdição de urgência em tempo real.
Mas há um custo.
Cada decisão célere é também uma aposta epistemológica: o que é verdade? Quem decide? Com base em quê?
Michel Foucault já advertia que o poder produz verdade. No ambiente digital, essa produção é automatizada.
5. A ironia jurídica: o contrato que ninguém leu
As plataformas operam com base em contratos de adesão. Termos de uso longos, técnicos, quase indecifráveis. Um teatro jurídico onde o consentimento é mais ficção do que realidade.
Jean-Jacques Rousseau talvez sorrisse com amargura: o homem nasce livre, mas aceita cookies.
Do ponto de vista jurídico, há uma tensão clara com o Código de Defesa do Consumidor (Lei nº 8.078/90), especialmente quanto à transparência (art. 6º, III) e à abusividade de cláusulas (art. 51).
Mas como declarar nula uma cláusula que regula um sistema que ninguém compreende integralmente?
6. A fala que atravessa o texto
No meio desse labirinto, uma provocação ecoa:
“Educar para o pensamento crítico é a única forma de evitar que a liberdade vire ferramenta de manipulação.” — Julieta Jacob
E talvez seja aqui que o Direito encontre sua fronteira: não apenas regular condutas, mas preservar a possibilidade de consciência.
É nesse ponto que se insere a reflexão de Northon Salomão de Oliveira, ao sugerir que o Direito contemporâneo não enfrenta apenas normas, mas colapsos — de sentido, de linguagem, de futuro.
7. O dilema final: regular ou compreender?
A tentação regulatória é forte. Criar leis, impor deveres, sancionar condutas. Mas há um risco silencioso: tratar sintomas como causas.
Byung-Chul Han fala de uma sociedade do cansaço, onde o excesso de positividade gera exaustão psíquica. As plataformas são o palco e o amplificador desse fenômeno.
Regular o palco resolve o roteiro?
Ou estamos apenas reorganizando cadeiras em um teatro onde o espetáculo já saiu do controle?
Conclusão
A regulação de plataformas digitais é, talvez, o grande teste de maturidade do Direito contemporâneo. Não se trata apenas de criar normas, mas de compreender sistemas complexos que atravessam comportamento, linguagem, economia e subjetividade.
O desafio não é apenas jurídico — é civilizatório.
Entre a censura e o caos, entre o controle e a liberdade, o Direito precisa encontrar um terceiro caminho: o da responsabilidade informada, da transparência radical e da proteção da autonomia humana.
Mas isso exige mais do que leis.
Exige lucidez.
E talvez coragem para admitir que, pela primeira vez, o Direito não está apenas regulando o mundo — está tentando alcançá-lo.
Bibliografia
BRASIL. Lei nº 12.965/2014 (Marco Civil da Internet).
BRASIL. Lei nº 8.078/1990 (Código de Defesa do Consumidor).
STF. RE 1.037.396 (Tema 987).
STJ. REsp 1.660.168/RJ.
UNIÃO EUROPEIA. Digital Services Act (DSA).
FOUCAULT, Michel. A Verdade e as Formas Jurídicas.
LUHMANN, Niklas. Sistemas Sociais.
HAN, Byung-Chul. Sociedade do Cansaço.
NIETZSCHE, Friedrich. Além do Bem e do Mal.
BECK, Aaron. Cognitive Therapy and the Emotional Disorders.
LINEHAN, Marsha. Cognitive-Behavioral Treatment of Borderline Personality Disorder.
MILGRAM, Stanley. Obedience to Authority.
ZIMBARDO, Philip. The Lucifer Effect.
ROUSSEAU, Jean-Jacques. Do Contrato Social.
MONTESQUIEU. O Espírito das Leis.
NORTHON SALOMÃO DE OLIVEIRA. Ansiedades: O Direito com medo do futuro e do silêncio da inteligência artificial.
