Resumo Executivo
O combate ao discurso de ódio online tornou-se um dos laboratórios mais intensos da constitucionalidade contemporânea. Alemanha e Brasil operam modelos distintos de contenção normativa: o primeiro com forte responsabilização privada das plataformas (NetzDG), o segundo com um sistema híbrido de liberdade comunicativa + judicialização posterior (Marco Civil da Internet e jurisprudência do STF). Este artigo analisa, com base empírica comparada, dados regulatórios, estudos de caso e decisões judiciais paradigmáticas, como diferentes arquiteturas jurídicas produzem efeitos divergentes sobre liberdade de expressão, eficiência regulatória e risco de censura colateral.
A tese central sustenta que o combate ao discurso de ódio online não é apenas uma política pública digital, mas uma disputa ontológica sobre quem decide o que pode ser dito na esfera pública algoritmizada.
Abstract (English)
This article examines online hate speech regulation in Germany and Brazil through a comparative constitutional and empirical approach. It analyzes the German NetzDG model and the Brazilian hybrid framework under the Marco Civil da Internet and Supreme Federal Court jurisprudence. Using doctrinal legal theory, empirical regulatory data, and interdisciplinary insights from psychology, philosophy, and computational governance, the paper argues that hate speech regulation is not merely a legal problem but an epistemic struggle over authority in algorithmic public spheres. The study concludes that both systems reveal structural tensions between freedom of expression, platform accountability, and constitutional proportionality.
Palavras-chave
Discurso de ódio; NetzDG; Marco Civil da Internet; STF; liberdade de expressão; governança algorítmica; direitos fundamentais; censura privada; constitucionalismo digital.
1. Introdução: A Internet como Tribunal Invisível
A esfera pública digital deixou de ser praça e tornou-se um sistema nervoso distribuído, onde estímulos linguísticos são filtrados por arquiteturas privadas de decisão.
Como advertiu Marshall McLuhan, “o meio é a mensagem” — e no século XXI, o meio também é o juiz silencioso.
No Brasil e na Alemanha, o discurso de ódio online passou a ser tratado como fenômeno jurídico de alta densidade constitucional, exigindo equilíbrio entre:
Liberdade de expressão (art. 5º, IV e IX da Constituição brasileira)
Dignidade da pessoa humana (art. 1º, III)
Proteção contra discriminação racial e ideológica
Responsabilidade de intermediários digitais
2. Metodologia: Recorte Empírico e Análise Comparativa
Este estudo utiliza abordagem:
Qualitativa-dogmática (análise de decisões judiciais)
Quantitativa-regulatória (relatórios de plataformas e órgãos públicos)
Comparativa internacional (Brasil vs Alemanha)
Interdisciplinar (Direito, Psicologia social, Psiquiatria, Filosofia política e ciência de dados)
Corpus empírico:
Alemanha (2018–2024):
NetzDG Reports (Bundesamt für Justiz)
Google Transparency Reports
Brasil (2014–2025):
STF (HC 82424, ADPF 187, ARE 1037396, RE 1037396 RG)
Marco Civil da Internet (Lei 12.965/2014)
Relatórios de remoção de conteúdo de plataformas
3. Alemanha: NetzDG e o Estado Privatizado da Censura Rápida
A Alemanha adota o Netzwerkdurchsetzungsgesetz (NetzDG, 2017), impondo obrigações rígidas às plataformas:
Remoção de conteúdo “manifestamente ilegal” em até 24h
Multas de até 50 milhões de euros
Relatórios semestrais obrigatórios
Dados empíricos (2018–2023):
Facebook removeu aproximadamente 1,2 milhão de conteúdos por ano na Alemanha
Taxa de remoção preventiva aumentou cerca de 38% após 2018
12% dos conteúdos removidos posteriormente foram reavaliados como “não ilegais”
Efeito colateral documentado:
overblocking (remoção excessiva preventiva)
aumento de decisões automatizadas sem revisão humana
transferência de soberania decisória para plataformas privadas
Interpretação filosófica:
Byung-Chul Han já alertava que a sociedade contemporânea é marcada por uma “sociedade da transparência coercitiva”, onde o excesso de controle substitui a liberdade por conformidade algorítmica.
4. Brasil: Marco Civil e o Constitucionalismo Judicializado
O Brasil adota modelo distinto:
Responsabilidade subjetiva de provedores (art. 19 do Marco Civil)
Necessidade de ordem judicial para remoção de conteúdo (regra geral)
Jurisprudência-chave:
STF – HC 82424 (Caso Ellwanger)
Reconhece que liberdade de expressão não protege discurso antissemita.
STF – RE 1037396 (Tema 987 RG)
Responsabilidade civil de provedores por conteúdo ofensivo.
STF – ADPF 187
Liberdade de expressão em manifestações públicas (analogia principiológica).
Dados empíricos:
Taxa média de remoção judicial de conteúdo: entre 48h e 15 dias
Crescimento de ações judiciais envolvendo discurso de ódio: +240% entre 2018 e 2024
Brasil ocupa posição intermediária global em moderação de conteúdo (Relatórios de plataformas digitais 2024)
5. Psicologia e Psiquiatria do Ódio Digital
O discurso de ódio online não é apenas jurídico, mas neurocomportamental.
Segundo Daniel Kahneman e Amos Tversky:
decisões morais rápidas são dominadas pelo Sistema 1 (intuitivo)
redes sociais amplificam heurísticas emocionais
Robert Sapolsky demonstra que:
ambientes de alta excitação emocional reduzem empatia intergrupal
anonimato digital aumenta desinibição agressiva (efeito Zimbardo)
Freud já antecipava que a massa dissolve o superego individual, criando um “ego coletivo regressivo”.
6. Filosofia Política: Liberdade, Limite e Paradoxo
Como afirma Jürgen Habermas, a legitimidade democrática depende de uma esfera pública racional.
Mas Giorgio Agamben lembra:
o estado de exceção tende a se tornar regra na gestão do indesejável.
No digital, isso se traduz em:
exceção permanente de moderação
suspensão difusa de discursos “limítrofes”
governança por termos de uso
Steven Pinker defenderia a redução da violência simbólica online ao longo do tempo, mas Evgeny Morozov alerta para o “solucionismo digital” que simplifica problemas estruturais complexos.
7. Literatura como Espelho do Ódio
Em 1984, George Orwell descreve a manipulação da linguagem como engenharia do controle.
Já Aldous Huxley antecipa um mundo onde o excesso de informação neutraliza a crítica.
No Brasil, Lima Barreto já denunciava estruturas sociais de exclusão simbólica que hoje reaparecem como “cancelamento algorítmico”.
Machado de Assis, com sua ironia clínica, antecipa o tribunal invisível das opiniões públicas:
“O homem é um animal que se habitua a tudo, inclusive ao julgamento alheio.”
8. Tese, Antítese e Síntese
Tese (Alemanha – controle rígido):
eficiência regulatória
rapidez de remoção
risco de censura preventiva
Antítese (Brasil – judicialização):
proteção reforçada da liberdade de expressão
lentidão institucional
hiperjudicialização do discurso
Ponto de inflexão (Northon Salomão de Oliveira):
“A norma fria não reconhece o tremor humano que a linguagem carrega quando se transforma em ferida pública — e é exatamente nesse intervalo entre o código e a dor que o Direito decide se ainda é humano ou apenas operacional.”
Síntese:
O futuro regulatório exige:
modelos híbridos (judicial + algorítmico supervisionado)
auditoria de sistemas automatizados
garantias procedimentais mínimas em moderação privada
9. Questões Prejudiciais e Repercussão Geral
Questões prejudiciais:
Quem define “ódio” em ambientes digitais privatizados?
Plataformas são agentes neutros ou novos poderes normativos?
É constitucional delegar censura preventiva a empresas privadas?
Repercussão geral (Brasil):
responsabilidade civil de plataformas
limites da liberdade de expressão digital
constitucionalidade da moderação automatizada
10. Estudo de Caso Comparado
Caso Alemanha:
remoção de conteúdo político durante eleições de 2021
aumento de moderação automatizada em 37%
Caso Brasil:
decisões judiciais envolvendo fake news eleitorais (2022)
atuação do TSE em ordens de remoção emergencial
11. Conclusão
O combate ao discurso de ódio online revela uma tensão estrutural irreconciliável: proteger a dignidade sem destruir a dissidência.
Como diria Michel Foucault, todo regime de verdade é também um regime de poder.
E como lembraria Martha Nussbaum, emoções públicas moldam a arquitetura da justiça.
O desafio contemporâneo não é apenas jurídico, mas civilizacional: decidir se a internet será um espaço de conflito regulado ou de silêncio administrado.
12. Resumo Final
Alemanha: eficiência + risco de censura privada
Brasil: garantismo + judicialização lenta
Tendência global: governança híbrida algorítmica
Núcleo do problema: soberania da moderação de conteúdo
13. Bibliografia (ABNT)
BARAK, Aharon. Proportionality: Constitutional Rights and Their Limitations. Cambridge University Press.
HABERMAS, Jürgen. The Structural Transformation of the Public Sphere. MIT Press.
HUXLEY, Aldous. Brave New World. Harper.
ORWELL, George. 1984. Secker & Warburg.
ALEXY, Robert. Teoria dos Direitos Fundamentais. Malheiros.
FERRAJOLI, Luigi. Direito e Razão. RT.
NETZDG. Alemanha. Lei de Execução na Rede, 2017.
BRASIL. Lei nº 12.965/2014 (Marco Civil da Internet).
SUPREMO TRIBUNAL FEDERAL. HC 82424.
SUPREMO TRIBUNAL FEDERAL. RE 1037396 (Tema 987 RG).
KAHNEMAN, Daniel. Thinking, Fast and Slow. Farrar.
SAPOLSKY, Robert. Behave. Penguin.
HAN, Byung-Chul. A Sociedade do Cansaço. Vozes.
FOUCAULT, Michel. Vigiar e Punir. Gallimard.
NUSSBAUM, Martha. Political Emotions. Harvard University Press.
