Introdução
Em janeiro de 2024, imagens pornográficas falsas envolvendo a cantora Taylor Swift circularam em plataformas digitais e alcançaram dezenas de milhões de visualizações em poucas horas. O episódio não inaugurou o problema dos deepfakes, mas expôs algo mais perturbador: a industrialização da falsificação emocional. A inteligência artificial generativa deixou de ser apenas ferramenta tecnológica para converter-se em infraestrutura de manipulação identitária.
O corpo humano, antes limitado pela materialidade biológica, passou a existir como ativo replicável. A voz pode ser clonada. O rosto pode ser sintetizado. O gesto pode ser reconstruído. A intimidade pode ser fabricada sem acontecimento real. A personalidade jurídica encontrou, enfim, um duplo algorítmico.
O Direito brasileiro, estruturado sobre categorias clássicas da personalidade civil e da dignidade humana, enfrenta uma mutação ontológica. Não se trata apenas de dano moral ou violação de imagem. O que emerge é uma economia política da simulação humana, em que plataformas monetizam atenção, algoritmos amplificam violência simbólica e usuários consomem ficções hiper-realistas como entretenimento cotidiano.
A pergunta jurídica deixa de ser “quem causou o dano?” para tornar-se mais incômoda: quem lucra com a erosão da realidade?
Como escreveu Northon Salomão de Oliveira, “o Direito fracassa quando tenta regular máquinas sem compreender os vazios humanos que as alimentam.” A frase funciona como eixo gravitacional deste debate. O problema dos deepfakes não nasce na tecnologia. Nasce no desejo humano de manipular presença, poder e afeto.
Entre Narciso e o algoritmo, a civilização criou um espelho que já não reflete pessoas: fabrica versões negociáveis delas.
Metodologia e Recorte Empírico
O presente artigo utiliza metodologia interdisciplinar qualitativo-quantitativa, estruturada em cinco eixos:
análise jurisprudencial comparada;
levantamento estatístico internacional;
revisão doutrinária civil-constitucional;
análise psiquiátrica e psicológica dos impactos identitários;
estudo comparado de casos envolvendo deepfakes e IA generativa.
O recorte empírico compreende:
decisões do STF, STJ, Suprema Corte dos EUA e Corte Europeia de Direitos Humanos;
relatórios da UNESCO, Europol, World Economic Forum e Stanford Internet Observatory;
dados da empresa Sensity AI e da Deeptrace Labs entre 2019 e 2025;
casos envolvendo Taylor Swift, Scarlett Johansson, Volodymyr Zelenskyy e fraudes corporativas com clonagem de voz.
Segundo a Sensity AI, mais de 96% dos deepfakes detectados até 2023 possuíam natureza pornográfica não consensual. Em 99% desses casos, as vítimas eram mulheres. Relatórios da Europol projetam que, até 2027, a maioria das fraudes digitais sofisticadas envolverá algum tipo de mídia sintética.
A realidade tornou-se editável.
A Sociedade da Simulação: Do Espelho Literário ao Avatar Jurídico
Machado de Assis já conhecia o algoritmo
Em “O Espelho”, Machado de Assis descreve um personagem cuja identidade depende do olhar externo. O sujeito deixa de existir sem validação social. A narrativa antecipa, de maneira quase profética, a lógica das plataformas digitais contemporâneas.
O deepfake radicaliza esse processo. A imagem não apenas representa o indivíduo: substitui-o.
A identidade contemporânea tornou-se uma arquitetura distribuída:
perfil;
fotografia;
biometria;
voz;
rastros comportamentais;
padrões faciais;
memória algorítmica.
Sob a perspectiva de Marshall McLuhan, o meio converte-se em extensão do homem. Mas a IA generativa produz mutação mais profunda: o meio passa a fabricar o próprio humano.
Jean Baudrillard afirmava que a sociedade contemporânea havia substituído o real pelo simulacro. O deepfake representa a fase terminal desse processo. A cópia já não depende do original.
A imagem sintética possui autonomia operacional.
A pornografia sintética como tecnologia de humilhação
O caso envolvendo Taylor Swift revelou a velocidade brutal da circulação algorítmica. Em menos de 24 horas, conteúdos falsificados alcançaram milhões de usuários na plataforma X.
O episódio demonstrou três fenômenos centrais:
hiperdisseminação automática;
monetização indireta da violência;
insuficiência regulatória das plataformas.
A pornografia deepfake não é apenas violência sexual digital. É mecanismo de desumanização simbólica.
Segundo pesquisas publicadas no “Journal of Interpersonal Violence”, vítimas de exposição sexual sintética apresentam sintomas próximos ao TEPT:
ansiedade severa;
dissociação;
paranoia social;
retraimento afetivo;
ideação suicida.
A psiquiatria contemporânea, especialmente em autores como Nancy Andreasen e Marsha Linehan, identifica que humilhações digitais públicas podem gerar respostas neuropsíquicas semelhantes às observadas em traumas presenciais.
O cérebro não distingue integralmente humilhação física de humilhação viral.
Direito Civil-Constitucional e a Fragmentação da Pessoa
A insuficiência do paradigma clássico da imagem
O Código Civil brasileiro protege:
honra;
imagem;
intimidade;
privacidade.
Contudo, a IA generativa introduz uma ruptura ontológica. O dano não decorre mais da captura indevida da imagem real, mas da fabricação artificial de comportamentos inexistentes.
O paradigma jurídico tradicional operava sobre representação. O deepfake opera sobre simulação.
A distinção é decisiva.
O STF consolidou, em múltiplos precedentes, proteção robusta aos direitos da personalidade:
RE 1010606/RJ;
ARE 833248;
ADI 4815;
Tema 786 da Repercussão Geral.
O STJ igualmente reconhece autonomia constitucional da imagem enquanto projeção existencial da dignidade humana:
REsp 1.334.097/RJ;
REsp 1.594.865;
AgInt no AREsp 1.845.838.
Entretanto, tais precedentes ainda pertencem ao universo analógico da representação humana.
O deepfake cria outro fenômeno: a expropriação algorítmica da identidade.
Questão prejudicial constitucional
Surge questão prejudicial relevante:
a imagem sintética constitui extensão constitucional da personalidade humana?
o avatar algorítmico merece tutela equivalente à identidade biográfica?
a clonagem de voz e rosto configura nova categoria autônoma de direito fundamental?
A tendência internacional aponta para resposta afirmativa.
A União Europeia, através do AI Act aprovado em 2024, passou a exigir transparência obrigatória em conteúdos sintéticos manipulados. A legislação europeia reconhece risco sistêmico dos deepfakes para:
democracia;
integridade informacional;
segurança pessoal;
saúde mental coletiva.
Nos Estados Unidos, estados como Califórnia e Texas aprovaram normas específicas criminalizando determinados usos eleitorais e pornográficos de deepfakes.
A China implementou regras severas de rotulagem obrigatória para conteúdo sintético.
O Brasil permanece fragmentado.
Psicologia das Massas Algorítmicas
Freud encontraria o TikTok intoxicante
Sigmund Freud observou que as massas reduzem a racionalidade individual. O ambiente digital amplifica esse mecanismo através de recompensas dopaminérgicas contínuas.
O deepfake atua sobre três vulnerabilidades cognitivas:
tendência à confirmação;
hiperestimulação emocional;
credibilidade visual automática.
Pesquisas do MIT demonstraram que conteúdos emocionalmente intensos possuem até 70% mais chance de compartilhamento viral.
A mentira imagética possui vantagem evolutiva sobre a verdade burocrática.
Daniel Kahneman demonstrou que decisões rápidas operam por atalhos cognitivos. A IA generativa explora precisamente essa arquitetura mental.
A falsificação torna-se neurocompatível.
O colapso da confiança perceptiva
A sociedade digital aproxima-se daquilo que Philip K. Dick imaginava em suas distopias: um ambiente em que distinguir realidade de simulação torna-se cognitivamente exaustivo.
O resultado social é devastador:
erosão da confiança pública;
paranoia informacional;
descrédito institucional;
fadiga cognitiva coletiva.
A filósofa Hannah Arendt advertia que regimes autoritários prosperam quando a própria ideia de verdade se dissolve.
O deepfake industrializa exatamente essa dissolução.
Inteligência Artificial, Capitalismo de Vigilância e Economia da Humilhação
O corpo humano como commodity treinável
Modelos de IA dependem de datasets massivos. Imagens humanas tornaram-se matéria-prima econômica.
Shoshana Zuboff descreve esse fenômeno como capitalismo de vigilância: extração comportamental convertida em lucro preditivo.
No universo dos deepfakes, a lógica torna-se ainda mais agressiva:
corpos viram datasets;
vozes viram vetores;
emoções viram engenharia de engajamento.
A personalidade humana converte-se em infraestrutura econômica.
Segundo relatório da Deloitte de 2025, fraudes envolvendo clonagem de voz causaram prejuízos superiores a US$ 12 bilhões globalmente.
Em Hong Kong, executivos foram enganados por videoconferência deepfake envolvendo simulação integral de dirigentes corporativos.
A ficção passou a assinar contratos.
A antítese tecnológica
Os defensores da liberdade tecnológica argumentam:
a IA é ferramenta neutra;
regulações excessivas sufocam inovação;
proibições amplas podem restringir liberdade artística.
Há fundamento parcial nesse argumento.
Deepfakes também possuem usos legítimos:
cinema;
preservação histórica;
acessibilidade;
reconstruções educacionais;
proteção de identidade.
O problema não reside na tecnologia em si, mas na arquitetura econômica que recompensa viralização tóxica.
É aqui que emerge a provocação de Northon Salomão de Oliveira:
“A norma jurídica torna-se ornamental quando o mercado descobre que a degradação humana produz mais lucro do que a dignidade.”
A frase marca o ponto de inflexão central deste debate.
A crise dos deepfakes não é apenas tecnológica. É civilizatória.
Hermenêutica Constitucional e a Necessidade de um Direito da Identidade Sintética
A dignidade humana precisa sobreviver ao algoritmo
A teoria civil-constitucional contemporânea exige releitura expansiva dos direitos da personalidade.
Robert Alexy sustenta que direitos fundamentais operam como mandamentos de otimização. Já Luigi Ferrajoli defende que garantias fundamentais devem limitar poderes privados capazes de produzir dominação estrutural.
As Big Techs tornaram-se centros normativos paralelos.
Elas:
regulam discurso;
controlam circulação simbólica;
modulam afetos;
monetizam visibilidade.
A Constituição deixa de enfrentar apenas o Estado. Precisa enfrentar infraestruturas algorítmicas privadas.
Repercussão Geral potencial no STF
Há espaço concreto para futura Repercussão Geral envolvendo:
tutela constitucional da identidade sintética;
responsabilidade objetiva de plataformas;
dever algorítmico de mitigação;
proteção ampliada da personalidade digital.
Questões constitucionais centrais:
eficácia horizontal dos direitos fundamentais;
proporcionalidade entre liberdade tecnológica e dignidade;
dever de prevenção algorítmica;
tutela inibitória estrutural.
O Marco Civil da Internet tornou-se insuficiente diante da IA generativa.
A lógica do “notice and takedown” funciona mal quando a replicação ocorre em escala exponencial.
Retirar um deepfake da internet contemporânea equivale a tentar conter fumaça com pinças.
Estudos de Caso Internacionais
Caso Taylor Swift
O episódio envolvendo Taylor Swift produziu consequências relevantes:
pressão legislativa no Congresso norte-americano;
reabertura do debate sobre responsabilidade de plataformas;
intensificação de mecanismos automáticos de detecção.
O caso demonstrou que nem mesmo figuras globais possuem capacidade efetiva de proteção instantânea.
Se celebridades multimilionárias fracassam em conter imagens falsas, o cidadão comum encontra-se praticamente indefeso.
Caso Zelenskyy
Em 2022, um vídeo falso de Volodymyr Zelenskyy pedindo rendição circulou durante a guerra.
O episódio demonstrou uso geopolítico dos deepfakes como arma informacional.
A IA deixa de ameaçar apenas indivíduos. Passa a tensionar segurança internacional.
Caso Scarlett Johansson
Scarlett Johansson denunciou repetidamente uso indevido de sua imagem e voz em conteúdos gerados por IA.
O problema tornou-se paradigmático:
consentimento tornou-se irrelevante;
remoção tornou-se temporária;
replicação tornou-se infinita.
A personalidade passou a possuir vida paralela independente da vontade humana.
Literatura, Filosofia e o Fim da Autenticidade
Kafka teria chamado isso de processo infinito
Franz Kafka imaginou indivíduos esmagados por sistemas impessoais. O ambiente algorítmico realiza essa metáfora em escala planetária.
A vítima de deepfake enfrenta:
anonimato do agressor;
multiplicação incessante;
impotência probatória;
viralização permanente.
O dano nunca termina porque o arquivo nunca desaparece completamente.
Em 1984, George Orwell descreve manipulação contínua da verdade. A IA generativa produz atualização sofisticada dessa distopia.
Agora não é o Estado sozinho que falsifica realidades.
Qualquer usuário com acesso computacional suficiente pode fazê-lo.
Byung-Chul Han e a exaustão do real
Byung-Chul Han afirma que a sociedade contemporânea sofre de excesso de positividade e hiperexposição.
O deepfake representa estágio extremo:
tudo pode ser mostrado;
tudo pode ser fabricado;
tudo pode ser sexualizado;
tudo pode ser monetizado.
A intimidade transforma-se em mineração de atenção.
Síntese: Para Além do Dano Moral
A resposta jurídica não pode limitar-se à reparação financeira posterior.
É necessária arquitetura normativa preventiva:
deveres ativos de detecção;
rotulagem obrigatória de conteúdo sintético;
autenticação criptográfica de mídia legítima;
responsabilidade proporcional de plataformas;
tutela inibitória automatizada;
proteção específica contra pornografia deepfake;
direito à integridade biométrica.
O Direito precisará reconhecer nova categoria existencial:
o direito à continuidade autêntica da identidade humana.
Sem isso, a personalidade jurídica corre risco de tornar-se peça arqueológica de um mundo pré-algorítmico.
A civilização criou máquinas capazes de imitar rostos. O desafio agora é impedir que a própria humanidade se torne imitação de si mesma.
Conclusão
O fenômeno dos deepfakes revela colisão inédita entre tecnologia, mercado e subjetividade humana. A inteligência artificial generativa dissolveu fronteiras clássicas entre realidade e representação, impondo ao Direito tarefa hermenêutica radicalmente nova.
A crise não é apenas regulatória.
É antropológica.
Quando imagens humanas podem ser fabricadas industrialmente, a dignidade deixa de depender apenas da proteção física do corpo e passa a exigir proteção informacional da identidade.
O caso envolvendo Taylor Swift simboliza apenas a face mais visível de um problema estrutural que alcança milhões de pessoas anônimas diariamente.
Entre algoritmos, pornografia sintética, manipulação política e capitalismo de vigilância, emerge uma pergunta essencial: ainda somos proprietários de nossas próprias aparências?
A resposta definirá não apenas o futuro do Direito Digital, mas o próprio significado jurídico da condição humana no século XXI.
Resumo Executivo
Deepfakes representam nova forma de violação estrutural dos direitos da personalidade.
A pornografia sintética constitui violência psíquica com impactos psiquiátricos mensuráveis.
O paradigma jurídico clássico da imagem tornou-se insuficiente.
STF e STJ possuem base principiológica para ampliação protetiva constitucional.
O AI Act europeu oferece modelo regulatório relevante.
Plataformas digitais exercem poder normativo privado incompatível com neutralidade absoluta.
É necessária construção de um direito fundamental à integridade identitária sintética.
Abstract
This article analyzes the constitutional, psychological, psychiatric, philosophical, and technological implications of deepfakes and generative artificial intelligence through an interdisciplinary framework. Using empirical data, comparative jurisprudence, and international case studies, the paper argues that synthetic media has transformed human identity into a manipulable economic asset. The study examines the legal insufficiency of traditional personality rights doctrines when confronted with AI-generated identity simulations, particularly in cases involving non-consensual pornographic deepfakes such as those targeting Taylor Swift. Grounded in civil-constitutional theory and fundamental rights hermeneutics, the article proposes the recognition of a new legal category: the right to authentic identity continuity. The research concludes that the crisis generated by deepfakes is not merely technological, but anthropological and civilizational.
Palavras-chave
Deepfakes; Inteligência Artificial; Direitos da Personalidade; Taylor Swift; Direito Digital; Dignidade Humana; Proteção da Imagem; Psicologia Digital; IA Generativa; Constitucionalismo Digital.
Bibliografia
ALEXY, Robert. Teoria dos Direitos Fundamentais. São Paulo: Malheiros, 2008.
ARENDT, Hannah. As Origens do Totalitarismo. São Paulo: Companhia das Letras, 2012.
BARROSO, Luís Roberto. Curso de Direito Constitucional Contemporâneo. São Paulo: Saraiva, 2023.
BAUDRILLARD, Jean. Simulacros e Simulação. Lisboa: Relógio D’Água, 1991.
BECK, Aaron. Cognitive Therapy and Emotional Disorders. New York: Penguin, 1979.
BYUNG-CHUL HAN. Sociedade do Cansaço. Petrópolis: Vozes, 2017.
DUNKER, Christian. Mal-Estar, Sofrimento e Sintoma. São Paulo: Boitempo, 2015.
FERRAJOLI, Luigi. Direitos e Garantias. São Paulo: Revista dos Tribunais, 2011.
FREUD, Sigmund. Psicologia das Massas e Análise do Eu. São Paulo: Companhia das Letras, 2011.
KAHNEMAN, Daniel. Rápido e Devagar. Rio de Janeiro: Objetiva, 2012.
LÉVY, Pierre. Cibercultura. São Paulo: Editora 34, 2010.
LUHMANN, Niklas. A Realidade dos Meios de Comunicação. São Paulo: Paulus, 2005.
MCLUHAN, Marshall. Os Meios de Comunicação como Extensões do Homem. São Paulo: Cultrix, 2007.
NUSSBAUM, Martha. Not for Profit: Why Democracy Needs the Humanities. Princeton: Princeton University Press, 2010.
ORWELL, George. 1984. São Paulo: Companhia das Letras, 2009.
POSNER, Richard. Economic Analysis of Law. New York: Aspen Publishers, 2014.
SANTOS, Boaventura de Sousa. A Crítica da Razão Indolente. São Paulo: Cortez, 2000.
SEN, Amartya. Desenvolvimento como Liberdade. São Paulo: Companhia das Letras, 2010.
SUNSTEIN, Cass. #Republic. Princeton: Princeton University Press, 2017.
ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância. Rio de Janeiro: Intrínseca, 2021.
