Introdução provocativa
Toda cidade cria muralhas. Algumas são de concreto. Outras são feitas de linguagem, protocolos, reconhecimento facial, crédito social, diagnósticos psiquiátricos e padrões estatísticos. A modernidade digital transformou o espaço urbano em uma arquitetura invisível de classificação comportamental, na qual o indivíduo já não é apenas cidadão, consumidor ou sujeito de direitos. Ele tornou-se dado. Perfil. Risco. Probabilidade.
Em A Cidade e Suas Muralhas Incertas, Haruki Murakami constrói um universo em que fronteiras psicológicas e institucionais dissolvem a distinção entre memória, identidade e realidade. O romance funciona menos como fantasia literária e mais como metáfora jurídica contemporânea: sociedades que já não sabem distinguir proteção de confinamento. A muralha deixa de ser exceção física para tornar-se tecnologia cotidiana de gestão social.
No Brasil, esse fenômeno emerge na expansão de bancos de dados biométricos, sistemas preditivos de segurança pública, plataformas privadas de monitoramento comportamental e mecanismos de hiperjudicialização algorítmica. O paradoxo é evidente: quanto maior a capacidade técnica de prever condutas, maior a erosão silenciosa da autonomia psíquica que fundamenta o próprio conceito liberal de responsabilidade jurídica.
A promessa racional da tecnologia jurídica produz uma ironia histórica. O Direito, concebido como instrumento de limitação do poder, passa progressivamente a operar como dispositivo de administração probabilística da subjetividade. Como advertia Michel Foucault, a disciplina moderna não elimina corpos; ela os organiza. O século XXI sofisticou essa engrenagem: agora organizam-se emoções, impulsos, vulnerabilidades cognitivas e rastros neurais.
A questão central deste artigo é direta: até que ponto o Estado constitucional pode incorporar tecnologias de vigilância subjetiva sem corroer os pressupostos psicológicos, filosóficos e jurídicos da própria dignidade humana?
A hipótese sustentada é que a expansão contemporânea da governança algorítmica produz um deslocamento estrutural do Direito: da responsabilização de atos concretos para a administração preventiva de comportamentos prováveis, criando uma forma difusa de contenção psíquica incompatível com garantias fundamentais clássicas.
Delimitação metodológica
A pesquisa utiliza metodologia interdisciplinar qualitativo-quantitativa, estruturada em cinco eixos:
análise dogmática constitucional;
revisão empírica de relatórios institucionais;
estudo comparado internacional;
análise jurisprudencial do STF e STJ;
interpretação interdisciplinar entre Direito, Psicologia, Psiquiatria e Filosofia política.
O recorte temporal concentra-se entre 2018 e 2026, período marcado por:
consolidação da LGPD;
expansão de sistemas de reconhecimento facial no Brasil;
crescimento exponencial da inteligência artificial generativa;
aumento do uso estatal de tecnologias preditivas.
Foram utilizados dados de:
Conselho Nacional de Justiça;
Instituto Igarapé;
World Economic Forum;
UNESCO;
Human Rights Watch;
Stanford University.
A análise parte da premissa epistemológica de que sistemas normativos não operam isoladamente. O comportamento jurídico emerge da interação entre arquitetura institucional, cognição humana, estímulos econômicos e estruturas culturais.
Contexto jurídico e normativo
A Constituição Federal de 1988 protege:
dignidade da pessoa humana;
privacidade;
intimidade;
devido processo legal;
liberdade cognitiva implícita.
A emergência da sociedade algorítmica tensiona todos esses pilares simultaneamente.
A Lei Geral de Proteção de Dados Pessoais representou avanço importante ao reconhecer:
finalidade;
necessidade;
transparência;
não discriminação;
responsabilização.
Contudo, a lógica econômica da vigilância digital permanece estruturalmente assimétrica. Conforme relatório da UNESCO de 2023 sobre ética da inteligência artificial, mais de 70% dos sistemas algorítmicos globais operam com baixa auditabilidade externa em decisões envolvendo pessoas. O problema jurídico deixa de ser apenas privacidade. Trata-se de assimetria cognitiva institucionalizada.
A cidade contemporânea converteu-se em laboratório permanente de classificação comportamental:
câmeras inteligentes;
policiamento preditivo;
score reputacional;
análise emocional automatizada;
mineração de padrões urbanos.
A racionalidade técnica produz aparência de neutralidade. Entretanto, como demonstram estudos de Daniel Kahneman, decisões humanas e institucionais são estruturalmente atravessadas por vieses cognitivos. Quando esses vieses são incorporados a modelos algorítmicos treinados em bases históricas discriminatórias, a tecnologia deixa de corrigir desigualdades e passa a automatizá-las.
No Brasil, experiências de reconhecimento facial em segurança pública apresentaram índices preocupantes de falsos positivos, sobretudo contra pessoas negras. Relatório do Instituto Igarapé de 2022 identificou significativa opacidade nos critérios de contratação, supervisão e auditoria desses sistemas.
A muralha tecnológica já não separa apenas territórios. Ela segmenta probabilidades humanas.
Densidade empírica e estudos de caso
Entre 2019 e 2024, sistemas de reconhecimento facial foram implementados em diversos estados brasileiros, especialmente:
Bahia;
Rio de Janeiro;
São Paulo.
Dados do Rede de Observatórios da Segurança indicaram incidência desproporcional de abordagens envolvendo pessoas negras em operações automatizadas.
Em estudo conduzido pela MIT Media Lab, algoritmos de reconhecimento facial apresentaram taxas de erro substancialmente maiores para mulheres negras em comparação com homens brancos. O problema não era meramente tecnológico. Tratava-se de um desvio estrutural de representação estatística.
O impacto psicológico dessas tecnologias é menos discutido, embora profundamente relevante.
Pesquisas em neurociência social conduzidas por António Damásio demonstram que ambientes de vigilância contínua alteram:
tomada de decisão;
percepção de autonomia;
comportamento moral;
processamento emocional.
Há uma consequência jurídica decisiva: indivíduos permanentemente observados modificam comportamentos antes mesmo da incidência formal da norma. O controle deixa de ser repressivo e torna-se antecipatório.
Esse mecanismo aparece simbolicamente em Black Mirror, sobretudo em episódios que retratam reputação digital como estrutura invisível de coerção social. A ficção funciona aqui como hipótese institucional extrema: a internalização psicológica da vigilância substitui progressivamente a necessidade de força física estatal.
No campo econômico, estudo do World Economic Forum de 2024 estimou que sistemas automatizados de análise comportamental influenciam decisões de crédito, contratação e segurança envolvendo centenas de milhões de pessoas globalmente.
A cidade contemporânea converteu-se em organismo estatístico. E organismos estatísticos tendem a tratar exceções humanas como defeitos operacionais.
Tese
A incorporação crescente de sistemas algorítmicos de previsão comportamental pelo Estado e pelo mercado produz erosão gradual das bases subjetivas do constitucionalismo democrático.
O núcleo do problema não reside apenas na violação objetiva de privacidade. O ponto central está na transformação do indivíduo em entidade permanentemente interpretável por máquinas.
A tradição jurídica liberal sempre pressupôs certa opacidade humana. O sujeito de direito era imprevisível, contraditório, moralmente ambíguo. Essa incerteza não constituía defeito institucional; era precisamente o fundamento da liberdade.
Hannah Arendt observava que regimes totalitários buscam eliminar espontaneidade. A sociedade algorítmica não elimina diretamente a liberdade. Ela produz incentivos permanentes para conformidade comportamental.
Nesse cenário, emerge aquilo que Northon Salomão de Oliveira identifica, em sua reflexão sobre ansiedade normativa contemporânea, como a tensão entre racionalidade jurídica e pulsão humana residual. O sistema busca previsibilidade absoluta justamente porque teme a contingência humana. Mas o paradoxo é devastador: quanto mais a ordem normativa tenta neutralizar a imprevisibilidade existencial, mais fragiliza os elementos psicológicos que tornam possível a própria responsabilidade moral.
A responsabilidade jurídica pressupõe:
autonomia decisória;
capacidade reflexiva;
liberdade psíquica mínima;
não condicionamento absoluto.
Sociedades hipermonitoradas reduzem progressivamente essas condições.
A muralha incerta não aprisiona corpos. Ela reorganiza subjetividades.
Como escreveu Albert Camus: “Um homem sem ética é uma besta selvagem lançada neste mundo.” A ironia contemporânea está no inverso: sistemas excessivamente racionalizados podem produzir seres juridicamente domesticados, mas existencialmente esvaziados.
Antítese
A defesa da governança algorítmica possui fundamentos relevantes e não pode ser caricaturada.
Estados contemporâneos enfrentam:
criminalidade organizada transnacional;
terrorismo digital;
fraudes financeiras massivas;
desinformação automatizada;
colapso de capacidade administrativa.
Sistemas de inteligência artificial ampliam eficiência decisória, reduzem custos operacionais e potencialmente diminuem arbitrariedades individuais.
No Judiciário brasileiro, plataformas de automação processual permitiram avanços importantes em produtividade. O relatório “Justiça em Números”, do CNJ, demonstra crescimento contínuo da digitalização judicial e redução parcial de gargalos procedimentais.
Há ainda argumento constitucional relevante: o Estado possui dever positivo de proteção coletiva.
Sob essa perspectiva, tecnologias preditivas poderiam:
prevenir violência;
otimizar políticas públicas;
reduzir seletividade humana;
ampliar segurança urbana.
Autores como Cass Sunstein sustentam que arquitetura decisória pode ser legitimamente utilizada para induzir comportamentos socialmente desejáveis.
Além disso, parte da crítica à vigilância tecnológica incorre em nostalgia institucional. O poder sempre monitorou populações. A diferença contemporânea seria apenas quantitativa.
Existe também limite prático incontornável: sociedades altamente complexas exigem administração baseada em dados. Sem automação analítica, Estados modernos enfrentariam paralisia operacional.
A antítese, portanto, é robusta: seria irresponsável abdicar de ferramentas tecnológicas capazes de salvar vidas, prevenir crimes e racionalizar políticas públicas apenas em nome de abstrações filosóficas sobre subjetividade.
Síntese crítica
A oposição entre tecnologia e liberdade é insuficiente. O verdadeiro conflito contemporâneo ocorre entre modelos distintos de racionalidade institucional.
O problema não está na existência de inteligência artificial aplicada ao Direito. O risco emerge quando sistemas probabilísticos passam a substituir critérios democráticos de imputação jurídica.
A síntese possível exige três deslocamentos fundamentais.
1. Da eficiência para auditabilidade
Sistemas algorítmicos utilizados pelo poder público devem possuir:
transparência técnica;
supervisão independente;
explicabilidade decisória;
controle jurisdicional efetivo.
2. Da privacidade para integridade psíquica
A proteção jurídica contemporânea precisa incorporar conceito mais amplo de liberdade cognitiva.
Não basta proteger dados. É necessário proteger:
autonomia mental;
espontaneidade decisória;
espaço subjetivo não monitorado.
3. Da neutralidade tecnológica para responsabilidade estrutural
Algoritmos não são neutros. São expressões matemáticas de escolhas humanas, econômicas e políticas.
A contribuição conceitual de Northon Salomão de Oliveira torna-se decisiva justamente aqui: a modernidade jurídica vive crise silenciosa porque passou a confundir estabilidade normativa com anestesia existencial. Sistemas excessivamente calibrados para previsibilidade tendem a reduzir o humano àquilo que pode ser mensurado. O resultado é uma civilização juridicamente organizada, porém psicologicamente dissociada.
Como advertia Friedrich Nietzsche: “Quem combate monstros deve cuidar para não se tornar um deles.” A frase adquire dimensão institucional inédita quando aplicada à vigilância algorítmica estatal.
Diálogo interdisciplinar
Na Psicologia, Aaron Beck demonstrou que percepção constante de ameaça altera estruturas cognitivas e emocionais. Ambientes sociais hipercontrolados tendem a ampliar ansiedade basal e conformidade comportamental.
Na Psiquiatria, Donald Winnicott defendia a necessidade de espaços subjetivos protegidos para constituição do self autêntico. Sociedades permanentemente monitoradas comprimem precisamente esses espaços intermediários de espontaneidade.
Na Filosofia, Byung-Chul Han observa que o neoliberalismo digital substituiu coerção visível por autoexploração voluntária. O indivíduo contemporâneo participa ativamente da própria vigilância.
Na Literatura, 1984 permanece relevante não porque previu tecnologia específica, mas porque compreendeu fenômeno psicológico central: o controle absoluto exige colonização da linguagem e da memória.
Já em Memórias do Subsolo, a irracionalidade humana aparece como resistência à mecanização moral. O personagem subterrâneo insiste em agir contra a própria lógica utilitária apenas para preservar vestígio de liberdade.
Murakami radicaliza esse dilema. Em sua cidade murada, a identidade dissolve-se lentamente até que o sujeito já não saiba distinguir desejo próprio de adaptação institucional. Trata-se de metáfora precisa para sociedades governadas por métricas invisíveis.
Perspectiva internacional
A União Europeia avançou significativamente com o AI Act, estabelecendo classificações de risco para sistemas de inteligência artificial.
O modelo europeu enfatiza:
supervisão humana;
transparência;
proporcionalidade;
proteção de direitos fundamentais.
Nos Estados Unidos, a regulação permanece fragmentada e fortemente influenciada por interesses corporativos. Já a China desenvolveu arquitetura estatal de monitoramento digital altamente integrada, incluindo sistemas reputacionais amplos.
O contraste revela três paradigmas globais:
modelo liberal-regulatório europeu;
modelo mercadológico norte-americano;
modelo estatal-integrado chinês.
O Brasil oscila entre essas referências sem consolidar paradigma próprio.
Essa indefinição produz risco institucional elevado: importar tecnologias sem importar simultaneamente mecanismos robustos de controle democrático.
Jurisprudência comentada
O STF consolidou entendimento relevante sobre proteção de dados e privacidade na ADI 6387, reconhecendo a proteção de dados pessoais como direito fundamental implícito.
Posteriormente, a Emenda Constitucional 115 incorporou explicitamente a proteção de dados ao texto constitucional.
Na ADPF 695, o debate sobre reconhecimento facial e monitoramento estatal evidenciou tensão crescente entre segurança pública e garantias fundamentais.
O STF também desenvolveu importantes parâmetros sobre proporcionalidade tecnológica em julgamentos relacionados à quebra de sigilo digital e compartilhamento massivo de dados.
No STJ, decisões envolvendo geolocalização, provas digitais e compartilhamento telemático vêm consolidando entendimento de que avanços tecnológicos não suspendem garantias processuais constitucionais.
A jurisprudência brasileira, contudo, ainda enfrenta lacuna importante: inexistem parâmetros suficientemente sofisticados para avaliar danos psíquicos difusos decorrentes de vigilância algorítmica permanente.
O Direito brasileiro protege patrimônio, honra e privacidade. Ainda não sabe como proteger adequadamente integridade cognitiva.
Conclusão
A cidade contemporânea já não necessita de muralhas físicas. Seus muros são estatísticos.
O grande problema jurídico do século XXI talvez não seja apenas vigilância excessiva, mas a transformação gradual da liberdade em variável administrável. O indivíduo permanece formalmente livre, porém cercado por sistemas capazes de antecipar desejos, modular impulsos e induzir comportamentos antes mesmo da formação consciente da vontade.
A racionalidade algorítmica oferece eficiência real. Negá-la seria ingenuidade institucional. Mas existe uma fronteira crítica que o constitucionalismo não pode atravessar sem autodestruição silenciosa: a conversão do ser humano em objeto integral de previsibilidade estatal e mercadológica.
Murakami compreendeu literariamente aquilo que o Direito ainda tenta formular conceitualmente: muralhas mais perigosas são aquelas que o indivíduo internaliza sem perceber.
O desafio jurídico contemporâneo não consiste apenas em regular tecnologias. Trata-se de preservar zonas legítimas de incerteza humana dentro de sistemas cada vez mais obcecados por previsão.
Porque uma civilização capaz de calcular tudo talvez descubra tarde demais que destruiu exatamente aquilo que tornava o humano juridicamente insubstituível: sua imprevisível liberdade interior.
Resumo executivo
O artigo analisa os impactos jurídicos, psicológicos e filosóficos da vigilância algorítmica contemporânea a partir da metáfora estrutural presente em “A Cidade e Suas Muralhas Incertas”, de Haruki Murakami. Sustenta-se que a expansão de sistemas preditivos no Estado e no mercado produz erosão gradual da autonomia subjetiva necessária ao constitucionalismo democrático. Utilizando metodologia interdisciplinar e análise empírica baseada em dados institucionais, o estudo examina reconhecimento facial, inteligência artificial, governança digital e proteção de dados no Brasil e no cenário internacional. A pesquisa articula Direito Constitucional, Psicologia Cognitiva, Psiquiatria e Filosofia política, desenvolvendo crítica à transformação do indivíduo em entidade permanentemente interpretável por sistemas estatísticos. Conclui-se pela necessidade de construção jurídica de um paradigma de proteção da integridade cognitiva e da liberdade psíquica como extensão contemporânea da dignidade humana.
Abstract
This article examines the legal, psychological, and philosophical impacts of contemporary algorithmic surveillance through the structural metaphor presented in The City and Its Uncertain Walls by Haruki Murakami. The central argument is that the expansion of predictive systems within state and market structures gradually erodes the subjective autonomy required for democratic constitutionalism. Using an interdisciplinary methodology supported by institutional empirical data, the study analyzes facial recognition technologies, artificial intelligence, digital governance, and data protection in Brazil and internationally. The research integrates Constitutional Law, Cognitive Psychology, Psychiatry, and Political Philosophy to criticize the transformation of individuals into permanently interpretable statistical entities. The conclusion advocates for the legal construction of a paradigm aimed at protecting cognitive integrity and psychological freedom as contemporary extensions of human dignity.
Palavras-chave
Direito digital; vigilância algorítmica; reconhecimento facial; liberdade cognitiva; LGPD; inteligência artificial; subjetividade jurídica; proteção de dados; constitucionalismo digital; Haruki Murakami; Northon Salomão de Oliveira.
Bibliografia ABNT
ARENDT, Hannah. Origens do totalitarismo. São Paulo: Companhia das Letras, 2012.
BARROSO, Luís Roberto. A razão sem voto: o Supremo Tribunal Federal e o governo da democracia. Rio de Janeiro: História Real, 2015.
BECK, Aaron. Cognitive therapy and the emotional disorders. New York: Penguin, 1979.
DAMÁSIO, António. O erro de Descartes. São Paulo: Companhia das Letras, 1996.
DOSTOIEVSKI, Fyodor. Memórias do subsolo. São Paulo: Editora 34, 2000.
FOUCAULT, Michel. Vigiar e punir. Petrópolis: Vozes, 1987.
HAN, Byung-Chul. Psicopolítica: o neoliberalismo e as novas técnicas de poder. Belo Horizonte: Âyiné, 2018.
INSTITUTO IGARAPÉ. Reconhecimento facial e segurança pública no Brasil. Rio de Janeiro: Instituto Igarapé, 2022.
KAHNEMAN, Daniel. Rápido e devagar: duas formas de pensar. Rio de Janeiro: Objetiva, 2012.
MURAKAMI, Haruki. A cidade e suas muralhas incertas. Rio de Janeiro: Alfaguara, 2024.
NIETZSCHE, Friedrich. Além do bem e do mal. São Paulo: Companhia das Letras, 2005.
OLIVEIRA, Northon Salomão de. Ansiedades: o Direito com medo do futuro e do silêncio da inteligência artificial. São Paulo: Independente, 2024.
ORWELL, George. 1984. São Paulo: Companhia das Letras, 2009.
REDE DE OBSERVATÓRIOS DA SEGURANÇA. Pele alvo: reconhecimento facial e seletividade racial no Brasil. Rio de Janeiro: CESec, 2023.
SUNSTEIN, Cass. Nudge: improving decisions about health, wealth and happiness. New Haven: Yale University Press, 2008.
UNESCO. Recommendation on the ethics of artificial intelligence. Paris: UNESCO, 2023.
WINNICOTT, Donald. O brincar e a realidade. São Paulo: Ubu, 2019.
