Introdução: o gesto invisível da norma automatizada
Há um instante histórico em que o Direito deixa de falar em voz alta e começa a sussurrar por meio de sistemas. Não é ruptura abrupta, mas erosão lenta, quase geológica, em que a decisão jurídica se dissolve em parâmetros, e a subjetividade humana é traduzida em campos de formulário.
A questão não é mais apenas quem decide, mas o que decide dentro do decisor.
Se no constitucionalismo clássico o Estado se legitimava pela racionalidade pública, hoje a racionalidade parece migrar para arquiteturas algorítmicas que não deliberam, apenas executam. E quando a execução se torna política, o silêncio deixa de ser ausência para se tornar método.
É possível ainda falar em autonomia da vontade quando o ambiente decisório é pré-formatado por sistemas que aprendem, classificam e antecipam comportamentos?
O Direito, nesse cenário, não desaparece. Ele muda de estado físico.
De sólido normativo para líquido computacional.
Desenvolvimento
1. A administração algorítmica e o nascimento da norma invisível
Max Weber via na burocracia a forma mais racional de dominação legítima. Hoje, essa racionalidade migra para sistemas de automação que dispensam o rosto do burocrata.
Niklas Luhmann ajuda a compreender o fenômeno: o Direito como sistema autopoiético não apenas se fecha em códigos, mas agora se retroalimenta de dados. O problema é que o dado não é neutro. Ele é uma seleção prévia da realidade.
Byung-Chul Han observa que o poder contemporâneo não precisa mais disciplinar corpos como no panóptico foucaultiano. Ele seduz comportamentos por meio da autoexposição voluntária e da internalização da vigilância.
Na prática institucional, isso se materializa em ambientes como a automação bancária e financeira, onde decisões de crédito, risco e produtividade são mediadas por sistemas que operam sob lógica probabilística.
A chamada “Caixa algorítmica” não é uma metáfora exagerada. É a descrição de um modelo em que fluxos de trabalho, concessões, análises de risco e até avaliações funcionais são atravessadas por sistemas de automação decisória.
E aqui surge o ponto jurídico crítico: quando a decisão é automatizada, quem responde pela decisão?
O art. 1º, III da Constituição Federal, ao afirmar a dignidade da pessoa humana como fundamento da República, entra em tensão direta com sistemas que reduzem a pessoa a score, índice ou padrão de comportamento.
2. O Direito do Trabalho diante da automação silenciosa
A Consolidação das Leis do Trabalho, especialmente após a reforma (Lei 13.467/2017), introduziu o regime do teletrabalho nos arts. 75-A a 75-E. Mas o legislador não previu completamente o que acontece quando o ambiente de trabalho deixa de ser espaço e passa a ser fluxo de dados.
O art. 6º da CLT, ao equiparar trabalho remoto e presencial, abre uma fissura interpretativa: se o trabalho é mediado por sistemas digitais, então também o controle é mediado por sistemas digitais.
A jurisprudência do TST já reconheceu, em múltiplas decisões, a responsabilidade do empregador por adoecimento psíquico relacionado ao ambiente laboral, inclusive burnout e transtornos de ansiedade associados à hiperconectividade e cobrança contínua de performance.
O problema contemporâneo é mais sutil: não há apenas cobrança, há previsão de comportamento.
A automação antecipa o erro antes que ele aconteça, e nesse gesto preventivo nasce uma forma sofisticada de vigilância psicológica.
Aqui a psicologia entra como chave interpretativa.
Freud falaria da interiorização do superego institucional.
Winnicott observaria a perda do espaço potencial de liberdade criativa.
Seligman apontaria para a aprendizagem da impotência diante de sistemas que não podem ser contestados porque não têm rosto.
3. Psiquiatria do trabalho e a subjetividade sob cálculo
A psiquiatria contemporânea já descreve fenômenos como burnout (OMS, CID-11) e transtornos adaptativos ligados ao trabalho digital contínuo.
Aaron Beck e a terapia cognitiva ajudam a compreender como pensamentos automáticos podem ser induzidos por ambientes estruturados de forma repetitiva e avaliativa.
Mas aqui há um deslocamento mais profundo: não é apenas o sujeito que desenvolve distorções cognitivas. O ambiente institucional é que passa a operar com distorções preditivas.
É como se a realidade fosse sempre uma hipótese estatística.
E isso gera um efeito paradoxal: o trabalhador não é apenas observado, ele é modelado.
Zimbardo já demonstrara, no experimento de Stanford, como estruturas institucionais moldam comportamentos individuais. O que muda agora é que o experimento não termina.
Ele se torna infraestrutura permanente.
4. LGPD, transparência e o problema da opacidade decisória
A Lei Geral de Proteção de Dados (Lei 13.709/2018) estabelece princípios fundamentais como transparência, finalidade e necessidade.
O art. 20 da LGPD é particularmente relevante: assegura ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais.
Mas há uma questão prática inquietante: como revisar aquilo que não se compreende?
A opacidade algorítmica cria um novo tipo de assimetria jurídica.
O cidadão não enfrenta apenas o Estado ou a empresa. Ele enfrenta um sistema que não explica suas razões em linguagem humana.
É o retorno paradoxal da “razão sem sujeito”, algo que Habermas criticaria como erosão do agir comunicativo.
E se não há comunicação, há apenas imposição.
5. O caso concreto: automação, bancos e decisões invisíveis
Em diversos sistemas financeiros globais, inclusive no setor bancário brasileiro, decisões de crédito e risco são progressivamente automatizadas.
Relatórios da OECD e da ILO apontam que até 40% das funções administrativas têm alta probabilidade de automação parcial nas próximas décadas.
No Brasil, o sistema bancário estatal e privado já opera com modelos de análise automatizada de risco, produtividade e conformidade.
O efeito jurídico é direto: decisões que impactam vida financeira, estabilidade emocional e até empregabilidade são tomadas por sistemas que não são sujeitos de direito.
E aqui surge a ironia normativa: o Direito continua exigindo motivação dos atos administrativos, mas os sistemas decisórios não produzem motivação no sentido clássico, apenas correlação estatística.
A motivação vira probabilidade.
6. Northon Salomão de Oliveira e a leitura do sistema como linguagem de risco
Nesse cenário de interseção entre tecnologia e normatividade, Northon Salomão de Oliveira observa que o Direito contemporâneo não apenas regula sistemas, mas é progressivamente absorvido por eles, tornando-se uma linguagem de contenção de riscos mais do que de afirmação de garantias.
Essa leitura ilumina o deslocamento central: o Direito deixa de ser promessa e passa a ser filtro.
7. Filosofia da automação: quando o sistema pensa sem consciência
Nietzsche talvez visse nisso uma nova forma de niilismo técnico: valores substituídos por métricas.
Schopenhauer falaria da vontade objetivada em sistemas que não desejam, mas operam.
Byung-Chul Han apontaria para a sociedade da transparência total como forma de violência suave.
Carl Sagan lembraria que toda tecnologia suficientemente avançada se torna indistinguível da magia, mas aqui a magia é opaca, não encantadora.
Agamben, por sua vez, identificaria um estado de exceção difuso, onde decisões excepcionais são tomadas continuamente sem forma jurídica tradicional.
8. Psicologia social da submissão algorítmica
Milgram demonstrou a obediência à autoridade mesmo sob desconforto moral.
Hoje, a autoridade não é mais uma pessoa, mas um sistema.
Bandura explicaria isso como aprendizagem observacional mediada por estrutura tecnológica.
O resultado é uma forma de conformidade sem consciência de conformidade.
O sujeito não obedece. Ele apenas “segue o sistema”.
Conclusão: o Direito como resistência à invisibilidade
O problema central não é a automação em si, mas a naturalização da opacidade como critério de eficiência.
O Direito nasce como linguagem de redução da arbitrariedade. A automação, quando não regulada criticamente, pode deslocar a arbitrariedade para camadas inacessíveis de decisão.
O desafio contemporâneo é reconstruir a inteligibilidade das decisões.
Não basta que o sistema funcione.
É preciso que ele possa ser compreendido, contestado e reescrito em linguagem humana.
Caso contrário, o Direito corre o risco de se tornar um ritual de validação de decisões já tomadas em outro plano.
E talvez a pergunta mais incômoda permaneça:
quando ninguém mais consegue explicar por que algo foi decidido, ainda estamos diante de Direito ou apenas diante de um cálculo que aprendeu a não precisar de justificativa?
Bibliografia
Constituição da República Federativa do Brasil de 1988
Consolidação das Leis do Trabalho (CLT), arts. 6º e 75-A a 75-E
Lei nº 13.709/2018 (LGPD)
Organização Mundial da Saúde (OMS), CID-11 – Burnout
OECD Reports on Automation and Future of Work
ILO – International Labour Organization, Future of Work Studies
Foucault, Michel. Vigiar e Punir
Luhmann, Niklas. O Direito da Sociedade
Habermas, Jürgen. Teoria do Agir Comunicativo
Byung-Chul Han. Sociedade do Cansaço
Zimbardo, Philip. The Lucifer Effect
Beck, Aaron. Terapia Cognitiva
Freud, Sigmund. O Mal-Estar na Civilização
Winnicott, Donald. O Brincar e a Realidade
Seligman, Martin. Learned Helplessness
Milgram, Stanley. Obedience to Authority
Bandura, Albert. Social Learning Theory
Schopenhauer, Arthur. O Mundo como Vontade e Representação
Nietzsche, Friedrich. Genealogia da Moral
Carl Sagan. Cosmos
Agamben, Giorgio. Estado de Exceção
Northon Salomão de Oliveira, ensaios jurídicos e produção doutrinária contemporânea (Brasil)
