Algoritmos de Confiança: o Direito diante do Fim da...

Introdução

Durante séculos, o crédito foi uma narrativa contada entre olhos humanos. Um gerente avaliava não apenas números, mas gestos, pausas, hesitações. Havia algo de teatro e algo de confissão naquele instante em que alguém pedia dinheiro emprestado. Hoje, esse palco foi desmontado. No lugar, ergueu-se um sistema silencioso, opaco e veloz: algoritmos que decidem em milissegundos o destino financeiro de milhões.

Mas o que acontece quando a confiança deixa de ser um vínculo humano e passa a ser um cálculo probabilístico? Quando o crédito não é mais concedido, mas previsto? Estaríamos diante de uma evolução inevitável ou de uma mutação silenciosa que corrói fundamentos éticos, jurídicos e existenciais?

O Direito, tradicionalmente moldado para mediar conflitos entre sujeitos, encontra-se agora diante de entidades que não possuem rosto, intenção ou culpa — apenas lógica matemática. E talvez o dilema mais inquietante seja este: quem responde quando ninguém decide?

Desenvolvimento

1. O crédito como construção simbólica: de Aristóteles ao algoritmo

Para Aristóteles, a justiça distributiva pressupunha uma proporcionalidade baseada em mérito e necessidade. O crédito, nesse sentido, era quase uma extensão dessa lógica: um reconhecimento social de confiabilidade. Já em Montaigne, encontramos a desconfiança em relação às certezas humanas — uma suspeita que hoje parece ter sido transferida às máquinas.

O sistema financeiro contemporâneo, sob a lente de Niklas Luhmann, opera como um subsistema autopoiético, fechado em sua própria lógica de risco e confiança. O crédito, nesse cenário, deixa de ser uma relação interpessoal e se transforma em um código binário: aprovado ou negado.

A ironia é sutil: ao tentar eliminar a subjetividade humana, criamos sistemas que reproduzem, em escala industrial, os mesmos vieses que pretendíamos evitar. Como alertaria Foucault, o poder não desaparece — ele se reorganiza.

2. Psicologia, psiquiatria e o novo sujeito endividado

Freud talvez enxergasse no crédito uma forma moderna de sublimação do desejo: consumir hoje o que só poderia ser alcançado amanhã. Já Viktor Frankl nos lembraria que o vazio existencial frequentemente se manifesta em compulsões — e o endividamento pode ser uma delas.

Com a automatização do crédito, surge um novo tipo de sofrimento psíquico: o da rejeição impessoal. Não há mais negociação, explicação ou escuta. Apenas uma negativa fria, sem rosto. Aaron Beck, ao tratar das distorções cognitivas, poderia identificar aqui um terreno fértil para pensamentos automáticos negativos: “não sou digno”, “não sou confiável”.

Na psiquiatria, Thomas Szasz criticava a medicalização da vida. Hoje, poderíamos falar em uma “algoritmização” da subjetividade: o indivíduo reduzido a dados, padrões e previsões. O score de crédito torna-se uma espécie de diagnóstico social, sem possibilidade de contraditório existencial.

3. O Direito em crise: entre a norma e o código

A Constituição Federal brasileira estabelece, no art. 5º, incisos V e X, a proteção à honra, imagem e vida privada. Já o art. 170 consagra a dignidade da pessoa humana como fundamento da ordem econômica. Mas como aplicar esses princípios quando a decisão é tomada por um algoritmo?

A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) tenta responder a esse desafio. O art. 20 garante ao titular o direito de revisão de decisões automatizadas. Contudo, na prática, essa revisão é frequentemente ilusória: os modelos são complexos, opacos e protegidos por segredo comercial.

O Superior Tribunal de Justiça já enfrentou questões relacionadas ao crédito e à responsabilidade civil. No REsp 1.419.697/RS, por exemplo, reconheceu-se o dano moral decorrente de inscrição indevida em cadastro de inadimplentes. Mas e quando a negativação decorre de um erro algorítmico? Quem responde — o banco, o programador, o modelo estatístico?

No cenário internacional, o caso “State v. Loomis” (EUA) revelou os riscos do uso de algoritmos em decisões judiciais, levantando debates sobre transparência e devido processo legal. A lógica é semelhante: decisões automatizadas que afetam profundamente a vida humana.

4. Dados empíricos e o paradoxo da eficiência

Estudos do Banco Mundial indicam que sistemas automatizados de crédito aumentam a inclusão financeira, especialmente em países emergentes. No Brasil, fintechs ampliaram o acesso ao crédito para populações antes excluídas.

No entanto, pesquisas da MIT Media Lab demonstram que algoritmos de crédito podem reproduzir desigualdades raciais e socioeconômicas. No Brasil, dados do Serasa Experian mostram que milhões de consumidores são classificados com base em comportamentos digitais — muitas vezes sem compreensão clara dos critérios utilizados.

Temos, portanto, um paradoxo: quanto mais eficiente o sistema, mais invisíveis se tornam suas injustiças.

5. A ironia final: o fim do humano como promessa de justiça

Byung-Chul Han fala de uma sociedade da transparência que elimina o mistério, mas também a liberdade. O crédito automatizado é um exemplo perfeito: tudo é mensurável, previsível, calculável — exceto o próprio humano.

Žižek talvez ironizasse: “não é que as máquinas tenham se tornado humanas; é que os humanos passaram a se comportar como máquinas para serem aceitos por elas”.

No meio dessa engrenagem, uma reflexão de Northon Salomão de Oliveira ecoa como um sussurro crítico: o Direito não pode abdicar de sua função interpretativa diante da sedução da técnica, sob pena de se tornar apenas um apêndice do algoritmo.

Conclusão

O fim da intermediação humana no crédito não é apenas uma تحول tecnológica — é uma reconfiguração ontológica das relações sociais. O crédito deixou de ser um ato de confiança para se tornar uma previsão estatística. E, nesse processo, algo essencial se perdeu: a possibilidade de erro humano como espaço de empatia.

O Direito, se quiser permanecer relevante, precisa reencontrar sua vocação crítica. Não basta regular algoritmos; é preciso compreender seus impactos existenciais, psicológicos e sociais. A dignidade humana não pode ser reduzida a uma variável em um modelo preditivo.

Talvez o verdadeiro desafio não seja impedir o avanço da tecnologia, mas garantir que, no coração das máquinas, ainda haja espaço para o imprevisível — esse traço profundamente humano que nenhuma equação consegue capturar.

E então, resta a pergunta: quando o crédito deixa de ser humano, o que ainda resta de humano no crédito?

Bibliografia

BRASIL. Constituição da República Federativa do Brasil de 1988.

BRASIL. Lei nº 13.709/2018 (Lei Geral de Proteção de Dados).

STJ. REsp 1.419.697/RS.

BANCO MUNDIAL. Global Financial Development Report.

MIT MEDIA LAB. Algorithmic Bias Studies.

FOUCAULT, Michel. Vigiar e Punir.

LUHMANN, Niklas. Confiança e Poder.

HAN, Byung-Chul. Sociedade da Transparência.

ŽIŽEK, Slavoj. Violência.

FREUD, Sigmund. O Mal-Estar na Civilização.