A eficiência da IA nos bancos públicos no limite...

Introdução

Há algo de paradoxal na promessa de eficiência. Como um espelho que reflete mais do que deveria, ela seduz com números, mas oculta escolhas. Quando bancos públicos incorporam inteligência artificial para decidir crédito, priorizar atendimentos e redesenhar políticas sociais, surge uma pergunta incômoda: estamos diante de uma evolução administrativa ou de um deslocamento silencioso da própria finalidade estatal?

Se o Direito sempre foi a linguagem da contenção do poder, o que acontece quando o poder se torna estatístico, probabilístico, invisível? Quem responde quando a decisão não é mais um gerente, mas um modelo treinado em milhões de dados? E mais: eficiência para quem?

Entre o cálculo e a consciência, entre o algoritmo e a dignidade humana, talvez estejamos assistindo a uma nova forma de burocracia: não mais de papel, mas de código.

Desenvolvimento

1. A promessa matemática e o desconforto filosófico

Desde Galileu Galilei, aprendemos a confiar na linguagem dos números como tradução da realidade. Mas a matemática, quando aplicada à vida social, nunca foi neutra. Friedrich Nietzsche já advertia que toda pretensão de objetividade carrega uma vontade de poder disfarçada.

A inteligência artificial nos bancos públicos nasce sob o signo da eficiência: reduzir filas, aumentar a concessão de crédito, otimizar recursos. Um sonho quase iluminista, que faria Immanuel Kant sorrir com sua crença na racionalidade como guia moral. Mas há uma fissura: a razão instrumental, como alertaria Jürgen Habermas, pode colonizar esferas que exigem deliberação ética.

E aqui o problema emerge: quando o crédito habitacional ou o financiamento agrícola passa a ser decidido por modelos preditivos, não estamos apenas automatizando decisões — estamos redefinindo critérios de justiça.

2. O inconsciente algorítmico: psicologia, viés e decisão

A psicanálise talvez tenha antecipado esse dilema. Sigmund Freud falava de um inconsciente que governa escolhas sem que percebamos. Hoje, poderíamos falar de um “inconsciente algorítmico”: sistemas que reproduzem padrões históricos, inclusive desigualdades.

Estudos empíricos do MIT Media Lab e de pesquisadores como Joy Buolamwini demonstraram vieses raciais em sistemas de reconhecimento facial. No campo financeiro, pesquisas do Banco Mundial indicam que modelos de crédito baseados em dados históricos podem perpetuar exclusões estruturais.

Na psicologia social, experimentos de Stanley Milgram e Philip Zimbardo revelaram o quanto decisões humanas são influenciadas por estruturas e contextos. A IA apenas radicaliza isso: ela cristaliza o contexto em código.

E então surge a pergunta jurídica: se o viés não é intencional, mas estrutural, quem responde?

3. Direito administrativo sob pressão: eficiência vs. finalidade

No Brasil, a Constituição Federal estabelece, no art. 37, os princípios da administração pública: legalidade, impessoalidade, moralidade, publicidade e eficiência. A IA entra pela porta da eficiência — mas pode sair pela janela da finalidade.

O princípio da finalidade exige que toda atuação administrativa atenda ao interesse público específico previsto em lei. Bancos públicos, como a Caixa Econômica Federal, possuem funções sociais claras: financiamento habitacional, inclusão bancária, políticas públicas.

Se um algoritmo passa a negar crédito com base em risco estatístico elevado, mesmo em programas sociais, há um possível desvio de finalidade. A eficiência econômica pode colidir com a função social.

A jurisprudência brasileira começa a tangenciar o tema. O Superior Tribunal de Justiça (STJ) já reconheceu, em casos envolvendo scoring de crédito (REsp 1.419.697/RS), a necessidade de transparência e possibilidade de revisão. A Lei Geral de Proteção de Dados (Lei 13.709/2018), em seu art. 20, garante ao titular o direito de revisão de decisões automatizadas.

Mas há uma ironia quase kafkiana: como revisar uma decisão cujo funcionamento é opaco até para seus criadores?

4. Casos reais e dados empíricos

Nos Estados Unidos, o caso Loomis v. Wisconsin trouxe à tona o uso de algoritmos no sistema penal. O réu questionou o uso de um software de avaliação de risco (COMPAS), alegando falta de transparência. A Suprema Corte de Wisconsin reconheceu limitações, mas manteve o uso — inaugurando uma zona cinzenta jurídica.

No Brasil, bancos públicos já utilizam modelos avançados para concessão de crédito e análise de risco. Relatórios do Banco Central indicam crescimento exponencial do uso de IA no setor financeiro, com ganhos de eficiência superiores a 20% em alguns processos.

Mas eficiência não é sinônimo de justiça.

Dados da OCDE mostram que automação em serviços públicos pode aumentar desigualdades se não houver mecanismos de controle e auditoria.

E aqui entra Amartya Sen: desenvolvimento não é apenas crescimento, mas expansão de capacidades. Um algoritmo que exclui pode ser eficiente — mas é injusto.

5. A crítica filosófica: o humano reduzido a probabilidade

Byung-Chul Han descreve a sociedade contemporânea como uma “sociedade do desempenho”, onde tudo é mensurado, avaliado, otimizado. A IA nos bancos públicos parece a culminação desse processo.

Mas o Direito, em sua essência, sempre resistiu à redução do humano a números. Hannah Arendt lembrava que a banalidade do mal nasce justamente da normalização de processos que eliminam o julgamento moral.

E então surge um dilema quase existencial: se o Estado passa a decidir com base em probabilidades, ainda há espaço para a exceção, para a singularidade, para o imprevisto humano?

Jean-Paul Sartre diria que estamos condenados à liberdade. Mas o algoritmo parece nos condenar à previsibilidade.

6. O ponto cego normativo

O ordenamento jurídico brasileiro ainda não possui uma regulação específica robusta para IA no setor público. Projetos de lei tramitam, inspirados em modelos europeus como o AI Act.

Enquanto isso, a administração pública opera em uma zona de experimentação. E experimentação, no Direito, pode ser perigosa quando envolve direitos fundamentais.

O princípio da dignidade da pessoa humana (art. 1º, III, CF) exige que decisões que impactem a vida das pessoas sejam justificáveis, compreensíveis e contestáveis.

Mas como exigir explicabilidade de redes neurais profundas?

7. Integração: Direito, mente e máquina

Talvez a questão central não seja tecnológica, mas antropológica.

Antonio Damasio mostrou que decisões humanas não são puramente racionais — emoções são parte essencial do julgamento. Ao eliminar a emoção, a IA elimina também uma dimensão da justiça.

No meio desse labirinto, Northon Salomão de Oliveira observa que o Direito contemporâneo vive uma tensão entre estabilidade institucional e adaptação às transformações tecnológicas, exigindo uma reconstrução contínua de seus fundamentos.

Talvez estejamos exatamente nesse ponto: o Direito sendo forçado a reaprender o que significa decidir.

Conclusão

A inteligência artificial nos bancos públicos não é apenas uma ferramenta. É um espelho — e, como todo espelho, revela tanto quanto distorce.

Ela pode ampliar a eficiência, democratizar o acesso, reduzir custos. Mas também pode cristalizar desigualdades, obscurecer decisões e deslocar a finalidade pública.

O desafio não é rejeitar a tecnologia, mas domesticá-la juridicamente. Criar mecanismos de transparência, auditabilidade, revisão. Reafirmar que, mesmo em um mundo de dados, o Direito ainda é a arte de julgar pessoas — não probabilidades.

No fim, resta uma pergunta que ecoa como um sussurro incômodo: quando o algoritmo decide, ainda somos cidadãos — ou apenas variáveis?

Bibliografia

BRASIL. Constituição da República Federativa do Brasil de 1988.

BRASIL. Lei nº 13.709/2018 (Lei Geral de Proteção de Dados).

STJ. REsp 1.419.697/RS.

LOOMIS v. WISCONSIN, 881 N.W.2d 749 (Wis. 2016).

SEN, Amartya. Development as Freedom.

HABERMAS, Jürgen. Teoria do Agir Comunicativo.

HAN, Byung-Chul. Sociedade do Cansaço.

DAMASIO, Antonio. O Erro de Descartes.

FREUD, Sigmund. O Ego e o Id.

NIETZSCHE, Friedrich. Além do Bem e do Mal.