A promessa da IA: resolver todos os problemas do mundo de maneira mais eficiente com menor custo de maneira automatizada e sem interferência de preconceitos humanos.
A promessa do DOGE: modernizar a administração dos EUA e reduzir despesa administrativas utilizando IA.
O resultado:
DOGE usou IA com falhas para cancelar benefícios de veteranos
O Departamento de Eficiência Governamental recorreu a um engenheiro de software sem experiência para cancelar contratos do Departamento de Assuntos de Veteranos.
Ele criou rapidamente uma ferramenta de inteligência artificial para identificar serviços de empresas privadas considerados “não essenciais”. O código, baseado em modelos de IA baratos e ultrapassados, cometeu erros gritantes.
Eram analisadas apenas as primeiras 2.500 palavras de cada contrato. As instruções do script eram simplistas, como: poupar contratos de “atendimento direto ao paciente” e marcar como descartáveis os que envolvessem “diversidade, equidade e inclusão”.
Essa notícia me fez lembrar um caso em que eu atuei, processo 0007717-88.2013.8.26.0299, encerrado ano passado.
Um membro do Ministério Público de São Paulo ajuizou ação em face do meu cliente por causa de 3 contratos de publicidade supostamente irregulares firmados com a prefeitura de Jandira, SP. O valor total dos contratos era aproximadamente 37 mil reais na época, mas utilizando matemática criativa por assim dizer o pedido chegava a 3,7 milhões de reais.
Reunindo a documentação indispensável, provei acima de qualquer dúvida nos autos do processo que o serviço foi realmente prestado e que o preço era menor do que o cobrado pelo mercado. A irregularidade administrativa apontada, ausência de processo regular de licitação, não deveria produzir consequências em relação ao comportamento dos meus clientes (prestadores de serviços privados) e sim em relação ao prefeito (autoridade pública sujeita às normas de direito administrativo que firmou os contratos).
O processo prosseguiu lentamente e uma década depois, inexistindo qualquer indício de fraude, inexecução do serviço, pagamento de suborno ou superfaturamento, o juiz reconheceu que a prefeitura não havia sofrido qualquer dano.
No caso em que atuei não foi utilizada IA. O exagero abusivo pode, portanto, ser creditado ao bom e velho erro humano envolto pelas névoas de preconceito e paranoia persecutória do Ministério Público. Com a utilização de IA algo assim não deveria acontecer, mas parece que isso é uma ilusão. O DOGE repete em escala industrial automatizada nos EUA o mesmo problema que foi enfrentado pelo meu cliente.
Well, well, well... parece que o mito da utilização da IA na esfera administrativa/judicial está sendo destruído pelos seus principais defensores no DOGE.
