O uso generalizado de IAs que geram textos para fins religiosos e místicos está espalhando um novo tipo de mal-estar no coração da autoproclamada civilização ocidental. Esse fenômeno, ao que parece, está ganhando força nos últimos meses.
Em uma entrevista sobre o filme Laranja Mecânica, Stanley Kubrick disse:
“A ciência é potencialmente mais perigosa que o Estado, porque tem um efeito muito mais duradouro. Não vejo a ciência como um mal. Ela deve simplesmente ser controlada de modo inteligente pela sociedade. Durante as experiências de Los Alamos para a primeira bomba atômica, um grupo de físicos pensava que haveria uma reação em cadeia a partir da primeira explosão, que destruiria o mundo. Eles achavam, naturalmente, que seria um erro realizar o teste. Mas outro grupo, mais poderoso, que mais tarde provou ter razão, declarou que não haveria reação em cadeia e quis realizar a experiência. Que um grupo de cientistas competentes e responsáveis tenha podido pensar que aquilo levaria à destruição do mundo (e, na época, certamente não havia maneira de provar que estavam errados) deveria ter sido motivo suficiente para não fazer o teste. O fato de não terem sido ouvidos sempre me pareceu um exemplo inquietante da imprudência da ciência quando ela está apaixonadamente interessada por uma ideia sedutora.” (Kubrick, Michel Ciment, Ubu Editora, São Paulo, 2017, pp. 114-115)
Aparentemente, a liberação indiscriminada do IAs que geram textos sem medidas de segurança adequadas (bem como a evidente relutância dos donos das grandes empresas de tecnologia em aceitar qualquer tipo de regulamentação, algo endossado pelo governo Donald Trump) é o exemplo mais recente da “imprudência da ciência quando ela está apaixonadamente interessada por uma ideia sedutora”. E pouco importa, neste caso, se a ideia sedutora é criar uma Superinteligência, produzir rios de dinheiro ou garantir a hegemonia dos EUA na corrida tecnológica contra a China. O subproduto dessa imprudência pode causar, e já está causando, danos cognitivos, psicológicos e emocionais em massa.
Esses usuários que alegam ter alcançado o despertar místico, mas que na verdade estão imersos em delírios tecno-religiosos causados por alucinações produzidas por IA, são vítimas e não sabem que o são. É muito provável que nem sequer percebam que a exploração cognitiva, emocional e psicológica a que são submetidos se torna cada vez mais eficiente, pois eles próprios ensinam a IA a explorar as irracionalidades e vulnerabilidades presentes nos seus prompts.
Podemos dizer, de certa forma, que eles estão "perseguindo o dragão", uma expressão comumente usada por viciados em ópio na China do século XIX. Muitos deles abandonavam filhos, esposas, pais, empregos e vida social para consumir cada vez mais ópio, sempre em busca de uma experiência mística perfeita de encontro e fusão com o dragão (um ser misticamente puro e benéfico na mitologia chinesa). É claro que essa era uma ilusão que apenas reforçava o vício e a degradação física, psicológica, econômica e social dos dependentes de ópio.
Quando as autoridades chinesas finalmente decidiram agir, os danos causados pelo consumo de ópio já haviam levado o Império Chinês à ruína, resultando em cem anos de decadência e humilhação. A China só conseguiu se libertar dessa doença socio-econômica graças à revolução liderada por Mao Tsé-Tung. O Partido Comunista Chinês proibiu o comércio e o uso de ópio e combateu (e ainda combate) os traficantes de ópio de maneira implacável.
A decadência que ocorreu no Império Chinês no século XIX pode agora ocorrer nos EUA, à medida que mais e mais usuários de internet se entregam a delírios místicos induzidos por IA. Em algum momento isso começará a destruir o tecido social e afetar a economia daquele país. Mas o governo norte-americano apoia e depende das grandes empresas de tecnologia e se recusa a regulamentar os produtos que elas disponibilizam aos usuários da internet. Isso simplesmente causará cada vez mais danos aos EUA, enquanto os norte-americanos passam horas e horas em vão"perseguindo o dragão".
OK, essa comparação pode ser considerada exagerada. No mínimo, ela é dramática e contém um certo determinismo tecnológico apocalíptico que deve ser evitado. Além disso, confesso que tenho uma tendência a transformar o desejo de ver o declínio e a queda dos EUA em um fato consumado. Mas o problema existe e tende a crescer até se tornar um verdadeiro problema de saúde pública, e não apenas entre os norte-americanos.
Acho que as pessoas precisam começar a entender que são tendenciosas e que suas tendências são inevitavelmente reforçadas de forma automatizada pelas respostas fornecidas pelas IAs. Isso não é uma exceção, mas um padrão programado nos produtos disponibilizados na rede mundial de computadores pelos engenheiros de TI que os criaram. Portanto, cada usuário precisa corrigir os resultados de sua própria interação com a IA ao final de cada interação.
Uma maneira de fazer isso seria identificar e reconhecer seus próprios vieses e pedir à IA que mostre onde eles surgiram nas perguntas, como a própria IA os reforçou e quais expressões ela usou para isso em suas respostas. Essa não é uma tarefa fácil para os humanos. Tendemos a gostar de nossos vieses e a escondê-los de nós mesmos, preferindo que sejam reforçados ao interagir com pessoas e máquinas. Essa é uma terrível característica humana.
Os programadores usam várias estratégias para extrair dados que podem ser correlacionados com outros dados a fim de criar perfis de usuário individuais. Esse é o propósito do botão "Like", por exemplo.
Mas a interação ser humano/máquina, quando se trata de IA geradora de texto, é um universo muito diferente. Ela contém especificidades e apresenta riscos distintos do uso de redes sociais.
Talvez, para evitar danos cognitivos, emocionais e psicológicos aos usuários de IA geradora de texto, seja necessário criar um prompt automático que seja executado, por exemplo, após 10 interações na mesma sessão de uso. Esse prompt automático realizaria a maiêutica socrática da interação usuário-IA até aquele ponto. E o usuário só poderia prosseguir se enviasse o prompt automático para depois poder ler e refletir sobre a resposta.
No mínimo, o resultado funcionaria como um importante alerta periódico. Isso forneceria evidências documentadas de que a IA pode ser usada de forma não prejudicial pelos usuários. E os dados fornecidos por esse prompt automático específico, de todos os usuários, poderiam ser usados para aprimorar o alinhamento de segurança da IA.
Do ponto de vista estritamente tecnológico, segundo informações que obtive de cinco IAs diferentes (ChatGPT, Gemini, Perplexity, DeepSeek e Claude), criar o dispositivo virtual que idealizei não é um problema. No entanto, mudar a forma como as Big Techs projetam seus produtos, sempre visando maximizar o lucro por meio de artifícios e incentivos para que os usuários passem o máximo de tempo possível utilizando-os, seria um desafio considerável.
Os armadores devem construir os melhores e mais seguros navios. Mas eles jamais conseguirão eliminar completamente o risco de naufrágio. Esse é o ponto crucial aqui, e não algo como: já que naufrágios acontecem, vamos economizar e construir navios inseguros. Este é um paradigma importante que poderia ser levado em consideração por empresas que projetam e fornecem IAs geradoras de texto.
Um prompt socrático automatizado como o sugerido teria consequências legais óbvias. Se o dispositivo virtual for bem projetado, a empresa que criou a IA poderá se defender melhor em casos de pedidos de indenização formulados por usuários que afundaram em delírios tecno-religiosos. Isso comprovaria que a empresa adotou padrões rigorosos de uso seguro, reflexivo e ético, e não poderia ser responsabilizada caso o usuário optasse por ignorar os avisos periodicamente recebidos. O foco do uso mudaria da estimulação do vício por meio de reforço com bajulação para uma experiência mediada pela aprendizagem do usuário, e não apenas pela aprendizagem de máquina.
Para finalizar este texto com uma nota otimista, muitas pessoas já estão se opondo ao uso da tecnologia de IA. Contudo, essas não são as pessoas que sofrem de surtos místicos de delírio, e obviamente elas não têm o poder de definir como a tecnologia evoluirá nas próximas décadas.
Talvez o estouro da bolha financeira da IA desencadeie um novo “inverno da IA”. Isso provavelmente teria um efeito positivo, mas as pessoas que estão sofrendo surtos de delírios místicos induzidos por IAs terão que passar por uma desintoxicação tecnológica, cognitiva, psicológica e emocional. A nova tecnologia de aprendizado de máquina é, sem dúvida, algo poderoso e assustador, mas os humanos também podem reaprender coisas antigas, úteis, necessárias e indispensáveis.
