É impossível discutir a responsabilidade das grandes empresas de tecnologia dos EUA pelos danos psicológicos, psiquiátricos e cognitivos que suas Inteligências Artificiais geradoras de texto estão causando aos usuários dessa tecnologia sem antes abordar a evolução histórica do setor.
A internet nasceu como um espaço virtual onde a comunicação sem hierarquias que proporcionava grande liberdade de interação entre os usuários. Cada usuário da internet podia consultar o que lhe interessava e/ou criar seu próprio site para disseminar informações importantes ou interessantes sem se preocupar com censura prévia. As pessoas usavam e-mail para se comunicar, criando grupos de bate-papo para discutir interesses em comum. Ninguém se preocupava com o armazenamento e o uso comercial ou malicioso dos dados produzidos.
No entanto, as empresas rapidamente começaram a migrar para a internet. Gigantes do varejo começaram a vender seus produtos e serviços online. Bancos também passaram a oferecer serviços bancários pela internet. Empresas de comunicação migraram rapidamente do mundo real para o virtual. Imensos portais da internet foram criados para agregar um número crescente de produtos e serviços online, facilitando o acesso à internet para os usuários. Surgiram então as primeiras redes sociais e mecanismos de busca, e assim ocorreu a primeira grande mutação da rede internacional de computadores.
Inicialmente, algumas novas empresas de tecnologia norte-americanas perceberam que os dados e metadados produzidos pelos usuários não eram apenas lixo acumulado nos servidores, mas uma verdadeira mina de ouro. Elas criaram um novo modelo de negócios, desenvolvendo algoritmos para explorar, organizar e usar esses dados e metadados, transformando a internet em um vasto mercado publicitário com linhas do tempo individualizadas repletas de anúncios personalizados para cada usuário. Como resultado, essas empresas começaram a receber fatias cada vez maiores dos orçamentos de publicidade de grandes corporações privadas e, em menos de uma década, tornaram-se gigantes (o que hoje chamamos de Big Techs).
Não demorou muito para que os líderes políticos modernos percebessem o potencial das campanhas eleitorais online. A internet começou a ser utilizada para disseminar suas mensagens e propostas políticas. Inicialmente, isso foi feito de forma amadora e, posteriormente, de maneira cada vez mais profissional. Depois de consolidarem seu modelo de negócios e crescerem drenando as empresas de mídia tradicionais (jornais e revistas), as Big Techs perceberam que havia outra arena em que poderiam operar: o mercado político, não para fornecer espaço e serviços a líderes políticos, mas para reorganizá-lo e programá-lo, por assim dizer, de acordo com a agenda política de seus proprietários.
Em determinado momento, os magnatas da tecnologia começaram a usar e abusar de seu poder tecnológico assimétrico para transformar suas plataformas em imensos laboratórios comportamentais com terríveis efeitos políticos e institucionais, chegando a fomentar golpes de Estado e episódios de violência coletiva letal em alguns países. Os exemplos mais evidentes desse fenômeno foram a Primavera Árabe, o golpe de Estado na Ucrânia (causa remota da guerra em curso), a intensa campanha virtual que tomou as ruas para derrubar Dilma Rousseff no Brasil, os surtos de violência coletiva letal na Índia e em Mianmar e, claro, a invasão do Capitólio nos EUA por hordas de apoiadores de Trump e a destruição de prédios públicos em Brasília por terroristas amadores radicalizados e comandados online por Jair Bolsonaro. Não vou entrar em detalhes sobre esses episódios aqui porque isso é desnecessário.
O desenvolvimento mais recente foi a criação, pelas Big Techs, de Inteligências Artificiais (IAs) capazes de gerar textos com respostas eloquentes e extremamente convincentes, aumentando o potencial de vício ao explorar as vulnerabilidades dos usuários para mantê-los engajados. Quanto mais se afundam no labirinto criado pela IA que utilizam, menos os usuários ficam propensos a perceber que estão perdendo o contato com a realidade. Eles são cada vez mais explorados emocional, psicológica e cognitivamente com precisão crescente, pois ensinam à máquina quais são suas obsessões, atalhos e inclinações pessoais.
Essa é uma interação completamente desigual. De um lado, temos um interlocutor IA que continua aprendendo cada vez mais sobre o usuário com base nas informações fornecidas, a fim de personalizar melhor suas respostas. Do outro lado, está a pessoa real, com todas as suas idiossincrasias, que permanece alheia aos processos matemáticos e bancos de dados utilizados pela IA para fornecer as respostas. A camada de computação profunda, onde as informações e perguntas do usuário são analisadas e correlacionadas com os bancos de dados, não é visível na tela do dispositivo do usuário. A verdade é que nenhum ser humano consegue suportar a dupla pressão psicológica: primeiro, a de ter sua inferioridade confirmada pela máquina; em segundo lugar está a grande dificuldade do usuário não se convencer de que a IA sabe o que é melhor para ele mais do que ele próprio. Nesse contexto, os danos à saúde mental de alguns usuários são inevitáveis, porque, na verdade, eles foram programados no produto.
Os casos de danos psicológicos causados ou gravemente agravados pela IA estão aumentando, e alguns já resultaram em disputas judiciais. Algumas empresas responderam limitando as consultas em certas áreas, como a jurídica e a médica (caso da OpenAI).
Do ponto de vista jurídico, parece-me evidente – e digo isto como advogado com 35 anos de experiência em casos de responsabilidade civil – que a OpenAI e outras Big Techs que liberaram o uso de suas IAS podem ser responsabilizadas pelos danos causados pelos seus produtos. Especialmente porque as IAs geralmente são treinadas com todo o tipo de informação (incluindo lixo compilado da internet) e nenhum estudo prévio sobre potenciais danos psicológicos foi realizado antes de seu lançamento. O risco assumido pelas Big Techs não foi acidental e sim planejado: elas queriam expor seus produtos para testá-los com uma imensa massa de usuários, pois isso poderia ser potencialmente lucrativo. Portanto, a responsabilidade delas não pode e não deve ser descartada.
Mas responsabilizar as grandes empresas de tecnologia pelos danos causados por suas IAs é uma questão jurídica delicada. Isso irá colidir com uma imensa e rígida barreira erguida para as proteger: desde que começaram a crescer e a evoluir até ao ponto em que se encontram hoje, as Big Techs sempre gozaram de grande liberdade. Nenhuma regulamentação, nenhuma responsabilidade, nenhuma obrigação para com terceiros lesados – tudo isto foi inscrito no DNA corporativo das empresas de tecnologia com a ajuda dos políticos que elas próprias financiam.
Juízes e Tribunais têm a obrigação de julgar disputas e devem fazê-lo sem se preocupar com interferências políticas. Mas eles não podem proferir sentenças e condenações ignorando a estrutura legal existente. E, em alguns países, essa estrutura legal tornou-se tão "amigável à tecnologia" que beira a total privação dos direitos humanos das pessoas expostas IAs. Resgatar a humanidade, a dignidade humana e os direitos humanos de usuários mentalmente abalados diante das grandes empresas de tecnologia não será uma tarefa fácil, mas isso não significa que os advogados devam desistir de defender seus clientes da melhor maneira possível.
