A INTELIGÊNCIA ARTIFICIAL E OS SEUS DILEMAS
Por José Orlando Schäfer1
“Os limites da minha linguagem denotam os limites do meu mundo” (Ludwig Wittgenstein, Tractatus Logico-Philosophicus.)
Resumo
O presente texto busca refletir sobre as relações entre inteligência artificial, pensamento, linguagem, escrita, memória, emoção e poder, analisando os dilemas filosóficos, éticos e políticos decorrentes do avanço da inteligência artificial. Parte-se da compreensão de que o pensamento humano não se reduz à simples manipulação técnica da linguagem, mas nasce da experiência vivida, da memória, das emoções e da consciência corporal do mundo. A partir do diálogo com Fedro, de Platão, examina-se a recorrente desconfiança histórica diante das novas tecnologias da linguagem, estabelecendo-se um paralelo entre os antigos temores relativos à escrita e as atuais inquietações acerca da inteligência artificial. O texto sustenta que a linguagem organiza o pensamento e que a escrita não apenas comunica ideias, mas também participa de sua própria construção. Analisa-se ainda o risco da passividade intelectual, da manipulação política e da concentração de poder decorrentes da utilização da IA em larga escala. Em diálogo com Espinosa e António Damásio, argumenta-se que o pensamento humano permanece inseparável da experiência corporal e emocional, dimensão que a inteligência artificial não consegue reproduzir integralmente. No campo jurídico, analisa-se o impacto da IA sobre o processo judicial e o exercício da jurisdição, defendendo-se que as tecnologias disponibilizadas aos magistrados também sejam acessíveis às partes e aos advogados, como condição para a preservação da paridade de armas, do contraditório e do devido processo legal. Sustenta-se que a inteligência artificial não pode substituir a atividade humana de julgar nem comprometer a formação dialética das decisões judiciais. Por fim, defende-se a necessidade de construção de um código geral de ética para a inteligência artificial, baseado nos princípios da transparência, da responsabilidade humana e da proteção da dignidade humana.
Palavras-chave: inteligência artificial; pensamento; linguagem; escrita; ética; consciência; manipulação política.
SUMÁRIO
Introdução
A inteligência artificial e a antiga desconfiança das tecnologias da linguagem
O pensamento antes da linguagem
Linguagem, escrita e organização do pensamento
3.1 Linguagem e estruturação da consciência
3.2 Escrita, memória e elaboração intelectual
3.3 A escrita como instrumento e como experiência estética
A inteligência artificial e o risco da passividade intelectual
Inteligência artificial, poder e manipulação política
Entre corpo, emoção e consciência: Espinosa e António Damásio
A necessidade de um código geral de ética para a inteligência artificial
A inteligência artificial no âmbito dos tribunais
Os limites da inteligência artificial
Conclusão
Introdução
O Ministério da Educação (MEC) lançou recentemente diretrizes oficiais para a integração da inteligência artificial (IA) à educação básica. No âmbito do Poder Judiciário, o Conselho Nacional de Justiça editou a Resolução nº 615/2025, reconhecendo tanto a relevância quanto os riscos decorrentes da utilização da inteligência artificial e estabelecendo princípios como transparência, supervisão humana, respeito aos direitos fundamentais e auditabilidade dos sistemas empregados.
Tais iniciativas revelam o reconhecimento institucional de uma transformação histórica já em curso. O surgimento da inteligência artificial talvez represente uma das maiores revoluções culturais, intelectuais e tecnológicas desde o advento da escrita. Pela primeira vez, máquinas passaram a produzir linguagem de forma sofisticada, elaborando textos, organizando argumentos, simulando diálogos e reproduzindo estilos discursivos com impressionante eficiência. Muitas vezes, sequer se sabe se se está diante de uma produção genuinamente humana ou de um conteúdo elaborado artificialmente.
É verdade que os seres humanos sempre recorreram a instrumentos externos para ampliar suas capacidades cognitivas – e talvez muito mais do que estejam dispostos a admitir. A escrita, os livros, os arquivos, as bibliotecas e, posteriormente, os computadores já funcionavam como formas de extensão da memória e da inteligência humana.
Em certo sentido, portanto, a humanidade sempre construiu mecanismos artificiais de apoio ao pensamento.
Veja-se, por exemplo, o campo da música. Há muito tempo os seres humanos recorrem a instrumentos, técnicas e suportes artificiais para ampliar suas capacidades criativas e alcançar determinados efeitos estéticos. O músico não produz arte apenas com a voz ou com o corpo: utiliza instrumentos, partituras, aparelhos de gravação, programas de edição e inúmeros recursos técnicos que funcionam como extensões de sua própria capacidade expressiva. Agora, já existe música inteiramente produzida por Inteligência Artificial (IA).
Talvez a inteligência artificial represente apenas um novo estágio – muito mais sofisticado – dessa longa trajetória histórica de ampliação técnica das capacidades humanas.
Contudo, a inteligência artificial introduz uma novidade radical: ela não apenas armazena informações, mas também processa linguagem e produz estruturas discursivas complexas. Diante disso, antigas questões filosóficas retornam com nova intensidade: o que significa pensar? Qual a relação entre linguagem e consciência? O pensamento existe antes das palavras? E qual será o destino da escrita num mundo em que máquinas também escrevem?
Curiosamente, tais inquietações não são inteiramente novas. Em Fedro, de Platão, já se refletia sobre os riscos da escrita para a memória e para o pensamento humano. A desconfiança, diante das novas tecnologias da linguagem, parece acompanhar permanentemente a história da civilização.
Entretanto, talvez a questão central não seja saber se a inteligência artificial substituirá o pensamento humano, mas compreender aquilo que efetivamente constitui o próprio ato de pensar. Pensamos apenas através das palavras? Ou o pensamento nasce da experiência, das emoções, da memória e da consciência corporal do mundo?
Além disso, há o temor de que a inteligência artificial venha a enfraquecer o pensamento humano ou, até mesmo, comprometer as próprias condições existenciais necessárias para que o ser humano realize sua destinação mais fundamental: viver com alegria e perseverar na existência. Estatísticas não muito animadoras revelam uma humanidade cada vez mais deprimida e triste. Nesse contexto, surgem outras inquietações inevitáveis: seria a IA algo importante e necessário? Com ela, os seres humanos perderiam a autonomia de decidir por si mesmos?
A partir dessas questões, o presente texto pretende refletir sobre as relações entre inteligência artificial, pensamento, linguagem, escrita, memória, emoção e poder, buscando compreender tanto os limites quanto as possibilidades dessa nova realidade tecnológica, bem como os desafios éticos e políticos que ela impõe à humanidade.
1. A inteligência artificial e a antiga desconfiança das tecnologias da linguagem
Em Fedro, de Platão, coloca-se na fala de Sócrates uma inquietação que atravessa os séculos: a escrita poderia enfraquecer a memória e produzir apenas uma aparência de sabedoria? Segundo o mito narrado no diálogo, o deus Theuth apresenta a escrita como um presente capaz de ampliar o conhecimento humano. O rei Thamus, contudo, responde com desconfiança: os homens deixariam de exercitar a memória interior e passariam a depender de sinais externos.
O diálogo impressiona porque revela, ao mesmo tempo, a confiança que a humanidade frequentemente deposita na tecnologia e o medo recorrente que surge diante de cada nova tecnologia da linguagem. Em determinado momento histórico, temeu-se que a escrita destruísse a memória. Hoje, teme-se que a inteligência artificial destrua o pensamento.
E, nesse contexto, surgem inquietações inevitáveis: passariam os seres humanos a pensar através da inteligência artificial? Deixariam, progressivamente, de pensar por conta própria?
Mas talvez essas preocupações partam de uma mesma pergunta fundamental: afinal, o que significa pensar?
2. O pensamento antes da linguagem
O pensamento nasce antes da linguagem. Essa parece ser uma premissa razoável.
Antes mesmo de falar, a criança percebe, associa, deseja, teme, reconhece rostos, distingue sons, questiona, duvida e produz imagens mentais do mundo. Também os animais parecem possuir formas elementares de pensamento sem linguagem articulada. Isso sugere que pensar não se reduz simplesmente às palavras.
Talvez o pensamento seja, inicialmente, uma movimentação incessante de imagens, sensações, impulsos e associações interiores. A mente humana parece operar como um fluxo contínuo de representações: lembranças, emoções, intuições, desejos e percepções cruzam-se sem cessar.
Mesmo em adultos, muitas vezes pensamos primeiro por imagens e apenas depois traduzimos essas imagens em palavras. Um rosto amado, uma paisagem da infância, uma angústia, um medo ou uma alegria frequentemente surgem antes da formulação verbal.
Em Espinosa, corpo e pensamento não são realidades separadas, mas expressões de uma única substância – Deus ou Natureza. Essa substância única possui infinitos atributos, dos quais o ser humano conhece principalmente dois: o atributo da extensão (o corpo) e o atributo do pensamento (a mente). Assim, mente e corpo não são substâncias distintas, mas modos diferentes pelos quais a mesma realidade se expressa.
Entretanto, embora o pensamento exista antes da linguagem, ele permanece difuso enquanto não encontra organização linguística.
3. Linguagem, escrita e organização do pensamento
3.1 Linguagem e estruturação da consciência
A linguagem não cria totalmente o pensamento, mas lhe dá forma, estabilidade e permanência.
As palavras funcionam como estruturas organizadoras da experiência interior. Nomear algo significa delimitar, distinguir, compreender e, portanto, conceituar. A linguagem transforma percepções dispersas em ideias relativamente estáveis.
Nesse sentido, pensar linguisticamente é ordenar o caos interior.
Sem linguagem, talvez haja sensação, intuição e percepção; com a linguagem, surge a possibilidade de reflexão articulada, memória elaborada e raciocínio complexo.
Por isso, o ser humano não apenas usa palavras para comunicar pensamentos. Ele também utiliza palavras para construir pensamentos.
Grande parte da consciência humana ocorre como diálogo interior. Pensamos conversando silenciosamente conosco mesmos.
3.2 Escrita, memória e elaboração intelectual
Existe ainda um aspecto essencial: quanto mais um pensamento é retomado, mais ele se consolida. Para o bem, ou para o mal, acrescente-se.
Quando memorizamos um texto, refletimos continuamente sobre ele. A repetição interior fortalece conexões mentais, aprofunda significados e faz com que determinadas ideias passem a integrar mais profundamente nossa consciência.
Algo semelhante ocorre com a escrita.
Muitas vezes, os pensamentos surgem de forma fugidia, fragmentária e instável. Ao escrever, porém, damos permanência ao que antes era apenas fluxo passageiro. A escrita fixa o pensamento. Ela obriga a mente a organizar, revisar, selecionar e estruturar aquilo que antes existia apenas como intuição dispersa.
Escrever é também uma forma de pensar.
Por isso, a escrita não enfraquece necessariamente o pensamento, como temia Thamus em Fedro. Em muitos casos, ela o fortalece. A escrita exterioriza a memória, mas também amplia a capacidade humana de elaborar ideias complexas ao longo do tempo.
Talvez o verdadeiro problema não esteja na existência das tecnologias da linguagem, mas na forma como nos relacionamos com elas.
3.3 A escrita como instrumento e como experiência estética
A escrita nasceu originalmente como meio: registrar fatos, preservar memórias, transmitir conhecimentos e comunicar ideias através do tempo.
Contudo, aos poucos, ela também se tornou fim em si mesma.
Escrever, nesse diapasão, não serve apenas para comunicar pensamentos já prontos. Muitas vezes, escrevemos justamente para pensar. O texto organiza a mente. A escrita produz reflexão. O autor frequentemente descobre aquilo que pensa apenas enquanto escreve.
Nesse sentido, a escrita não é simples reprodução do pensamento: ela participa da própria criação dele.
Mas existe ainda outra dimensão importante da escrita: há formas de escrita em que a palavra funciona predominantemente como instrumento e outras em que ela própria se converte em objeto estético.
Num texto científico, por exemplo, a escrita tende a funcionar essencialmente como meio. Seu objetivo principal é transmitir informações, organizar conceitos, demonstrar hipóteses ou expor resultados de maneira clara e racional. A essência do texto científico reside muito mais na precisão, na coerência lógica e na capacidade de atingir determinada finalidade do que propriamente na beleza estética da linguagem.
Aqui, a escrita funciona predominantemente como instrumento para alcançar um fim. Ninguém espera encontrar beleza numa equação matemática. O que verdadeiramente importa é a correção do resultado obtido: 1 + 1 = 2.
Talvez seja justamente nesse ponto que se imponha uma necessária revisão conceitual e valorativa. Muitos dos critérios tradicionalmente utilizados para definir a “boa escrita” não nasceram exclusivamente de preocupações intelectuais ou altruístas.
Em inúmeros momentos históricos, a sofisticação excessiva da linguagem funcionou também como instrumento de distinção social, segregação cultural e construção de relações de poder.
A complexidade da escrita, muitas vezes, serviu menos para comunicar ideias e mais para separar aqueles que dominavam determinados códigos daqueles que permaneciam excluídos deles.
Isso não significa negar a importância da beleza literária, da riqueza vocabular ou da sofisticação estilística. Significa apenas reconhecer que a escrita pode assumir funções distintas conforme a natureza de sua finalidade.
Já na poesia – e em muitos campos da literatura – a escrita deixa de ser mero veículo de ideias para tornar-se também fim em si mesma.
Na poesia, não importa apenas o que é dito, mas sobretudo como é dito. A sonoridade das palavras, o ritmo, as pausas, as imagens e até os silêncios passam a possuir valor próprio. O texto poético não busca apenas comunicar uma verdade objetiva: ele procura produzir experiência estética.
A palavra deixa de ser simples instrumento e passa a existir também como beleza.
Por isso, a literatura talvez permaneça como um dos espaços mais profundamente humanos diante da inteligência artificial. Porque a verdadeira escrita literária não nasce apenas da organização técnica da linguagem, mas da experiência concreta da existência.
O ser humano não escreve apenas para informar. Escreve também para preservar memórias, atribuir sentido à existência, transformar a dor em linguagem e converter a experiência humana em forma estética.
4. A inteligência artificial e o risco da passividade intelectual
A inteligência artificial amplia radicalmente nossa capacidade de produzir textos, organizar informações e acessar conhecimentos. Ela pode resumir livros, redigir artigos, construir argumentos e responder a perguntas em segundos. E isso representa um extraordinário avanço técnico.
O risco, contudo, não está propriamente no fato de a máquina pensar por nós, mas em deixarmos de exercer o esforço humano da reflexão.
Pensar é uma atividade que exige tempo, lentidão, memória, repetição e elaboração interior. Exige confronto de ideias, reorganização de percepções e amadurecimento crítico.
Se utilizarmos a inteligência artificial apenas como substituta automática da reflexão, talvez empobreçamos progressivamente nossa própria capacidade intelectual. Mas, se ela funcionar como instrumento auxiliar – como extensão técnica da linguagem –, poderá ampliar ainda mais nossas possibilidades de criação e conhecimento.
A inteligência artificial não nos roubará necessariamente o pensamento.
O pensamento continua nascendo da experiência vivida, dos afetos, da subjetividade e do esforço interior de dar sentido ao mundo através da linguagem.
Enquanto o ser humano continuar interpretando tais experiências, lendo, memorizando, escrevendo e refletindo, continuará exercendo aquilo que talvez constitua sua atividade mais profundamente humana: transformar experiência em consciência.
5. Inteligência artificial, poder e manipulação política
Existe ainda um outro problema profundamente inquietante relacionado à inteligência artificial: seu potencial de manipulação política e social.
Toda forma de poder busca, em alguma medida, influenciar o pensamento humano. Ao longo da história, religiões, Estados, ideologias, meios de comunicação e sistemas educacionais sempre disputaram a capacidade de moldar percepções, valores e comportamentos.
Entretanto, a inteligência artificial introduz um elemento novo e extremamente poderoso nesse processo: a possibilidade de influência personalizada em escala gigantesca.
A IA não apenas transmite informações. Ela pode analisar hábitos, emoções, preferências, medos e desejos individuais. Pode identificar vulnerabilidades psicológicas e adaptar discursos especificamente para cada pessoa.
Nunca houve, na história humana, um instrumento de persuasão tão sofisticado.
Isso cria um risco evidente para a própria autonomia do pensamento.
Se os seres humanos passarem a delegar à inteligência artificial não apenas tarefas mecânicas, mas também a elaboração das próprias opiniões e interpretações da realidade, poderá ocorrer um progressivo enfraquecimento da capacidade crítica individual.
A reflexão exige esforço, dúvida, memória, elaboração interior e tempo. Contudo, a inteligência artificial tende a oferecer respostas prontas, rápidas e organizadas. Há, portanto, uma sedução natural na substituição do pensamento próprio pela comodidade da resposta automática.
O perigo não está apenas na tecnologia em si, mas na concentração de poder através dela.
Toda inteligência artificial é criada, treinada e controlada por grupos humanos concretos – governos, empresas, corporações ou centros econômicos. Isso significa que os critérios utilizados pelas máquinas jamais são completamente neutros.
Toda seleção de informações envolve valores, interesses e perspectivas de mundo.
Se a humanidade abandonar progressivamente o exercício autônomo do pensamento, poderá surgir uma sociedade formada por indivíduos cada vez mais informados, mas cada vez menos reflexivos.
Nesse cenário, os seres humanos correriam o risco de deixar de ser sujeitos do pensamento para tornarem-se objetos de direcionamento intelectual e emocional.
A manipulação política sempre existiu. Contudo, a inteligência artificial poderá elevá-la a um nível sem precedentes, precisamente porque opera no núcleo da linguagem – isto é, no espaço em que o pensamento humano se organiza.
Talvez seja por isso que o controle democrático sobre essa tecnologia seja de vital importância e, ao mesmo tempo, a preservação da escrita, da leitura profunda, da memória e da reflexão pessoal se torne ainda mais necessária.
Escrever com as próprias palavras, ler criticamente, memorizar textos, confrontar ideias e exercitar pensamento independente talvez sejam formas de resistência intelectual diante da crescente automatização da consciência.
Porque uma sociedade que deixa de pensar por si mesma se torna inevitavelmente mais vulnerável ao controle daqueles que dominam os instrumentos de formação da linguagem.
E talvez o maior desafio da inteligência artificial não seja técnico, mas sim profundamente ético, humano: preservar a autonomia do pensamento numa época em que as máquinas se tornam cada vez mais capazes de influenciar aquilo que pensamos.
6. Entre corpo, emoção e consciência: Espinosa e António Damásio
As reflexões sobre inteligência artificial, pensamento e linguagem também podem ser aprofundadas a partir do diálogo com Espinosa e António Damásio.
Espinosa, ainda no século XVII, já recusava a separação absoluta entre mente e corpo. Para ele, o ser humano não é dividido entre uma razão pura e um corpo meramente material. Pensamento e corpo constituem expressões de uma mesma realidade. Os afetos, os desejos, os medos e as emoções não são obstáculos externos à razão, mas parte integrante da própria existência humana.
Séculos depois, António Damásio retomaria, sob perspectiva neurocientífica, intuições extraordinariamente próximas das formulações espinosanas. Em diversas de suas obras, especialmente em Sentir & saber: as origens da consciência, Damásio sustenta que a consciência e a racionalidade humana não podem ser compreendidas separadamente das emoções e do corpo.
Segundo Damásio, o pensamento humano não é uma atividade puramente lógica ou abstrata. As emoções participam ativamente dos processos de decisão, memória, aprendizagem e consciência. O cérebro não funciona isoladamente do corpo; ao contrário, a mente emerge da interação contínua entre organismo, sensação, emoção e experiência vivida.
Essa perspectiva possui enorme importância para o debate sobre inteligência artificial.
Primeiro, porque evidencia que pensamento e corpo exercem influência recíproca e permanente. Contudo, talvez “influência” seja um termo insuficiente, pois o pensamento humano possui capacidade de disciplinar, conduzir e transformar o próprio corpo. Uma consequência possível dessa compreensão é a seguinte: se houver controle do pensamento através da inteligência artificial, poderá haver, em alguma medida, influência sobre a totalidade da experiência humana. Para Espinosa, corpo e mente estão de tal forma interligados que tudo aquilo que acontece com um acontece igualmente com o outro.
Um segundo aspecto relevante é que as inteligências artificiais contemporâneas operam principalmente através da linguagem e do reconhecimento de padrões. Elas processam informações, estabelecem relações estatísticas e organizam estruturas linguísticas complexas. Contudo, não possuem corpo biológico, experiência sensível ou vivência emocional concreta.
Como sustenta Miguel Nicolelis, a inteligência artificial contemporânea não constitui propriamente inteligência nos moldes da consciência humana, mas sistemas sofisticados de reconhecimento estatístico de padrões linguísticos e informacionais. Talvez exatamente aí resida um dos limites fundamentais da IA. Ela talvez nunca consiga traduzir integralmente a experiência sensível que somente o ser humano pode viver.
Se Espinosa e António Damásio estiverem corretos, pensar não significa apenas manipular símbolos ou organizar logicamente palavras. Pensar envolve sentir. Envolve experimentar corporalmente o mundo. Envolve memória afetiva, dor, prazer, medo, desejo e consciência da própria existência.
A própria linguagem humana nasce atravessada pela experiência corporal e emocional. Um poema sobre a morte, por exemplo, não decorre apenas da combinação racional de palavras, mas da consciência humana da finitude. Um texto sobre amor carrega experiências afetivas concretas. A memória literária nasce do encontro entre linguagem e vida.
Entre um número e outro existe um universo existencial que a inteligência artificial não consegue captar integralmente justamente porque não é humana.
Nesse sentido, a inteligência artificial pode reproduzir formas externas do pensamento, sem, contudo, alcançar plenamente sua dimensão existencial. Assim, ela é capaz de organizar discursos sobre o sofrimento sem sofrer, escrever sobre o amor sem amar e descrever a angústia sem jamais experimentar a própria angústia.
Isso não diminui sua impressionante capacidade técnica. Mas revela uma diferença essencial entre inteligência artificial e consciência humana: o pensamento humano é inseparável da experiência viva do corpo e da emoção.
Talvez seja justamente essa dimensão afetiva da consciência – intuída filosoficamente por Espinosa e desenvolvida cientificamente por António Damásio – que continue distinguindo profundamente a inteligência humana da inteligência artificial.
7. A necessidade de um código geral de ética para a inteligência artificial
Há certos fatos sociais que não podem ser ignorados. Quanto mais cedo forem reconhecidos, maior será a capacidade de a sociedade lidar com suas consequências. A inteligência artificial já se tornou um desses fatos estruturantes. E, como ocorre em toda grande transformação histórica, ela não surge como mero instrumento neutro, mas como força capaz de reorganizar práticas sociais, econômicas e culturais.
O marxismo já havia indicado, com razão, que a revolução tecnológica altera a base material da produção da vida social e, em consequência, repercute na superestrutura – isto é, nas formas jurídicas, políticas, ideológicas e culturais de uma sociedade.
Nesse mesmo sentido, Adam Schaff, em sua obra A sociedade informática, ressalta a influência recíproca existente entre base e superestrutura, advertindo “que as transformações revolucionárias da ciência e da técnica, com as consequentes modificações na produção e nos serviços, devem necessariamente produzir mudanças também nas relações sociais” (SCHAFF, 1995, p. 21).
Essa observação revela-se particularmente importante no contexto contemporâneo da inteligência artificial. Não se trata apenas do surgimento de uma nova ferramenta tecnológica, mas de uma transformação capaz de reorganizar estruturas econômicas, relações de trabalho, formas de comunicação, mecanismos de poder, relações sociais e modelos de produção do conhecimento.
Nesse sentido, não se trata simplesmente de aceitar ou rejeitar voluntariamente a inteligência artificial como fenômeno histórico. Ela já está em curso. O que está em jogo, portanto, não é sua negação, como fizeram os seguidores de Ned Ludd (os ludistas, ou ludditas) no início da Revolução Industrial, mas, sim, a sua regulação.
Daí a necessidade urgente de um código geral de ética para a inteligência artificial. Um código que não se limite a aspectos técnicos ou operacionais, mas que estabeleça princípios claros tanto para sua produção quanto para sua utilização social.
Esse código deve abranger criadores, corporações econômicas, instituições públicas e privadas, meios de comunicação e a própria sociedade em geral.
Talvez a primeira e mais fundamental diretriz deva ser a transparência: transparência na criação dos sistemas de IA, nos dados utilizados, nos critérios de funcionamento e, sobretudo, em sua aplicação concreta. Também deve haver transparência na utilização da IA por governos, empresas, universidades, imprensa e usuários individuais. Sem isso, abre-se espaço para formas sofisticadas de manipulação e opacidade decisória.
Outro princípio essencial é que a inteligência artificial não pode funcionar como álibi de irresponsabilidade. Quem publica ou utiliza responde integralmente pelo conteúdo divulgado. Deve ser vedada qualquer tentativa de transferência de responsabilidade para a máquina. Não se pode admitir avisos genéricos que procurem diluir a autoria sob o argumento de que “o conteúdo pode conter erros porque foi produzido por IA”. A responsabilidade ética, jurídica e política permanece sempre humana.
Esse princípio é decisivo porque impede a formação de uma cultura de irresponsabilidade automatizada. A IA pode auxiliar, sugerir, sintetizar e ampliar capacidades humanas, mas não pode substituir o sujeito moral e jurídico. Caso contrário, corre-se o risco de uma sociedade na qual decisões circulam sem responsáveis e efeitos sociais são produzidos sem imputação clara de autoria.
Por fim, uma terceira diretriz igualmente essencial deve ser a limitação da inteligência artificial pelos parâmetros daquilo que compreendemos como dignidade humana. A dignidade, longe de ser um conceito vazio, é, a partir da Constituição Cidadã de 1988, fonte de direitos concretos: o respeito à intimidade, à autonomia, à liberdade e à igualdade.
Entretanto, a crescente concentração de poder e renda que a IA vem possibilitando ameaça diretamente esses valores, que constituem a essência de uma sociedade democrática. Se não forem estabelecidos limites claros, corremos o risco de ver a tecnologia transformar-se em instrumento de exclusão e dominação, em vez de servir como meio de emancipação e justiça social.
Em síntese, um código geral de ética para a inteligência artificial não representa um freio ao progresso tecnológico, mas uma tentativa de civilizar sua inserção histórica.
Ele parte do reconhecimento de que a IA já é uma realidade estrutural e que, justamente por isso, precisa ser orientada por princípios capazes de preservar a dignidade humana.
Já é tempo de a sociedade e suas instituições promoverem um debate amplo sobre a formulação de um código geral de ética aplicável a todos os setores sociais. Reconhecer essa realidade e regulamentá-la para que exista dentro dos parâmetros constitucionais – tendo como fundamento a dignidade da pessoa humana – talvez sejam as verdadeiras palavras de ordem do nosso tempo.
8. A inteligência artificial no âmbito dos tribunais
A inteligência artificial, no âmbito dos tribunais, vem provocando profundas reflexões, debates e iniciativas de regulamentação. O Conselho Nacional de Justiça já reconhece a necessidade de normatização ética da inteligência artificial no Poder Judiciário brasileiro, ainda que com foco predominante na figura do julgador.
De fato, a Resolução nº 615/2025 estabeleceu diretrizes para o desenvolvimento e utilização da IA nos tribunais, afirmando princípios como transparência, supervisão humana, respeito aos direitos fundamentais e necessidade de auditabilidade dos sistemas utilizados.
Tal iniciativa revela que o problema da inteligência artificial já deixou de pertencer apenas ao campo teórico ou filosófico. A questão tornou-se institucional, jurídica e democrática. O Estado passa a reconhecer que sistemas capazes de influenciar decisões humanas não podem operar sem limites éticos claros e sem mecanismos permanentes de controle e responsabilização.
No entanto, mesmo na regulamentação mencionada, transparece mais a urgência dos tribunais em enfrentar o problema do acúmulo excessivo de processos, mediante o uso da inteligência artificial e a necessidade de estruturação de um sistema de proteção do próprio Poder Judiciário frente à sua atuação, do que propriamente a concretização dos princípios do acesso à Justiça e do devido processo legal. Essa orientação se evidencia em diversos pontos do normativo e, em especial, na ausência de maior atenção aos sujeitos nucleares envolvidos nessa dinâmica: as partes e seus advogados.
Se estes são indispensáveis à administração da Justiça e se deve existir equilíbrio entre os sujeitos que atuam no processo, também a atividade da advocacia precisa ser pensada no contexto da inteligência artificial.
O processo jurisdicional moderno foi concebido sob a lógica da dialeticidade e da paridade de armas. O autor deduz sua pretensão, o réu exerce sua resistência e o magistrado atua como elemento de síntese, formando sua decisão a partir do contraditório. Essa arquitetura não é meramente formal: ela constitui a própria condição de legitimidade do provimento jurisdicional. Assim, qualquer assimetria relevante entre os sujeitos processuais compromete a essência do modelo dialético, cujo núcleo é o equilíbrio comunicativo entre as partes.
Nesse contexto, a introdução da inteligência artificial no processo não pode ser compreendida sob o ponto de vista exclusivo da magistratura, mas, sim, do interesse público que o processo almeja. Se a IA passa a integrar a atividade decisória – auxiliando na análise de precedentes, na organização de provas ou na identificação de padrões argumentativos –, ela se torna inevitavelmente elemento estrutural do processo. E, sendo estrutural, deve submeter-se ao princípio da paridade de armas.
A inteligência artificial, quando utilizada pelo Poder Judiciário, não apenas transmite ideias: ela participa ativamente da construção dessas ideias. E nisso reside um ponto de atenção relevante. A IA não é um agente passivo. Ao contrário, interfere na formação da compreensão, na seleção dos argumentos relevantes e, potencialmente, na própria estrutura do convencimento judicial.
Assim como o ato decisório do magistrado deve ser protegido frente à influência excessiva da inteligência artificial, pelas mesmas razões também devem ser protegidas as partes do processo. Isso porque o processo judicial é, essencialmente, um movimento dialético de convencimento. Autor e réu apresentam argumentos, provas e interpretações na tentativa de influenciar racionalmente a formação da convicção do julgador. Esse direito ao convencimento constitui elemento fundamental do devido processo legal e não pode ser esvaziado pela intermediação tecnológica.
Assim, o risco da IA vai além da simples redução do espaço argumentativo das partes. Existe a possibilidade real de que a inteligência artificial passe a exercer influência sobre o próprio convencimento do juiz. Trata-se de um risco real e que precisa ser seriamente considerado. Se o processo é uma dialética – um espaço de confronto argumentativo destinado à formação racional da decisão –, não se pode admitir que, em determinado momento, as partes deixem de possuir efetiva capacidade de convencimento, enquanto a IA passe a ocupar posição privilegiada na formação da decisão judicial e, em última instância, na construção de precedentes e jurisprudências.
Nessa hipótese, ocorreria uma profunda deformação da essência do processo. A relação dialética deixaria de existir em condições de paridade, pois as partes já não dialogariam diretamente com o convencimento humano do julgador, mas com filtros, critérios e inferências produzidos por sistemas tecnológicos cuja lógica interna muitas vezes sequer é plenamente transparente. O risco, então, é que o juiz deixe gradativamente de ser o verdadeiro centro racional da decisão, passando a validar conclusões previamente moldadas pela inteligência artificial.
Nesse contexto, merece destaque recente pesquisa desenvolvida por universidades dos Estados Unidos e da Alemanha, segundo a qual a inteligência artificial, quando utilizada como assistente de escrita, pode influenciar silenciosamente o pensamento humano e contribuir para distorções cognitivas sem que os usuários percebam. Conforme apontado pelos pesquisadores, a IA não apenas auxilia na elaboração de textos, mas também induz formas de argumentação, escolhas linguísticas e interpretações da realidade, funcionando como potencial instrumento de manipulação. O estudo alerta para a necessidade de utilização crítica e consciente dessas ferramentas, especialmente diante de sua crescente inserção na vida cotidiana e na produção intelectual. (Sugestão de IA em texto influenciam opinião de autores. Folha, 19/05/2026, https://share.google/ETG0pDJM1U2xB6EQm).
Eu gosto do estilo musical conhecido como milonga. A inteligência artificial identifica essa preferência e passa a me recomendar canções desse gênero. Em determinado momento, entre as milongas tradicionais, ela insere uma composição criada pela própria IA. A música me agrada, e continuo a ouvi-la. Como resultado, recebo cada vez mais recomendações de obras produzidas artificialmente. Pouco a pouco, sem perceber, estou imerso em um universo musical criado pela inteligência artificial, sem sequer notar quando deixei de ouvir predominantemente a produção humana.
Sustenta-se, assim, pelo exposto, que a mesma tecnologia eventualmente disponibilizada ao magistrado deve ser igualmente acessível às partes e aos seus advogados, por meio do próprio processo eletrônico. Do contrário, criar-se-á uma assimetria cognitiva incompatível com o devido processo legal substancial, comprometendo a igualdade de armas, o contraditório efetivo e a própria legitimidade democrática da jurisdição.
Não é admissível que o magistrado opere com ferramentas de alta capacidade analítica enquanto as partes permanecem restritas a meios tecnologicamente inferiores ou inexistentes.
Mais grave ainda: se essa desigualdade tecnológica se consolidar, haverá um deslocamento silencioso do equilíbrio processual. Uma parte poderá atuar com apoio de sistemas avançados de inteligência artificial, enquanto a outra permanecerá limitada a instrumentos defasados ou mesmo sem qualquer suporte equivalente. Nesse cenário, a isonomia deixa de funcionar como princípio operativo e passa a assumir caráter meramente formal.
Portanto, a inteligência artificial no processo não pode ser pensada a partir de uma lógica institucional centrada exclusivamente no magistrado. Ela deve ser concebida como infraestrutura pública do sistema de justiça, orientada pelo interesse da cidadania e pela preservação do contraditório efetivo.
Afinal, o processo não existe para fortalecer isoladamente a autoridade decisória, mas para garantir que a decisão seja fruto de uma construção comunicativa equilibrada entre sujeitos em condição de igualdade.
O advogado deve estar tão comprometido eticamente e tão preparado para o uso da inteligência artificial quanto os magistrados. Não pode haver assimetria de ferramentas entre os sujeitos que atuam no processo.
9. Os limites da inteligência artificial
Toda tecnologia nova traz consigo uma gama de promessas muitas vezes irrealizáveis, mas que se tornam invisíveis aos olhos humanos diante do fascínio que exerce.
A inteligência artificial também carrega consigo um grande número de promessas que precisam ser questionadas, testadas e, quando necessário, limitadas.
Assim como, na transição entre a tradição oral e a escrita – tratada em Fedro –, coexistiram verdades e ilusões acerca do poder da escrita, também agora se repete fenômeno semelhante em relação à inteligência artificial.
As vantagens e desvantagens da utilização da IA em todos os campos do viver humano haverão de se manifestar e, nesse contexto, a grande questão é a do seu controle democrático.
No campo jurídico, contudo, essa questão assume especial relevância, já que a inteligência artificial poderá influenciar o próprio processo judicial, expressão de uma das maiores conquistas civilizatórias da humanidade.
Por isso, sua adoção deve ocorrer com parcimônia.
As iniciativas que vêm sendo adotadas pelo Poder Judiciário – e talvez também pelo Poder Executivo e pelo Legislativo – para se protegerem dos impactos da inteligência artificial são relevantes. Contudo, elas também revelam algo importante: as próprias instituições reconhecem que a IA envolve riscos reais.
E, se as instituições da sociedade estão buscando mecanismos de autoproteção, surge uma questão inevitável: o que está sendo efetivamente feito para proteger o cidadão da atuação predatória da inteligência artificial?
A preocupação não pode se limitar à preservação das estruturas institucionais ou à gestão do volume de demandas. É necessário discutir, com a mesma seriedade, a proteção da pessoa humana diante de sistemas capazes de influenciar comportamentos, manipular informações, ampliar desigualdades, violar a privacidade e produzir decisões opacas com potencial impacto sobre direitos fundamentais.
O verdadeiro desafio jurídico e democrático talvez não seja apenas regular o uso da IA pelas instituições, mas impedir que o cidadão permaneça vulnerável diante de tecnologias cada vez mais poderosas, assimétricas e concentradas nas mãos de poucos agentes econômicos e políticos.
É importante reconhecer também que grande parte das demandas judiciais não decorre propriamente da existência de uma sociedade excessivamente litigiosa. Em muitos casos, elas nascem de problemas estruturais muito anteriores: da má produção legislativa, da deficiência interpretativa, da ausência de investimentos e, sobretudo, da reiterada inobservância das próprias normas que o Estado cria.
O problema do Poder Judiciário não está na inteligência artificial. O excesso de demandas não revela apenas uma sociedade conflituosa; revela, muitas vezes, um sistema normativo desorganizado, contraditório e incapaz de produzir segurança jurídica.
Leis frequentemente são elaboradas de forma apressada, ambígua ou até orientadas por interesses conjunturais. Depois, recebem interpretações divergentes e instáveis. E, quando finalmente deveriam ser observadas e aplicadas, acabam sendo descumpridas – inclusive pelo próprio Poder Público, que deveria ser o primeiro garantidor da legalidade.
O caso do piso nacional do magistério é emblemático. Décadas após sua instituição, ainda se acumulam controvérsias, resistências administrativas e judicializações sucessivas em torno de um direito já reconhecido normativamente. O mesmo ocorre com o INSS, talvez um dos maiores produtores de litigiosidade do país. Milhões de demandas decorrem não da inexistência de legislação, mas de sua aplicação inadequada, tardia ou sistematicamente restritiva.
Também merece destaque o frequente embate hermenêutico entre os próprios Tribunais Superiores. Não raras vezes, decisões divergentes ou mudanças abruptas de entendimento acabam produzindo exatamente o efeito contrário daquele que se espera das Cortes de cúpula: em vez de estabilizar a interpretação do direito, ampliam a insegurança jurídica e alimentam novas ondas de judicialização.
Eis o pântano em que nos encontramos: um Estado que produz direitos no plano abstrato, mas que frequentemente falha em concretizá-los na prática, transferindo ao cidadão o ônus de judicializar aquilo que já deveria lhe ser assegurado administrativamente.
Nesse contexto, a inteligência artificial pode até aumentar a eficiência do sistema, mas não resolverá o problema central. Nenhuma tecnologia é capaz de compensar déficits estruturais de qualidade legislativa, coerência institucional e compromisso efetivo com a legalidade e com os direitos fundamentais.
Conclusão
A inteligência artificial recoloca diante da humanidade questões antigas sob formas inteiramente novas. Ao produzir textos, organizar argumentos e operar linguisticamente com extraordinária eficiência, ela obriga o ser humano a reconsiderar aquilo que compreende por pensamento, consciência, linguagem e criação intelectual.
Contudo, talvez o maior equívoco contemporâneo consista em reduzir o pensamento à simples manipulação técnica de palavras ou informações. O pensamento nasce da experiência vivida, da memória, das emoções, da percepção do corpo e da relação concreta do ser humano com o mundo. A linguagem organiza esse fluxo interior, a escrita lhe confere permanência e a reflexão o transforma em consciência.
Nesse sentido, a inteligência artificial pode ampliar enormemente as capacidades humanas de acesso à informação, organização do conhecimento e produção textual. O verdadeiro risco não reside propriamente na existência das máquinas, mas na possibilidade de o próprio ser humano abandonar o exercício da reflexão autônoma, da leitura profunda, da memória e da elaboração interior.
Além disso, a IA introduz desafios éticos e políticos sem precedentes. Nunca houve instrumento tão poderoso de organização da linguagem, direcionamento informacional e potencial influência sobre o pensamento coletivo. Por isso, o problema da inteligência artificial não é apenas técnico, mas profundamente humano, político, democrático e ético.
Se, por exemplo, magistrados passarem a delegar à inteligência artificial não apenas tarefas mecânicas, mas também a própria interpretação dos fatos submetidos ao processo, já não se poderá falar, em sentido pleno, em sistema de justiça. A inteligência artificial não pode converter-se em solução simplificadora para a histórica insuficiência estrutural do Poder Judiciário.
Por essa razão, sustenta-se que a mesma tecnologia disponibilizada ao juiz deve ser, em igual medida, acessível às partes e a seus advogados. Caso contrário, cria-se uma assimetria cognitiva incompatível com o devido processo legal substancial.
Mais grave ainda: se essa desigualdade tecnológica se consolidar, haverá um deslocamento silencioso do equilíbrio processual. Uma parte poderá litigar com suporte de sistemas avançados de inteligência artificial, enquanto outra atuará sem qualquer suporte equivalente ou com recursos defasados. Nesse cenário, a isonomia deixa de ser princípio operativo e passa a assumir caráter meramente formal.
Portanto, a inteligência artificial no processo não pode ser pensada a partir de uma lógica institucional centrada exclusivamente no magistrado. Ela deve ser concebida como infraestrutura pública do sistema de justiça, orientada pelo interesse da cidadania e pela preservação do contraditório efetivo. Afinal, o processo não existe para fortalecer isoladamente a autoridade decisória, mas para garantir que a decisão seja fruto de uma construção comunicativa equilibrada entre sujeitos em condições de igualdade.
Daí a necessidade de mecanismos éticos e jurídicos capazes de regular sua produção e utilização, assegurando transparência, responsabilidade e compromisso permanente com a dignidade da pessoa humana, princípio fundante da ordem constitucional brasileira, consagrado no art. 1º da Constituição da República.
Também, a tecnologia não pode transformar-se em instrumento de manipulação da consciência nem em meio de dissolução da responsabilidade moral e política.
Ao mesmo tempo, as reflexões de Baruch Espinosa e António Damásio recordam que o pensamento humano não se reduz ao simples processamento lógico de informações. Pensar envolve sentir. Envolve corpo, emoção, memória afetiva, sofrimento, desejo e experiência existencial. Talvez por isso a inteligência artificial, apesar de sua impressionante sofisticação técnica, permaneça incapaz de reproduzir integralmente aquilo que constitui a dimensão viva da consciência.
A máquina pode organizar palavras sobre o amor, a dor, a angústia ou a morte. Mas somente o ser humano vive tais experiências.
Talvez seja precisamente nesse espaço situado entre linguagem, memória, emoção, corpo e experiência que resida aquilo que nenhuma máquina consegue integralmente reproduzir: a dimensão existencial da consciência humana.
A inteligência artificial pode organizar informações, simular discursos e reproduzir estruturas linguísticas complexas. Contudo, continua sendo o ser humano quem sofre, ama, recorda, teme, deseja, cria sentido e experimenta a própria finitude.
E talvez seja exatamente dessa condição profundamente humana – simultaneamente racional, emocional e existencial – que continue nascendo aquilo que chamamos pensamento.
Mais do que discutir se as máquinas se tornarão semelhantes aos seres humanos, talvez o maior desafio do nosso tempo seja impedir que os próprios seres humanos passem a abdicar daquilo que os torna verdadeiramente humanos: a capacidade de pensar criticamente, sentir profundamente, recordar conscientemente e construir, por si mesmos, sentido para a própria existência.
É nesse contexto que ganha especial relevância a advertência de Jonathan Haidt: “Ficamos mais estúpidos justo quando as máquinas ficam inteligentes”. Talvez o maior desafio contemporâneo consista justamente em impedir que essa advertência se converta em realidade histórica.
Como já advertimos em outro momento: “Existem, inegavelmente, aspectos positivos trazidos pelas descobertas tecnológicas. Mas também existem os graves aspectos negativos acima apontados, que se traduzem principalmente na extinção de postos de trabalho e na crise da sociedade do trabalho. Entretanto, uma atitude meramente ludista perante tais transformações não se apresenta como um caminho viável para a sociedade e tampouco para os trabalhadores” (SCHÄFER, 2016, p. 41).
A tecnologia é, ao mesmo tempo, um presente e um risco, como já sugere Platão em Fedro, ao problematizar os efeitos ambíguos das técnicas sobre a memória e o pensamento. Seu uso desmesurado pode conduzir a uma forma de hybris contemporânea, bem ilustrada pelo mito de Ícaro e Dédalo: apesar das advertências de seu pai, Ícaro, fascinado pela possibilidade do voo, eleva-se excessivamente em direção ao sol. O calor derrete a cera que sustentava suas asas, provocando sua queda e morte – manifestação da nêmesis, isto é, da punição que sucede a desmedida.
Toda ampliação de capacidades técnicas exige, igualmente, ampliação de prudência. Quando esse equilíbrio se rompe, aquilo que deveria libertar pode também conduzir à queda.
Principais obras consultadas
ARENDT, Hannah. A condição humana. Tradução de Roberto Raposo. Rio de Janeiro: Forense Universitária, 1997.
BAUMAN, Zygmunt. Confiança e medo na cidade. Rio de Janeiro: Zahar, 2009.
BAUMAN, Zygmunt. Modernidade líquida. Tradução de Plínio Dentzien. Rio de Janeiro: Zahar, 2001.
CHAUÍ, Marilena de Souza. Vida e obra: consultoria. In: ESPINOSA, Benedictus de. Ética. São Paulo: Nova Cultural, 1997.
DAMÁSIO, António. Sentir & Saber: as origens da consciência. São Paulo: Companhia das Letras, 2022.
ESPINOSA, Baruch de. Ética. Tradução e notas de Tomaz Tadeu. 3. ed., 4. reimp. Belo Horizonte: Autêntica, 2021.
ESPINOSA, Baruch de. Tratado político. São Paulo: Nova Cultural, 1997.
FROMM, Erich. O coração do homem: seu gênio para o bem e para o mal. Tradução de Octavio Alves Velho. Rio de Janeiro: Zahar, 1965.
HAN, Byung-Chul. Artigos e ensaios. El País Brasil. Disponível em: https://brasil.elpais.com/brasil/2018/02/07/cultura. Acesso em: 05 out. 2021.
PLATÃO. A República. São Paulo: Nova Cultural, 1997.
PLATÃO. Fedro. Tradução de Carlos Alberto Nunes. Belém: EDUFPA, 2011.
RUSSELL, Stuart. Por que algoritmos das redes sociais estão cada vez mais perigosos? Entrevista com Stuart Russell. Disponível em: http://www.bbc.com. Acesso em: 13 out. 2021.
SCHAFF, Adam. A sociedade informática: as consequências sociais da segunda revolução industrial. 4. ed. São Paulo: Brasiliense, 1995.
SCHÄFER, José Orlando. Direito do Trabalho e flexibilização. Porto Alegre: Sergio Antonio Fabris Editor, 2016.
SCHÄFER, José Orlando. Fundamentos para uma concepção essencialista de dignidade humana. Revista da Escola Judicial do TRT4, [S. l.], v. 6, n. 10, 2025. Disponível em: https://periodicos.trt4.jus.br/revistaejud4/article/view/329. Acesso em: 11 fev. 2025.
José Orlando Schäfer, 62 anos, é formado em Direito pela Faculdade de Direito de Santo Ângelo. Integra a Academia de Letras do Noroeste do Rio Grande do Sul e atua, há 36 anos, como advogado de movimentos sociais e sindicais. Até o final de 2024, presidiu a OAB – Subseção de Três Passos (RS). Mestre em Direito e pós-graduado em Direito Público pela UNIJUÍ, possui formação em Teoria Crítica do Direito pela Universidade Pablo de Olavide, Sevilha, Espanha. Professor universitário, há mais de trinta anos dedica-se ao estudo das interfaces entre revolução tecnológica e direito sob a ótica da dignidade humana. É autor de artigos publicados em jornais e revistas especializadas, além dos livros Direito do Trabalho e Flexibilização, Porto Alegre: Sergio Antonio Fabris Editor, 2016; Na Primavera da Vida, Porto Alegre: Evangraf Editora, 2018; O Princípio da Dignidade Humana: para uma nova compreensão do Direito do Trabalho, São Paulo: Dialética Editora, 2022; Conhecer Transforma: Conhecer, Amar e ser Feliz, Porto Alegre: Evangraf Editora, 2024; Muitas Faces: um trabalho filosófico, literário e musical, Porto Alegre: Muruci Editor, 2024, O Direito ao avesso: Uma reflexão crítica sobre o Direito a partir do princípio da Dignidade Humana, São Paulo: Dialética Editora, 2025 e Memórias de um conflito, no prelo. É autor, ainda, de capítulos de duas obras coletivas em formato digital. Contato: 55-999625737; [email protected].︎
