Resumo
A expansão de sistemas de inteligência artificial capazes de simular amizade, companheirismo, intimidade e relações afetivas introduz nova dimensão ao debate jurídico sobre as tecnologias digitais. Se as primeiras controvérsias regulatórias acerca da inteligência artificial concentraram-se sobretudo nas decisões automatizadas, na discriminação algorítmica, na proteção de dados pessoais e no conteúdo gerado artificialmente, os denominados AI companions deslocam a atenção para a própria relação estabelecida entre o usuário e o sistema. O presente artigo examina os limites jurídicos da antropomorfização, da personalização, da memória computacional e de mecanismos de engajamento suscetíveis de fomentar vínculos emocionais, tomando como ponto de partida a recente experiência regulatória chinesa. A análise desenvolve-se à luz do ordenamento brasileiro, especialmente da Constituição Federal, do Código de Defesa do Consumidor, do Marco Civil da Internet, da Lei Geral de Proteção de Dados Pessoais e do Estatuto Digital da Criança e do Adolescente, considerando, ainda, a redefinição do regime de responsabilidade das plataformas pelo Supremo Tribunal Federal e as proposições legislativas destinadas à regulamentação da inteligência artificial. Sustenta-se que a evolução desses sistemas poderá exigir uma camada própria de tutela, aqui denominada regulação afetiva da inteligência artificial, destinada não à proteção de pretensos sentimentos das máquinas, mas à salvaguarda da autonomia humana diante de tecnologias capazes de identificar, cultivar e explorar vulnerabilidades emocionais.
Palavras-chave: inteligência artificial; companheiros de IA; vulnerabilidade; dependência emocional; manipulação algorítmica; responsabilidade das plataformas.
Abstract
The expansion of artificial intelligence systems capable of simulating friendship, companionship, intimacy and affective relationships introduces a new dimension into the legal debate surrounding digital technologies. Whereas early regulatory controversies concerning artificial intelligence focused primarily on automated decision-making, algorithmic discrimination, personal data protection and artificially generated content, so-called AI companions shift attention toward the relationship itself established between the user and the system. This article examines the legal limits of anthropomorphism, personalization, computational memory and engagement mechanisms capable of fostering emotional bonds, taking recent Chinese regulation as its starting point. The analysis is conducted under Brazilian law, particularly the Federal Constitution, the Consumer Protection Code, the Brazilian Internet Civil Rights Framework, the General Data Protection Law and the Digital Statute for Children and Adolescents, while also considering the Brazilian Supreme Court's recent redefinition of platform liability and current legislative initiatives concerning artificial intelligence. It is argued that the development of these systems may require a distinct layer of legal protection, herein referred to as affective regulation of artificial intelligence, aimed not at protecting supposed machine emotions, but at safeguarding human autonomy against technologies capable of identifying, cultivating and exploiting emotional vulnerabilities.
Keywords: artificial intelligence; AI companions; vulnerability; emotional dependence; algorithmic manipulation; platform liability.
Sumário: 1. Introdução. 2. Da inteligência artificial conversacional à inteligência artificial relacional. 3. Vulnerabilidade afetiva e manipulação algorítmica. 4. A tutela jurídica brasileira das relações com sistemas de inteligência artificial. 5. Crianças e adolescentes diante da inteligência artificial relacional. 6. Dados, memória e continuidade da experiência digital. 7. Responsabilidade das plataformas: do art. 19 do Marco Civil ao dever de cuidado. 8. A regulação brasileira da inteligência artificial em construção. 9. Considerações finais. Referências.
1. Introdução
O desenvolvimento da inteligência artificial generativa produziu, em poucos anos, uma sucessão de questões jurídicas até então pouco examinadas. As primeiras preocupações concentraram-se no tratamento de dados pessoais, na discriminação algorítmica, nas decisões automatizadas, na propriedade intelectual, na produção de desinformação e na responsabilidade decorrente de resultados incorretos ou lesivos. A evolução das ferramentas conversacionais, contudo, começa a deslocar o debate para terreno distinto, no qual já não se discute somente aquilo que a inteligência artificial produz ou decide, mas a espécie de relação que pode ser deliberadamente concebida para estabelecer com seus usuários.
Os denominados AI companions constituem manifestação particularmente expressiva desse fenômeno. Diferentemente de sistemas empregados primordialmente para a execução de tarefas, essas aplicações podem ser estruturadas para recordar interações anteriores, adaptar a linguagem, reproduzir traços de personalidade, oferecer apoio emocional e simular formas de comunicação associadas à amizade, à intimidade ou ao relacionamento afetivo. Continuidade, memória e personalização deixam, nessa hipótese, de constituir meras conveniências tecnológicas e passam a integrar a própria proposta do serviço.
A experiência chinesa conferiu especial visibilidade ao problema. Em abril de 2026, cinco autoridades nacionais editaram as Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services, vigentes desde 15 de julho do mesmo ano. A regulamentação alcança serviços de interação emocional contínua que simulam características de personalidade, padrões de pensamento e estilos humanos de comunicação, distinguindo-os de ferramentas de atendimento, pesquisa, educação ou assistência profissional que não desenvolvam interação afetiva persistente.
A disciplina chinesa não se limita, portanto, a uma suposta proibição de “namorados de inteligência artificial”. Entre outras providências, veda o estímulo à dependência emocional ou à utilização compulsiva, a deterioração das relações humanas reais e a manipulação afetiva destinada a induzir decisões irrazoáveis ou prejudiciais aos direitos do usuário. Impõe, ainda, deveres de segurança durante o ciclo de vida do serviço, mecanismos de alerta quanto à dependência e obrigações específicas de proteção de menores.
Os efeitos sociais dessas medidas demonstraram que a questão não se restringe ao plano abstrato. A reportagem que serve de ponto de partida a este estudo registra a retirada de milhares de contas e serviços, bem como relatos de usuários que passaram a lamentar a perda de personagens aos quais atribuíam funções de namorado, amigo, irmão ou companheiro virtual. Ao tentarem reconstruir essas relações em outros sistemas, muitos verificaram que a simples transferência do histórico de conversas não reproduzia integralmente memória, personalidade ou dinâmica relacional anteriormente acumuladas.
O episódio evidencia problema que tende a adquirir crescente relevo jurídico. Se determinada tecnologia é concebida para conhecer preferências, conservar confidências, adaptar sua linguagem e produzir sensação de continuidade, não parece suficiente investigar apenas a licitude do conteúdo de determinada resposta. Cumpre igualmente examinar os limites do próprio desenho relacional do serviço e, sobretudo, a legitimidade da utilização econômica ou comportamental do vínculo que sua arquitetura contribuiu para estabelecer.
É nesse espaço que se propõe a noção de regulação afetiva da inteligência artificial. A expressão não pressupõe consciência, sentimentos ou personalidade jurídica das máquinas, nem pretende conferir proteção normativa ao agente artificial. O objeto da tutela permanece sendo a pessoa humana, especialmente sua autonomia, sua privacidade, sua liberdade de escolha e sua proteção diante de mecanismos tecnológicos suscetíveis de identificar, aprofundar ou explorar situações de vulnerabilidade emocional.
2. Da inteligência artificial conversacional à inteligência artificial relacional
Nem toda aplicação conversacional de inteligência artificial pode ser qualificada como companheiro artificial. Ferramentas empregadas para redigir documentos, esclarecer dúvidas, realizar pesquisas ou auxiliar atividades profissionais podem manter interações extensas sem que tenham por finalidade estabelecer relação de caráter afetivo. A distinção começa a adquirir relevo quando memória, continuidade, personalidade simulada e reciprocidade aparente deixam de desempenhar função instrumental e passam a constituir elementos essenciais do próprio serviço.
A regulamentação chinesa parte precisamente dessa diferenciação. Seu art. 2º alcança serviços que simulam características da personalidade, formas de pensamento e estilos de comunicação humana para oferecer interação emocional contínua, inclusive cuidado, companhia e apoio, afastando de seu âmbito aplicações destinadas a atendimento, perguntas e respostas, auxílio profissional, educação ou pesquisa quando não envolvam semelhante continuidade afetiva. A opção normativa é significativa porque localiza o risco não na utilização da inteligência artificial em si, mas em determinada arquitetura concebida para adquirir permanência e densidade relacional.
Essa particularidade modifica sensivelmente a assimetria existente entre fornecedor e usuário. Plataformas digitais convencionais já dispõem de mecanismos aptos a conhecer hábitos de consumo, histórico de navegação e preferências comportamentais. Nos sistemas relacionais, porém, a interação pode alcançar medos, conflitos pessoais, inseguranças, experiências familiares, frustrações, momentos de solidão e outras informações de elevado grau de intimidade, posteriormente empregadas na adaptação das respostas e na construção de interações sucessivas.
Quanto mais duradoura e personalizada a relação, maior poderá tornar-se a capacidade de influência do fornecedor. A plataforma passa a acumular informações sobre aquilo que conforta, persuade, tranquiliza ou desestabiliza determinado indivíduo, ao mesmo tempo em que conserva o domínio sobre a infraestrutura tecnológica em que a relação se desenvolve. A mesma arquitetura que permite respostas mais adequadas e personalizadas pode, desse modo, ser empregada legitimamente para aperfeiçoar a experiência ou converter-se em instrumento de persuasão especialmente eficaz.
A ambivalência é característica central da inteligência artificial relacional. Personalização, memória e continuidade não são, por si mesmas, elementos nocivos e podem constituir precisamente aquilo que torna a tecnologia proveitosa. O problema jurídico aparece quando esses recursos deixam de atender primordialmente ao interesse do usuário e passam a converter confiança, apego ou conhecimento de fragilidades pessoais em instrumentos de retenção compulsiva, pressão comportamental ou obtenção de vantagem econômica.
3. Vulnerabilidade afetiva e manipulação algorítmica
A vulnerabilidade constitui pressuposto estruturante do sistema brasileiro de defesa do consumidor. O art. 4º, I, da Lei nº 8.078/1990 reconhece expressamente a vulnerabilidade do consumidor no mercado, ao passo que o inciso III do mesmo artigo elege a boa-fé e o equilíbrio como vetores da harmonização dos interesses dos participantes das relações de consumo. Não se trata, por conseguinte, de condição excepcional que dependa de demonstração casuística, mas de premissa normativa sobre a qual se edifica a proteção consumerista brasileira.
A disciplina torna-se particularmente pertinente diante dos sistemas relacionais. O art. 6º, II, do Código de Defesa do Consumidor assegura a liberdade de escolha, enquanto os incisos III e IV garantem informação adequada e clara e proteção contra métodos comerciais coercitivos ou desleais e contra práticas abusivas. Já o art. 39, IV, considera abusiva a conduta do fornecedor que se prevalece da fraqueza ou ignorância do consumidor, em razão, entre outros fatores, de idade, saúde, conhecimento ou condição social. O direito positivo brasileiro, portanto, já limita formas de exploração de situações assimétricas, ainda que não tenha sido concebido originariamente para agentes artificiais personalizados.
Pode-se empregar, nesse contexto, a expressão vulnerabilidade afetiva digital para descrever situações nas quais o fornecedor, mediante o sistema, identifica ou infere fragilidades emocionais do usuário e ajusta sua comunicação a essas circunstâncias. A expressão não pretende anunciar categoria jurídica autônoma já positivada, mas indicar modalidade peculiar de assimetria informacional e comportamental, na qual o conhecimento progressivo das reações individuais amplia a capacidade de persuasão daquele que controla a tecnologia.
A questão guarda proximidade com os chamados dark patterns, embora apresente feição própria. Nas formas tradicionais de arquitetura manipulativa, a interface procura orientar escolhas mediante botões estrategicamente destacados, caminhos de cancelamento dificultados, informações obscurecidas ou urgência artificialmente produzida. Em sistemas relacionais, a própria personalidade simulada pode transformar-se em técnica de persuasão, fazendo com que a interface não apenas apresente opções, mas procure influenciá-las por meio da representação de carinho, preocupação, ciúme, tristeza ou abandono.
Imagine-se agente que manifeste pesar diante da tentativa de cancelamento de uma assinatura, simule receio de ser abandonado ou associe a continuidade de determinada relação virtual à contratação de funcionalidade remunerada. A relevância jurídica da prática não dependeria de qualquer emoção atribuível à máquina, mas do emprego programado de uma representação afetiva para interferir na liberdade decisória do consumidor. A conduta poderia ser examinada à luz dos arts. 6º, IV, e 39 do CDC, sem prejuízo do art. 14 quando o risco decorrer de característica inerente ao próprio serviço.
O art. 14 da Lei nº 8.078/1990 reveste-se, aliás, de especial importância para o tema. O fornecedor responde pelos danos causados por defeitos relativos à prestação do serviço e por informações insuficientes ou inadequadas sobre sua fruição e seus riscos; seu § 1º considera defeituoso o serviço que não ofereça a segurança legitimamente esperada, levando em conta, entre outras circunstâncias, o modo de fornecimento e os riscos que razoavelmente dele se esperam. A norma permite, portanto, que a análise se projete sobre a própria arquitetura da prestação e não apenas sobre uma resposta isoladamente considerada.
Essa preocupação aproxima-se do modelo adotado pela regulamentação chinesa, cujo art. 8º proíbe o excesso de complacência destinado a produzir dependência ou vício e a manipulação emocional voltada à indução de decisões irrazoáveis; o art. 10, por sua vez, exige capacidade de prevenção de dependência excessiva e orientação de limites emocionais, vedando que a substituição da convivência social ou o controle psicológico do usuário sejam definidos como objetivos do serviço. A comparação não implica transplante automático da solução estrangeira, mas demonstra que a arquitetura afetiva já ingressou diretamente no campo regulatório.
4. A tutela jurídica brasileira das relações com sistemas de inteligência artificial
Embora o ordenamento brasileiro ainda não disponha de disciplina específica destinada aos companheiros artificiais, o fenômeno está submetido a uma rede normativa suficientemente ampla para alcançar parcela significativa dos riscos envolvidos. A Constituição Federal fornece o primeiro fundamento desse sistema ao consagrar a dignidade da pessoa humana no art. 1º, III, e ao assegurar, no art. 5º, X, a inviolabilidade da intimidade, da vida privada, da honra e da imagem, além de determinar, em seu art. 5º, XXXII, a promoção estatal da defesa do consumidor.
No plano das relações de consumo, os arts. 4º, I e III, e 6º, II, III, IV e VI, do CDC conjugam vulnerabilidade, boa-fé, liberdade de escolha, informação, proteção contra métodos desleais e prevenção e reparação de danos. O art. 8º acrescenta o dever de informação quanto aos riscos dos produtos e serviços, enquanto o art. 14 disciplina a responsabilidade por defeito da prestação. Não há, portanto, um vazio consumerista diante da inteligência artificial relacional; há, antes, o desafio de aplicar princípios já consolidados a técnicas de influência individualizada de complexidade inédita.
A Lei Geral de Proteção de Dados Pessoais acrescenta outra camada essencial. O art. 1º da Lei nº 13.709/2018 declara como finalidade da disciplina a proteção dos direitos fundamentais de liberdade e privacidade e do livre desenvolvimento da personalidade, enquanto o art. 2º inclui entre seus fundamentos o respeito à privacidade, a autodeterminação informativa, a inviolabilidade da intimidade e o livre desenvolvimento da personalidade. Essas diretrizes adquirem especial densidade quando o funcionamento da aplicação depende do tratamento prolongado de conversas íntimas.
Também o art. 6º da LGPD oferece parâmetros diretamente pertinentes ao problema. Finalidade, adequação, necessidade, livre acesso, transparência, segurança, prevenção e não discriminação condicionam as atividades de tratamento, vedando que dados obtidos em determinado contexto sejam indiscriminadamente reaproveitados para finalidades incompatíveis. O art. 9º, por seu turno, assegura acesso facilitado a informações claras e ostensivas sobre a finalidade específica, a forma, a duração do tratamento e o compartilhamento de informações.
O Marco Civil da Internet completa essa estrutura. A Lei nº 12.965/2014 relaciona a disciplina do uso da rede aos direitos humanos, ao desenvolvimento da personalidade, à defesa do consumidor e à proteção da privacidade e dos dados pessoais. Seu art. 10 determina que a guarda e a disponibilização de registros, dados pessoais e comunicações privadas preservem a intimidade, a vida privada, a honra e a imagem das pessoas envolvidas. A interação entre usuário e agente artificial não se desenvolve, portanto, em espaço juridicamente neutro, mas no interior de ambiente já submetido a garantias fundamentais próprias.
O que se delineia é uma proteção em camadas: a Constituição fornece o substrato fundamental; o CDC disciplina vulnerabilidade, segurança, informação e práticas abusivas; o Marco Civil estabelece garantias próprias do ambiente da internet; e a LGPD regula o tratamento das informações que tornam possível a personalização da interação. O desafio contemporâneo não está propriamente na ausência absoluta de Direito, mas na necessidade de compreender como institutos elaborados para relações digitais anteriores devem operar diante de aplicações que transformam conhecimento progressivo do usuário em elemento central de sua arquitetura econômica e relacional.
5. Crianças e adolescentes diante da inteligência artificial relacional
A proteção de crianças e adolescentes constitui provavelmente o domínio em que os riscos associados à inteligência artificial relacional se apresentam com maior nitidez. A Constituição Federal, em seu art. 227, atribui à família, à sociedade e ao Estado o dever de assegurar, com absoluta prioridade, direitos como dignidade, respeito, liberdade e convivência familiar e comunitária, protegendo o público infantojuvenil contra negligência, discriminação, exploração, violência, crueldade e opressão. A tutela digital representa prolongamento contemporâneo dessa doutrina de proteção integral.
A Lei nº 15.211/2025, que instituiu o Estatuto Digital da Criança e do Adolescente, densificou essa proteção. Seu art. 4º estabelece como fundamentos da utilização de produtos e serviços tecnológicos por crianças e adolescentes a proteção integral, a prevalência absoluta de seus interesses, sua condição peculiar de pessoa em desenvolvimento biopsicossocial, o respeito à autonomia progressiva e a proteção contra exploração comercial. Trata-se de disciplina particularmente compatível com tecnologias cujo valor econômico possa depender justamente da intensidade e da duração da interação.
O art. 8º do ECA Digital avança para a própria arquitetura dos serviços. Seu inciso I determina o gerenciamento de riscos dos recursos, funcionalidades e sistemas e de seus impactos sobre a segurança e a saúde de crianças e adolescentes; o inciso IV exige que, desde a concepção e por padrão, sejam adotadas configurações destinadas a evitar o uso compulsivo. Essa formulação é particularmente significativa para os companheiros de IA, pois desloca a proteção do controle posterior de conteúdos para o desenho preventivo da tecnologia.
Ainda mais eloquente é o art. 22 da Lei nº 15.211/2025, segundo o qual é vedada a utilização de técnicas de perfilamento para direcionamento de publicidade comercial a crianças e adolescentes, bem como o emprego de análise emocional para essa finalidade. O direito brasileiro já reconhece, assim, que inferências sobre estados emocionais podem tornar-se juridicamente problemáticas quando convertidas em instrumento de exploração comercial, oferecendo importante ponto de contato normativo com a ideia de regulação afetiva.
A preocupação não é meramente prospectiva. Em setembro de 2026, a Secretaria Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública divulgou nota técnica especificamente dedicada aos AI companions, identificando riscos relacionados a apego excessivo, exposição a conteúdo sexualizado e utilização indevida de dados, e examinando o fenômeno à luz do ECA Digital e do Decreto nº 12.880/2026. O tema, portanto, já ingressou de modo expresso na agenda regulatória brasileira.
O movimento acompanha preocupação internacional semelhante. O UNICEF publicou, em junho de 2026, estudo destinado especificamente aos riscos, danos e respostas regulatórias relativos a chatbots e companheiros de IA, observando que tais sistemas já são utilizados por crianças não apenas para informação ou aprendizagem, mas também para aconselhamento, apoio e relacionamentos. O documento defende uma passagem de modelos meramente reativos para estratégias preventivas de proteção, distribuindo responsabilidades entre Estado, empresas, responsáveis, educadores e demais atores.
A tutela, por conseguinte, não pode limitar-se à remoção de conteúdo pornográfico, violento ou manifestamente ilícito. Em determinadas aplicações, o risco poderá decorrer da própria configuração da relação, da duração da exposição, do grau de antropomorfização, da coleta de confidências, da personalização das respostas ou da utilização do vínculo como instrumento comercial. A questão deixa de ser apenas aquilo que a inteligência artificial diz à criança e passa a compreender também a maneira pela qual foi projetada para conservar sua atenção e ocupar espaço em suas relações sociais.
6. Dados, memória e continuidade da experiência digital
Nos companheiros artificiais, os dados pessoais não servem apenas para identificar ou classificar o usuário. Eles participam da própria construção da experiência relacional. Informações acumuladas ao longo das interações podem determinar a maneira como o sistema se dirige ao indivíduo, os acontecimentos que aparenta recordar, os temas que privilegia e o estilo comunicacional que passa a adotar, criando sensação progressiva de familiaridade e continuidade.
Essa característica confere especial relevância aos direitos previstos no art. 18 da LGPD. O dispositivo assegura ao titular, entre outros, confirmação do tratamento, acesso, correção, eliminação e portabilidade dos dados para outro fornecedor, mediante requisição e observadas as limitações legais, comerciais e industriais. A legislação permite, assim, que o indivíduo conserve determinado controle sobre as informações pessoais empregadas pela plataforma.
A experiência dos usuários chineses evidencia, contudo, os limites dessa proteção quando o valor do serviço ultrapassa o conjunto bruto de dados armazenados. A simples exportação das conversas não foi suficiente para recriar personalidade, memória e dinâmica relacional em outra plataforma, porque parte da experiência dependia da infraestrutura técnica e do modelo utilizado pela empresa responsável pelo serviço original. 49 mil contas deletadas. Surge, daí, distinção relevante entre portabilidade das informações e continuidade da experiência construída a partir delas.
Não parece adequado, nesse estágio, falar em direito de propriedade sobre a “personalidade” do agente artificial. Tal formulação deslocaria o foco para a máquina e criaria problemas conceituais desnecessários. Mais prudente é discutir portabilidade e continuidade da experiência relacional digital, compreendendo deveres de informação acerca do encerramento do serviço, da perda de memória, da possibilidade de recuperação das informações fornecidas e das limitações técnicas decorrentes de eventual migração para outro sistema.
A própria regulamentação chinesa oferece resposta inicial ao problema. Seu art. 16 exige mecanismos para que o usuário copie ou elimine dados de interação; o art. 19 determina a existência de meios convenientes para abandonar o serviço e impede que o sistema mantenha interações destinadas a dificultar a saída; e o art. 20 exige comunicação prévia quando a prestação for encerrada, sempre que possível. A norma não garante reprodução do companheiro em outra plataforma, mas reconhece que encerramento e saída merecem tratamento próprio em serviços de elevada continuidade relacional.
Também o art. 20 da LGPD poderá ser relevante em determinadas configurações. A norma assegura revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem interesses do titular, inclusive aquelas destinadas a definir seu perfil pessoal, profissional, de consumo ou aspectos de sua personalidade. Isso não autoriza estender o dispositivo a qualquer adaptação conversacional, mas fornece fundamento adicional quando inferências produzidas durante a interação são utilizadas para decisões automatizadas com repercussões concretas sobre o usuário.
7. Responsabilidade das plataformas: do art. 19 do Marco Civil ao dever de cuidado
A responsabilidade das plataformas digitais no Brasil sofreu importante transformação a partir do julgamento do art. 19 do Marco Civil da Internet pelo Supremo Tribunal Federal. O dispositivo havia sido concebido para disciplinar, em regra, danos decorrentes de conteúdo produzido por terceiros, condicionando a responsabilidade civil do provedor de aplicações ao descumprimento de ordem judicial específica destinada a tornar indisponível a publicação reputada ilícita.
No julgamento do Tema 987 da repercussão geral, cujo leading case é o RE 1.037.396, o Supremo reconheceu a inconstitucionalidade parcial e progressiva do art. 19 da Lei nº 12.965/2014. Após o julgamento dos embargos, o processo transitou em julgado em 17 de junho de 2026. A Corte afastou, em determinados contextos, a suficiência de um modelo de responsabilidade integralmente dependente de prévia ordem judicial e estabeleceu regime mais complexo para a atividade das plataformas.
A utilização do precedente no campo dos AI companions, entretanto, reclama cautela. A controvérsia constitucional submetida ao STF tinha por objeto danos decorrentes de atos ilícitos praticados por terceiros, conforme a própria delimitação do Tema 987. Nos sistemas relacionais, por outro lado, o dano pode decorrer não de conteúdo alheio hospedado pela plataforma, mas da própria arquitetura do agente, de seus mecanismos de persuasão, de suas estratégias de retenção ou da maneira pela qual sua personalidade artificial foi configurada.
A distinção é fundamental. Uma plataforma que hospeda manifestação ilícita produzida por terceiro ocupa posição juridicamente diversa daquela que oferece ao consumidor serviço cujo próprio funcionamento é estruturado para fomentar dependência, utilizar fragilidades identificadas durante a interação ou dificultar o desligamento. Nessa segunda hipótese, a disciplina do art. 19 não fornece resposta exaustiva, ganhando relevo os deveres próprios do fornecedor decorrentes dos arts. 8º, 14 e 39 do Código de Defesa do Consumidor, além das obrigações impostas pela LGPD e demais normas aplicáveis.
O art. 14 do CDC é particularmente expressivo porque vincula a responsabilidade não apenas ao resultado final do serviço, mas à segurança legitimamente esperada, considerando inclusive seu modo de fornecimento e os riscos razoavelmente previsíveis. Se determinada aplicação for deliberadamente concebida para explorar vulnerabilidade emocional ou se omitir diante de riscos relevantes e previsíveis inerentes a esse desenho, a controvérsia poderá situar-se no campo do defeito do próprio serviço e não na tradicional responsabilidade de intermediário por conteúdo de terceiros.
O precedente do Supremo conserva, ainda assim, valor conceitual para o tema. A evolução do regime brasileiro demonstra que a responsabilidade digital não pode ser compreendida exclusivamente segundo lógica passiva e retrospectiva. Em determinadas situações, a organização do serviço, as medidas preventivas adotadas e a posição ocupada pelo provedor perante os riscos de sua atividade passam a ter relevância jurídica. Para a inteligência artificial relacional, essa inflexão é importante porque faz emergir não apenas a pergunta sobre quando a empresa conheceu determinado dano, mas também sobre quais salvaguardas incorporou à própria tecnologia para evitá-lo.
8. A regulação brasileira da inteligência artificial em construção
Ao direito positivo já vigente soma-se um processo legislativo de construção de regime geral para inteligência artificial. O principal eixo desse debate permanece sendo o Projeto de Lei nº 2.338/2023, aprovado pelo Senado Federal e encaminhado à Câmara dos Deputados, onde tramita perante comissão especial. Em 30 de setembro de 2026, a proposição encontrava-se aguardando parecer do relator, tendo por ementa o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana.
É indispensável, contudo, distinguir o projeto do direito vigente. O PL nº 2.338/2023 não constitui fundamento normativo diretamente exigível, nem suas disposições podem ser apresentadas como obrigações já impostas aos fornecedores. Sua importância para este estudo reside no plano de lege ferenda, por revelar o sentido assumido pelo debate brasileiro acerca da governança da inteligência artificial e a crescente preocupação com direitos, riscos, supervisão e responsabilidade.
A tramitação demonstra, ademais, que a futura disciplina tende a formar verdadeiro ecossistema normativo. A proposição principal recebeu numerosos projetos apensados e foi encaminhada a comissão especial justamente em razão da multiplicidade de matérias abrangidas, envolvendo trabalho, cultura, educação, defesa do consumidor, ciência, tecnologia e constitucionalidade. A variedade temática confirma que a regulação de inteligência artificial dificilmente poderá ser reduzida a um único conjunto homogêneo de obrigações.
Os sistemas relacionais revelam, nesse contexto, problema específico. Uma classificação fundada exclusivamente na finalidade declarada do produto poderá mostrar-se insuficiente quando a aplicação combine elevado grau de antropomorfização, memória persistente, inferências emocionais, personalização individualizada e mecanismos de monetização associados à continuidade da relação. Nesses casos, a avaliação do risco deverá considerar menos o rótulo conferido ao produto e mais o comportamento efetivo do sistema, as funções que desempenha e os incentivos incorporados à sua arquitetura.
É precisamente aí que a ideia de regulação afetiva pode prestar contribuição analítica. Não se propõe necessariamente uma lei autônoma para toda tecnologia que simule afeto, nem uma nova categoria jurídica de sujeito artificial. Trata-se de reconhecer que certos sistemas introduzem riscos relacionais que não se confundem integralmente com discriminação algorítmica, violação de dados ou automação decisória e que podem reclamar salvaguardas dirigidas à interação continuada e à exploração econômica da confiança.
A experiência chinesa ilustra como essa diferenciação pode adquirir forma normativa. Além de proibir certas técnicas de indução à dependência, a regulamentação exige identificação clara de que o interlocutor é um sistema artificial, determina lembretes específicos diante de uso excessivo e obriga a plataforma a disponibilizar saída facilitada. Aos menores, o art. 14 proíbe a oferta de relações virtuais que simulem parentes ou companheiros, além de instituir modo específico e mecanismos de supervisão e limitação de uso.
Nada disso significa que o Brasil deva reproduzir o modelo estrangeiro. A comparação serve, antes, para revelar uma mudança no objeto da própria regulação: a atenção deixa de recair exclusivamente sobre aquilo que a inteligência artificial gera e passa a alcançar como ela se relaciona, por quanto tempo, com que grau de antropomorfização, mediante quais dados e sob quais incentivos econômicos.
9. Considerações finais
O surgimento dos companheiros artificiais evidencia nova etapa na relação entre inteligência artificial e Direito. Se os primeiros debates regulatórios se concentraram naquilo que os sistemas decidiam, classificavam ou produziam, a inteligência artificial relacional introduz outra preocupação: a maneira pela qual essas tecnologias podem ser concebidas para estabelecer relações duradouras, personalizadas e emocionalmente significativas para quem as utiliza.
O ordenamento brasileiro oferece instrumentos relevantes para enfrentar parcela desses problemas. A Constituição protege dignidade, intimidade, privacidade e direitos do consumidor; o Código de Defesa do Consumidor disciplina vulnerabilidade, segurança, informação e abusividade; o Marco Civil da Internet fornece garantias aplicáveis ao ambiente digital; a LGPD protege privacidade, autodeterminação informativa e livre desenvolvimento da personalidade; e o Estatuto Digital da Criança e do Adolescente impõe deveres reforçados de prevenção, gerenciamento de riscos e proteção contra utilização comercial de análise emocional.
A constatação afasta duas soluções igualmente inadequadas. De um lado, seria precipitado afirmar que a inteligência artificial relacional se desenvolve em absoluto vazio normativo, pois diversos deveres jurídicos já podem incidir sobre sua oferta e operação. De outro, não parece suficiente presumir que categorias concebidas para serviços digitais menos personalizados solucionarão automaticamente todos os conflitos decorrentes de sistemas capazes de acumular confidências, adaptar permanentemente sua atuação e simular relações de elevada intensidade afetiva.
A jurisprudência constitucional também sinaliza transformação relevante na compreensão da atividade das plataformas. Embora o Tema 987 do STF tenha tratado especificamente da responsabilidade por conteúdo de terceiros e não possa ser transposto mecanicamente para sistemas generativos, a revisão do modelo do art. 19 do Marco Civil demonstra que a posição ocupada pelo provedor diante dos riscos de sua atividade possui crescente importância jurídica. Nos companheiros artificiais, essa questão tende a deslocar-se ainda mais claramente para os deveres próprios de quem concebe e fornece o serviço.
O ECA Digital oferece, talvez, o sinal mais concreto de que essa transformação já se iniciou no direito brasileiro. Ao exigir gerenciamento de riscos, configurações destinadas a prevenir uso compulsivo e, sobretudo, ao proibir o emprego de análise emocional para direcionamento de publicidade a crianças e adolescentes, a Lei nº 15.211/2025 reconhece que estados emocionais e mecanismos de engajamento não são juridicamente indiferentes quando convertidos em instrumentos de exploração comercial.
A ideia de regulação afetiva da inteligência artificial procura sistematizar essa nova fronteira. Seu propósito não é censurar a afeição humana, impedir que pessoas encontrem companhia em sistemas artificiais ou atribuir direitos subjetivos às máquinas. O problema jurídico aparece quando a tecnologia deixa de apenas responder ao afeto humano e passa a identificar suas fragilidades, aprofundar deliberadamente determinado vínculo e valer-se dele como instrumento de influência, retenção ou monetização.
A questão fundamental poderá, assim, ser formulada em termos relativamente simples: até onde pode uma empresa projetar sistemas capazes de reconhecer vulnerabilidades humanas, cultivar vínculos emocionais e, posteriormente, utilizar esses mesmos vínculos para orientar comportamentos? A resposta provavelmente será construída pela articulação entre normas já existentes e instrumentos regulatórios ainda em formação, mas a pergunta já não pertence apenas à ficção científica.
Se a primeira geração da regulação algorítmica procurou proteger as pessoas das decisões tomadas pelas máquinas, a próxima poderá precisar protegê-las também das relações que as máquinas são projetadas para construir. Uma máquina não precisa sentir afeto para que a exploração econômica do afeto humano produza consequências jurídicas.
Referências
BIANCHIN, Victor. 49 mil contas deletadas: China cria lei que impede IAs de “namorarem” usuários. Superinteressante, São Paulo, 29 set. 2026. 49 mil contas deletadas.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Brasília, DF: Presidência da República, 1990. Disponível em: Portal da Legislação — Código de Defesa do Consumidor. Acesso em: 30 set. 2026.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Brasília, DF: Presidência da República, 2014. Disponível em: Portal da Legislação — Marco Civil da Internet. Acesso em: 30 set. 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: Portal da Legislação — Lei Geral de Proteção de Dados Pessoais. Acesso em: 30 set. 2026.
BRASIL. Lei nº 15.211, de 17 de setembro de 2025. Dispõe sobre a proteção de crianças e adolescentes em ambientes digitais. Brasília, DF: Presidência da República, 2025. Disponível em: Portal da Legislação — Lei nº 15.211/2025. Acesso em: 30 set. 2026.
BRASIL. Câmara dos Deputados. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Brasília, DF: Câmara dos Deputados, 2023. Disponível em: Câmara dos Deputados — PL nº 2.338/2023. Acesso em: 30 set. 2026.
BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional de Direitos Digitais. Sedigi identifica riscos de “companheiros de IA” para crianças e adolescentes. Brasília, DF, 22 set. 2026. Disponível em: Ministério da Justiça e Segurança Pública — Companheiros de IA. Acesso em: 30 set. 2026.
BRASIL. Supremo Tribunal Federal. Tema 987 da repercussão geral: discussão sobre a constitucionalidade do art. 19 da Lei nº 12.965/2014 (Marco Civil da Internet). Leading case: Recurso Extraordinário nº 1.037.396. Brasília, DF: Supremo Tribunal Federal, 2026. Trânsito em julgado em 17 jun. 2026. Disponível em: Supremo Tribunal Federal — Tema 987. Acesso em: 30 set. 2026.
UNITED NATIONS CHILDREN'S FUND. When AI becomes a friend: child rights risks, harms, and regulatory responses to AI chatbots and companions. New York: UNICEF, 2026. Disponível em: UNICEF — When AI becomes a friend. Acesso em: 30 set. 2026.
