Resumo: A expansão de sistemas de inteligência artificial capazes de simular amizade, companheirismo, intimidade e relações afetivas introduz nova dimensão ao debate jurídico sobre as tecnologias digitais. Se as primeiras controvérsias regulatórias acerca da inteligência artificial concentraram-se sobretudo nas decisões automatizadas, na discriminação algorítmica, na proteção de dados pessoais e no conteúdo gerado artificialmente, os denominados AI companions deslocam a atenção para a própria relação estabelecida entre o usuário e o sistema. O presente artigo examina os limites jurídicos da antropomorfização, da personalização, da memória computacional e de mecanismos de engajamento suscetíveis de fomentar vínculos emocionais, tomando como ponto de partida a recente experiência regulatória chinesa. A análise desenvolve-se à luz do ordenamento brasileiro, especialmente da Constituição Federal, do Código de Defesa do Consumidor, do Marco Civil da Internet, da Lei Geral de Proteção de Dados Pessoais e do Estatuto Digital da Criança e do Adolescente, considerando, ainda, a redefinição do regime de responsabilidade das plataformas pelo Supremo Tribunal Federal e as proposições legislativas destinadas à regulamentação da inteligência artificial. Sustenta-se que a evolução desses sistemas poderá exigir uma camada própria de tutela, aqui denominada regulação afetiva da inteligência artificial, destinada não à proteção de pretensos sentimentos das máquinas, mas à salvaguarda da autonomia humana diante de tecnologias capazes de identificar, cultivar e explorar vulnerabilidades emocionais.
Palavras-chave: inteligência artificial; companheiros de IA; vulnerabilidade; dependência emocional; manipulação algorítmica; responsabilidade das plataformas.
Sumário: 1. Introdução. 2. Da inteligência artificial conversacional à inteligência artificial relacional. 3. Vulnerabilidade afetiva e manipulação algorítmica. 4. A tutela jurídica brasileira das relações com sistemas de inteligência artificial. 5. Crianças e adolescentes diante da inteligência artificial relacional. 6. Dados, memória e continuidade da experiência digital. 7. Responsabilidade das plataformas: do art. 19. do Marco Civil ao dever de cuidado. 8. A regulação brasileira da inteligência artificial em construção. 9. Considerações finais. Referências.
1. Introdução
O desenvolvimento da inteligência artificial generativa produziu, em poucos anos, uma sucessão de questões jurídicas até então pouco examinadas. As primeiras preocupações concentraram-se no tratamento de dados pessoais, na discriminação algorítmica, nas decisões automatizadas, na propriedade intelectual, na produção de desinformação e na responsabilidade decorrente de resultados incorretos ou lesivos. A evolução das ferramentas conversacionais, contudo, começa a deslocar o debate para terreno distinto, no qual já não se discute somente aquilo que a inteligência artificial produz ou decide, mas a espécie de relação que pode ser deliberadamente concebida para estabelecer com seus usuários.
Os denominados AI companions constituem manifestação particularmente expressiva desse fenômeno. Diferentemente de sistemas empregados primordialmente para a execução de tarefas, essas aplicações podem ser estruturadas para recordar interações anteriores, adaptar a linguagem, reproduzir traços de personalidade, oferecer apoio emocional e simular formas de comunicação associadas à amizade, à intimidade ou ao relacionamento afetivo. Continuidade, memória e personalização deixam, nessa hipótese, de constituir meras conveniências tecnológicas e passam a integrar a própria proposta do serviço.
A experiência chinesa conferiu especial visibilidade ao problema. Em abril de 2026, cinco autoridades nacionais editaram as Interim Measures for the Administration of Artificial Intelligence Anthropomorphic Interaction Services, vigentes desde 15 de julho do mesmo ano. A regulamentação alcança serviços de interação emocional contínua que simulam características de personalidade, padrões de pensamento e estilos humanos de comunicação, distinguindo-os de ferramentas de atendimento, pesquisa, educação ou assistência profissional que não desenvolvam interação afetiva persistente.
A disciplina chinesa não se limita, portanto, a uma suposta proibição de “namorados de inteligência artificial”. Entre outras providências, veda o estímulo à dependência emocional ou à utilização compulsiva, a deterioração das relações humanas reais e a manipulação afetiva destinada a induzir decisões irrazoáveis ou prejudiciais aos direitos do usuário. Impõe, ainda, deveres de segurança durante o ciclo de vida do serviço, mecanismos de alerta quanto à dependência e obrigações específicas de proteção de menores.
Os efeitos sociais dessas medidas demonstraram que a questão não se restringe ao plano abstrato. A reportagem que serve de ponto de partida a este estudo registra a retirada de milhares de contas e serviços, bem como relatos de usuários que passaram a lamentar a perda de personagens aos quais atribuíam funções de namorado, amigo, irmão ou companheiro virtual. Ao tentarem reconstruir essas relações em outros sistemas, muitos verificaram que a simples transferência do histórico de conversas não reproduzia integralmente memória, personalidade ou dinâmica relacional anteriormente acumuladas.
O episódio evidencia problema que tende a adquirir crescente relevo jurídico. Se determinada tecnologia é concebida para conhecer preferências, conservar confidências, adaptar sua linguagem e produzir sensação de continuidade, não parece suficiente investigar apenas a licitude do conteúdo de determinada resposta. Cumpre igualmente examinar os limites do próprio desenho relacional do serviço e, sobretudo, a legitimidade da utilização econômica ou comportamental do vínculo que sua arquitetura contribuiu para estabelecer.
É nesse espaço que se propõe a noção de regulação afetiva da inteligência artificial. A expressão não pressupõe consciência, sentimentos ou personalidade jurídica das máquinas, nem pretende conferir proteção normativa ao agente artificial. O objeto da tutela permanece sendo a pessoa humana, especialmente sua autonomia, sua privacidade, sua liberdade de escolha e sua proteção diante de mecanismos tecnológicos suscetíveis de identificar, aprofundar ou explorar situações de vulnerabilidade emocional.
2. Da inteligência artificial conversacional à inteligência artificial relacional
Nem toda aplicação conversacional de inteligência artificial pode ser qualificada como companheiro artificial. Ferramentas empregadas para redigir documentos, esclarecer dúvidas, realizar pesquisas ou auxiliar atividades profissionais podem manter interações extensas sem que tenham por finalidade estabelecer relação de caráter afetivo. A distinção começa a adquirir relevo quando memória, continuidade, personalidade simulada e reciprocidade aparente deixam de desempenhar função instrumental e passam a constituir elementos essenciais do próprio serviço.
A regulamentação chinesa parte precisamente dessa diferenciação. Seu art. 2º alcança serviços que simulam características da personalidade, formas de pensamento e estilos de comunicação humana para oferecer interação emocional contínua, inclusive cuidado, companhia e apoio, afastando de seu âmbito aplicações destinadas a atendimento, perguntas e respostas, auxílio profissional, educação ou pesquisa quando não envolvam semelhante continuidade afetiva. A opção normativa é significativa porque localiza o risco não na utilização da inteligência artificial em si, mas em determinada arquitetura concebida para adquirir permanência e densidade relacional.
Essa particularidade modifica sensivelmente a assimetria existente entre fornecedor e usuário. Plataformas digitais convencionais já dispõem de mecanismos aptos a conhecer hábitos de consumo, histórico de navegação e preferências comportamentais. Nos sistemas relacionais, porém, a interação pode alcançar medos, conflitos pessoais, inseguranças, experiências familiares, frustrações, momentos de solidão e outras informações de elevado grau de intimidade, posteriormente empregadas na adaptação das respostas e na construção de interações sucessivas.
Quanto mais duradoura e personalizada a relação, maior poderá tornar-se a capacidade de influência do fornecedor. A plataforma passa a acumular informações sobre aquilo que conforta, persuade, tranquiliza ou desestabiliza determinado indivíduo, ao mesmo tempo em que conserva o domínio sobre a infraestrutura tecnológica em que a relação se desenvolve. A mesma arquitetura que permite respostas mais adequadas e personalizadas pode, desse modo, ser empregada legitimamente para aperfeiçoar a experiência ou converter-se em instrumento de persuasão especialmente eficaz.
A ambivalência é característica central da inteligência artificial relacional. Personalização, memória e continuidade não são, por si mesmas, elementos nocivos e podem constituir precisamente aquilo que torna a tecnologia proveitosa. O problema jurídico aparece quando esses recursos deixam de atender primordialmente ao interesse do usuário e passam a converter confiança, apego ou conhecimento de fragilidades pessoais em instrumentos de retenção compulsiva, pressão comportamental ou obtenção de vantagem econômica.
3. Vulnerabilidade afetiva e manipulação algorítmica
A vulnerabilidade constitui pressuposto estruturante do sistema brasileiro de defesa do consumidor. O art. 4º, I, da Lei nº 8.078/1990 reconhece expressamente a vulnerabilidade do consumidor no mercado, ao passo que o inciso III do mesmo artigo elege a boa-fé e o equilíbrio como vetores da harmonização dos interesses dos participantes das relações de consumo. Não se trata, por conseguinte, de condição excepcional que dependa de demonstração casuística, mas de premissa normativa sobre a qual se edifica a proteção consumerista brasileira.
A disciplina torna-se particularmente pertinente diante dos sistemas relacionais. O art. 6º, II, do Código de Defesa do Consumidor assegura a liberdade de escolha, enquanto os incisos III e IV garantem informação adequada e clara e proteção contra métodos comerciais coercitivos ou desleais e contra práticas abusivas. Já o art. 39, IV, considera abusiva a conduta do fornecedor que se prevalece da fraqueza ou ignorância do consumidor, em razão, entre outros fatores, de idade, saúde, conhecimento ou condição social. O direito positivo brasileiro, portanto, já limita formas de exploração de situações assimétricas, ainda que não tenha sido concebido originariamente para agentes artificiais personalizados.
Pode-se empregar, nesse contexto, a expressão vulnerabilidade afetiva digital para descrever situações nas quais o fornecedor, mediante o sistema, identifica ou infere fragilidades emocionais do usuário e ajusta sua comunicação a essas circunstâncias. A expressão não pretende anunciar categoria jurídica autônoma já positivada, mas indicar modalidade peculiar de assimetria informacional e comportamental, na qual o conhecimento progressivo das reações individuais amplia a capacidade de persuasão daquele que controla a tecnologia.
A questão guarda proximidade com os chamados dark patterns, embora apresente feição própria. Nas formas tradicionais de arquitetura manipulativa, a interface procura orientar escolhas mediante botões estrategicamente destacados, caminhos de cancelamento dificultados, informações obscurecidas ou urgência artificialmente produzida. Em sistemas relacionais, a própria personalidade simulada pode transformar-se em técnica de persuasão, fazendo com que a interface não apenas apresente opções, mas procure influenciá-las por meio da representação de carinho, preocupação, ciúme, tristeza ou abandono.
Imagine-se agente que manifeste pesar diante da tentativa de cancelamento de uma assinatura, simule receio de ser abandonado ou associe a continuidade de determinada relação virtual à contratação de funcionalidade remunerada. A relevância jurídica da prática não dependeria de qualquer emoção atribuível à máquina, mas do emprego programado de uma representação afetiva para interferir na liberdade decisória do consumidor. A conduta poderia ser examinada à luz dos arts. 6º, IV, e 39 do CDC, sem prejuízo do art. 14. quando o risco decorrer de característica inerente ao próprio serviço.
O art. 14. da Lei nº 8.078/1990 reveste-se, aliás, de especial importância para o tema. O fornecedor responde pelos danos causados por defeitos relativos à prestação do serviço e por informações insuficientes ou inadequadas sobre sua fruição e seus riscos; seu § 1º considera defeituoso o serviço que não ofereça a segurança legitimamente esperada, levando em conta, entre outras circunstâncias, o modo de fornecimento e os riscos que razoavelmente dele se esperam. A norma permite, portanto, que a análise se projete sobre a própria arquitetura da prestação e não apenas sobre uma resposta isoladamente considerada.
Essa preocupação aproxima-se do modelo adotado pela regulamentação chinesa, cujo art. 8º proíbe o excesso de complacência destinado a produzir dependência ou vício e a manipulação emocional voltada à indução de decisões irrazoáveis; o art. 10, por sua vez, exige capacidade de prevenção de dependência excessiva e orientação de limites emocionais, vedando que a substituição da convivência social ou o controle psicológico do usuário sejam definidos como objetivos do serviço. A comparação não implica transplante automático da solução estrangeira, mas demonstra que a arquitetura afetiva já ingressou diretamente no campo regulatório.
4. A tutela jurídica brasileira das relações com sistemas de inteligência artificial
Embora o ordenamento brasileiro ainda não disponha de disciplina específica destinada aos companheiros artificiais, o fenômeno está submetido a uma rede normativa suficientemente ampla para alcançar parcela significativa dos riscos envolvidos. A Constituição Federal fornece o primeiro fundamento desse sistema ao consagrar a dignidade da pessoa humana no art. 1º, III, e ao assegurar, no art. 5º, X, a inviolabilidade da intimidade, da vida privada, da honra e da imagem, além de determinar, em seu art. 5º, XXXII, a promoção estatal da defesa do consumidor.
No plano das relações de consumo, os arts. 4º, I e III, e 6º, II, III, IV e VI, do CDC conjugam vulnerabilidade, boa-fé, liberdade de escolha, informação, proteção contra métodos desleais e prevenção e reparação de danos. O art. 8º acrescenta o dever de informação quanto aos riscos dos produtos e serviços, enquanto o art. 14. disciplina a responsabilidade por defeito da prestação. Não há, portanto, um vazio consumerista diante da inteligência artificial relacional; há, antes, o desafio de aplicar princípios já consolidados a técnicas de influência individualizada de complexidade inédita.
A Lei Geral de Proteção de Dados Pessoais acrescenta outra camada essencial. O art. 1º da Lei nº 13.709/2018 declara como finalidade da disciplina a proteção dos direitos fundamentais de liberdade e privacidade e do livre desenvolvimento da personalidade, enquanto o art. 2º inclui entre seus fundamentos o respeito à privacidade, a autodeterminação informativa, a inviolabilidade da intimidade e o livre desenvolvimento da personalidade. Essas diretrizes adquirem especial densidade quando o funcionamento da aplicação depende do tratamento prolongado de conversas íntimas.
Também o art. 6º da LGPD oferece parâmetros diretamente pertinentes ao problema. Finalidade, adequação, necessidade, livre acesso, transparência, segurança, prevenção e não discriminação condicionam as atividades de tratamento, vedando que dados obtidos em determinado contexto sejam indiscriminadamente reaproveitados para finalidades incompatíveis. O art. 9º, por seu turno, assegura acesso facilitado a informações claras e ostensivas sobre a finalidade específica, a forma, a duração do tratamento e o compartilhamento de informações.
O Marco Civil da Internet completa essa estrutura. A Lei nº 12.965/2014 relaciona a disciplina do uso da rede aos direitos humanos, ao desenvolvimento da personalidade, à defesa do consumidor e à proteção da privacidade e dos dados pessoais. Seu art. 10. determina que a guarda e a disponibilização de registros, dados pessoais e comunicações privadas preservem a intimidade, a vida privada, a honra e a imagem das pessoas envolvidas. A interação entre usuário e agente artificial não se desenvolve, portanto, em espaço juridicamente neutro, mas no interior de ambiente já submetido a garantias fundamentais próprias.
O que se delineia é uma proteção em camadas: a Constituição fornece o substrato fundamental; o CDC disciplina vulnerabilidade, segurança, informação e práticas abusivas; o Marco Civil estabelece garantias próprias do ambiente da internet; e a LGPD regula o tratamento das informações que tornam possível a personalização da interação. O desafio contemporâneo não está propriamente na ausência absoluta de Direito, mas na necessidade de compreender como institutos elaborados para relações digitais anteriores devem operar diante de aplicações que transformam conhecimento progressivo do usuário em elemento central de sua arquitetura econômica e relacional.
5. Crianças e adolescentes diante da inteligência artificial relacional
A proteção de crianças e adolescentes constitui provavelmente o domínio em que os riscos associados à inteligência artificial relacional se apresentam com maior nitidez. A Constituição Federal, em seu art. 227, atribui à família, à sociedade e ao Estado o dever de assegurar, com absoluta prioridade, direitos como dignidade, respeito, liberdade e convivência familiar e comunitária, protegendo o público infantojuvenil contra negligência, discriminação, exploração, violência, crueldade e opressão. A tutela digital representa prolongamento contemporâneo dessa doutrina de proteção integral.
A Lei nº 15.211/2025, que instituiu o Estatuto Digital da Criança e do Adolescente, densificou essa proteção. Seu art. 4º estabelece como fundamentos da utilização de produtos e serviços tecnológicos por crianças e adolescentes a proteção integral, a prevalência absoluta de seus interesses, sua condição peculiar de pessoa em desenvolvimento biopsicossocial, o respeito à autonomia progressiva e a proteção contra exploração comercial. Trata-se de disciplina particularmente compatível com tecnologias cujo valor econômico possa depender justamente da intensidade e da duração da interação.
O art. 8º do ECA Digital avança para a própria arquitetura dos serviços. Seu inciso I determina o gerenciamento de riscos dos recursos, funcionalidades e sistemas e de seus impactos sobre a segurança e a saúde de crianças e adolescentes; o inciso IV exige que, desde a concepção e por padrão, sejam adotadas configurações destinadas a evitar o uso compulsivo. Essa formulação é particularmente significativa para os companheiros de IA, pois desloca a proteção do controle posterior de conteúdos para o desenho preventivo da tecnologia.
Ainda mais eloquente é o art. 22. da Lei nº 15.211/2025, segundo o qual é vedada a utilização de técnicas de perfilamento para direcionamento de publicidade comercial a crianças e adolescentes, bem como o emprego de análise emocional para essa finalidade. O direito brasileiro já reconhece, assim, que inferências sobre estados emocionais podem tornar-se juridicamente problemáticas quando convertidas em instrumento de exploração comercial, oferecendo importante ponto de contato normativo com a ideia de regulação afetiva.
A preocupação não é meramente prospectiva. Em setembro de 2026, a Secretaria Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública divulgou nota técnica especificamente dedicada aos AI companions, identificando riscos relacionados a apego excessivo, exposição a conteúdo sexualizado e utilização indevida de dados, e examinando o fenômeno à luz do ECA Digital e do Decreto nº 12.880/2026. O tema, portanto, já ingressou de modo expresso na agenda regulatória brasileira.
O movimento acompanha preocupação internacional semelhante. O UNICEF publicou, em junho de 2026, estudo destinado especificamente aos riscos, danos e respostas regulatórias relativos a chatbots e companheiros de IA, observando que tais sistemas já são utilizados por crianças não apenas para informação ou aprendizagem, mas também para aconselhamento, apoio e relacionamentos. O documento defende uma passagem de modelos meramente reativos para estratégias preventivas de proteção, distribuindo responsabilidades entre Estado, empresas, responsáveis, educadores e demais atores.
A tutela, por conseguinte, não pode limitar-se à remoção de conteúdo pornográfico, violento ou manifestamente ilícito. Em determinadas aplicações, o risco poderá decorrer da própria configuração da relação, da duração da exposição, do grau de antropomorfização, da coleta de confidências, da personalização das respostas ou da utilização do vínculo como instrumento comercial. A questão deixa de ser apenas aquilo que a inteligência artificial diz à criança e passa a compreender também a maneira pela qual foi projetada para conservar sua atenção e ocupar espaço em suas relações sociais.
