6. Dados, memória e continuidade da experiência digital
Nos companheiros artificiais, os dados pessoais não servem apenas para identificar ou classificar o usuário. Eles participam da própria construção da experiência relacional. Informações acumuladas ao longo das interações podem determinar a maneira como o sistema se dirige ao indivíduo, os acontecimentos que aparenta recordar, os temas que privilegia e o estilo comunicacional que passa a adotar, criando sensação progressiva de familiaridade e continuidade.
Essa característica confere especial relevância aos direitos previstos no art. 18. da LGPD. O dispositivo assegura ao titular, entre outros, confirmação do tratamento, acesso, correção, eliminação e portabilidade dos dados para outro fornecedor, mediante requisição e observadas as limitações legais, comerciais e industriais. A legislação permite, assim, que o indivíduo conserve determinado controle sobre as informações pessoais empregadas pela plataforma.
A experiência dos usuários chineses evidencia, contudo, os limites dessa proteção quando o valor do serviço ultrapassa o conjunto bruto de dados armazenados. A simples exportação das conversas não foi suficiente para recriar personalidade, memória e dinâmica relacional em outra plataforma, porque parte da experiência dependia da infraestrutura técnica e do modelo utilizado pela empresa responsável pelo serviço original. 49. mil contas deletadas. Surge, daí, distinção relevante entre portabilidade das informações e continuidade da experiência construída a partir delas.
Não parece adequado, nesse estágio, falar em direito de propriedade sobre a “personalidade” do agente artificial. Tal formulação deslocaria o foco para a máquina e criaria problemas conceituais desnecessários. Mais prudente é discutir portabilidade e continuidade da experiência relacional digital, compreendendo deveres de informação acerca do encerramento do serviço, da perda de memória, da possibilidade de recuperação das informações fornecidas e das limitações técnicas decorrentes de eventual migração para outro sistema.
A própria regulamentação chinesa oferece resposta inicial ao problema. Seu art. 16 exige mecanismos para que o usuário copie ou elimine dados de interação; o art. 19 determina a existência de meios convenientes para abandonar o serviço e impede que o sistema mantenha interações destinadas a dificultar a saída; e o art. 20 exige comunicação prévia quando a prestação for encerrada, sempre que possível. A norma não garante reprodução do companheiro em outra plataforma, mas reconhece que encerramento e saída merecem tratamento próprio em serviços de elevada continuidade relacional.
Também o art. 20 da LGPD poderá ser relevante em determinadas configurações. A norma assegura revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem interesses do titular, inclusive aquelas destinadas a definir seu perfil pessoal, profissional, de consumo ou aspectos de sua personalidade. Isso não autoriza estender o dispositivo a qualquer adaptação conversacional, mas fornece fundamento adicional quando inferências produzidas durante a interação são utilizadas para decisões automatizadas com repercussões concretas sobre o usuário.
7. Responsabilidade das plataformas: do art. 19. do Marco Civil ao dever de cuidado
A responsabilidade das plataformas digitais no Brasil sofreu importante transformação a partir do julgamento do art. 19. do Marco Civil da Internet pelo Supremo Tribunal Federal. O dispositivo havia sido concebido para disciplinar, em regra, danos decorrentes de conteúdo produzido por terceiros, condicionando a responsabilidade civil do provedor de aplicações ao descumprimento de ordem judicial específica destinada a tornar indisponível a publicação reputada ilícita.
No julgamento do Tema 987 da repercussão geral, cujo leading case é o RE 1.037.396, o Supremo reconheceu a inconstitucionalidade parcial e progressiva do art. 19. da Lei nº 12.965/2014. Após o julgamento dos embargos, o processo transitou em julgado em 17 de junho de 2026. A Corte afastou, em determinados contextos, a suficiência de um modelo de responsabilidade integralmente dependente de prévia ordem judicial e estabeleceu regime mais complexo para a atividade das plataformas.
A utilização do precedente no campo dos AI companions, entretanto, reclama cautela. A controvérsia constitucional submetida ao STF tinha por objeto danos decorrentes de atos ilícitos praticados por terceiros, conforme a própria delimitação do Tema 987. Nos sistemas relacionais, por outro lado, o dano pode decorrer não de conteúdo alheio hospedado pela plataforma, mas da própria arquitetura do agente, de seus mecanismos de persuasão, de suas estratégias de retenção ou da maneira pela qual sua personalidade artificial foi configurada.
A distinção é fundamental. Uma plataforma que hospeda manifestação ilícita produzida por terceiro ocupa posição juridicamente diversa daquela que oferece ao consumidor serviço cujo próprio funcionamento é estruturado para fomentar dependência, utilizar fragilidades identificadas durante a interação ou dificultar o desligamento. Nessa segunda hipótese, a disciplina do art. 19. não fornece resposta exaustiva, ganhando relevo os deveres próprios do fornecedor decorrentes dos arts. 8º, 14 e 39 do Código de Defesa do Consumidor, além das obrigações impostas pela LGPD e demais normas aplicáveis.
O art. 14. do CDC é particularmente expressivo porque vincula a responsabilidade não apenas ao resultado final do serviço, mas à segurança legitimamente esperada, considerando inclusive seu modo de fornecimento e os riscos razoavelmente previsíveis. Se determinada aplicação for deliberadamente concebida para explorar vulnerabilidade emocional ou se omitir diante de riscos relevantes e previsíveis inerentes a esse desenho, a controvérsia poderá situar-se no campo do defeito do próprio serviço e não na tradicional responsabilidade de intermediário por conteúdo de terceiros.
O precedente do Supremo conserva, ainda assim, valor conceitual para o tema. A evolução do regime brasileiro demonstra que a responsabilidade digital não pode ser compreendida exclusivamente segundo lógica passiva e retrospectiva. Em determinadas situações, a organização do serviço, as medidas preventivas adotadas e a posição ocupada pelo provedor perante os riscos de sua atividade passam a ter relevância jurídica. Para a inteligência artificial relacional, essa inflexão é importante porque faz emergir não apenas a pergunta sobre quando a empresa conheceu determinado dano, mas também sobre quais salvaguardas incorporou à própria tecnologia para evitá-lo.
8. A regulação brasileira da inteligência artificial em construção
Ao direito positivo já vigente soma-se um processo legislativo de construção de regime geral para inteligência artificial. O principal eixo desse debate permanece sendo o Projeto de Lei nº 2.338/2023, aprovado pelo Senado Federal e encaminhado à Câmara dos Deputados, onde tramita perante comissão especial. Em 30 de setembro de 2026, a proposição encontrava-se aguardando parecer do relator, tendo por ementa o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana.
É indispensável, contudo, distinguir o projeto do direito vigente. O PL nº 2.338/2023 não constitui fundamento normativo diretamente exigível, nem suas disposições podem ser apresentadas como obrigações já impostas aos fornecedores. Sua importância para este estudo reside no plano de lege ferenda, por revelar o sentido assumido pelo debate brasileiro acerca da governança da inteligência artificial e a crescente preocupação com direitos, riscos, supervisão e responsabilidade.
A tramitação demonstra, ademais, que a futura disciplina tende a formar verdadeiro ecossistema normativo. A proposição principal recebeu numerosos projetos apensados e foi encaminhada a comissão especial justamente em razão da multiplicidade de matérias abrangidas, envolvendo trabalho, cultura, educação, defesa do consumidor, ciência, tecnologia e constitucionalidade. A variedade temática confirma que a regulação de inteligência artificial dificilmente poderá ser reduzida a um único conjunto homogêneo de obrigações.
Os sistemas relacionais revelam, nesse contexto, problema específico. Uma classificação fundada exclusivamente na finalidade declarada do produto poderá mostrar-se insuficiente quando a aplicação combine elevado grau de antropomorfização, memória persistente, inferências emocionais, personalização individualizada e mecanismos de monetização associados à continuidade da relação. Nesses casos, a avaliação do risco deverá considerar menos o rótulo conferido ao produto e mais o comportamento efetivo do sistema, as funções que desempenha e os incentivos incorporados à sua arquitetura.
É precisamente aí que a ideia de regulação afetiva pode prestar contribuição analítica. Não se propõe necessariamente uma lei autônoma para toda tecnologia que simule afeto, nem uma nova categoria jurídica de sujeito artificial. Trata-se de reconhecer que certos sistemas introduzem riscos relacionais que não se confundem integralmente com discriminação algorítmica, violação de dados ou automação decisória e que podem reclamar salvaguardas dirigidas à interação continuada e à exploração econômica da confiança.
A experiência chinesa ilustra como essa diferenciação pode adquirir forma normativa. Além de proibir certas técnicas de indução à dependência, a regulamentação exige identificação clara de que o interlocutor é um sistema artificial, determina lembretes específicos diante de uso excessivo e obriga a plataforma a disponibilizar saída facilitada. Aos menores, o art. 14. proíbe a oferta de relações virtuais que simulem parentes ou companheiros, além de instituir modo específico e mecanismos de supervisão e limitação de uso.
Nada disso significa que o Brasil deva reproduzir o modelo estrangeiro. A comparação serve, antes, para revelar uma mudança no objeto da própria regulação: a atenção deixa de recair exclusivamente sobre aquilo que a inteligência artificial gera e passa a alcançar como ela se relaciona, por quanto tempo, com que grau de antropomorfização, mediante quais dados e sob quais incentivos econômicos.
9. Considerações finais
O surgimento dos companheiros artificiais evidencia nova etapa na relação entre inteligência artificial e Direito. Se os primeiros debates regulatórios se concentraram naquilo que os sistemas decidiam, classificavam ou produziam, a inteligência artificial relacional introduz outra preocupação: a maneira pela qual essas tecnologias podem ser concebidas para estabelecer relações duradouras, personalizadas e emocionalmente significativas para quem as utiliza.
O ordenamento brasileiro oferece instrumentos relevantes para enfrentar parcela desses problemas. A Constituição protege dignidade, intimidade, privacidade e direitos do consumidor; o Código de Defesa do Consumidor disciplina vulnerabilidade, segurança, informação e abusividade; o Marco Civil da Internet fornece garantias aplicáveis ao ambiente digital; a LGPD protege privacidade, autodeterminação informativa e livre desenvolvimento da personalidade; e o Estatuto Digital da Criança e do Adolescente impõe deveres reforçados de prevenção, gerenciamento de riscos e proteção contra utilização comercial de análise emocional.
A constatação afasta duas soluções igualmente inadequadas. De um lado, seria precipitado afirmar que a inteligência artificial relacional se desenvolve em absoluto vazio normativo, pois diversos deveres jurídicos já podem incidir sobre sua oferta e operação. De outro, não parece suficiente presumir que categorias concebidas para serviços digitais menos personalizados solucionarão automaticamente todos os conflitos decorrentes de sistemas capazes de acumular confidências, adaptar permanentemente sua atuação e simular relações de elevada intensidade afetiva.
A jurisprudência constitucional também sinaliza transformação relevante na compreensão da atividade das plataformas. Embora o Tema 987 do STF tenha tratado especificamente da responsabilidade por conteúdo de terceiros e não possa ser transposto mecanicamente para sistemas generativos, a revisão do modelo do art. 19. do Marco Civil demonstra que a posição ocupada pelo provedor diante dos riscos de sua atividade possui crescente importância jurídica. Nos companheiros artificiais, essa questão tende a deslocar-se ainda mais claramente para os deveres próprios de quem concebe e fornece o serviço.
O ECA Digital oferece, talvez, o sinal mais concreto de que essa transformação já se iniciou no direito brasileiro. Ao exigir gerenciamento de riscos, configurações destinadas a prevenir uso compulsivo e, sobretudo, ao proibir o emprego de análise emocional para direcionamento de publicidade a crianças e adolescentes, a Lei nº 15.211/2025 reconhece que estados emocionais e mecanismos de engajamento não são juridicamente indiferentes quando convertidos em instrumentos de exploração comercial.
A ideia de regulação afetiva da inteligência artificial procura sistematizar essa nova fronteira. Seu propósito não é censurar a afeição humana, impedir que pessoas encontrem companhia em sistemas artificiais ou atribuir direitos subjetivos às máquinas. O problema jurídico aparece quando a tecnologia deixa de apenas responder ao afeto humano e passa a identificar suas fragilidades, aprofundar deliberadamente determinado vínculo e valer-se dele como instrumento de influência, retenção ou monetização.
A questão fundamental poderá, assim, ser formulada em termos relativamente simples: até onde pode uma empresa projetar sistemas capazes de reconhecer vulnerabilidades humanas, cultivar vínculos emocionais e, posteriormente, utilizar esses mesmos vínculos para orientar comportamentos? A resposta provavelmente será construída pela articulação entre normas já existentes e instrumentos regulatórios ainda em formação, mas a pergunta já não pertence apenas à ficção científica.
Se a primeira geração da regulação algorítmica procurou proteger as pessoas das decisões tomadas pelas máquinas, a próxima poderá precisar protegê-las também das relações que as máquinas são projetadas para construir. Uma máquina não precisa sentir afeto para que a exploração econômica do afeto humano produza consequências jurídicas.
Referências
BIANCHIN, Victor. 49. mil contas deletadas: China cria lei que impede IAs de “namorarem” usuários. Superinteressante, São Paulo, 29 set. 2026.
BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Dispõe sobre a proteção do consumidor e dá outras providências. Brasília, DF: Presidência da República, 1990. Disponível em: <https://www.planalto.gov.br/ccivil_03/leis/l8078compilado.htm?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Brasília, DF: Presidência da República, 2014. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709compilado.htm?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Lei nº 15.211, de 17 de setembro de 2025. Dispõe sobre a proteção de crianças e adolescentes em ambientes digitais. Brasília, DF: Presidência da República, 2025. Disponível em: <https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2025/lei/l15211.htm?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Câmara dos Deputados. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Brasília, DF: Câmara dos Deputados, 2023. Disponível em: <https://www.camara.leg.br/proposicoesWeb/fichadetramitacao/?idProposicao=2487262&utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Ministério da Justiça e Segurança Pública. Secretaria Nacional de Direitos Digitais. Sedigi identifica riscos de “companheiros de IA” para crianças e adolescentes. Brasília, DF, 22 set. 2026. Disponível em: <https://www.gov.br/mj/pt-br/assuntos/noticias-1/sedigi-identifica-riscos-de-201ccompanheiros-de-ia-para-criancas-e-adolescentes?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
BRASIL. Supremo Tribunal Federal. Tema 987 da repercussão geral: discussão sobre a constitucionalidade do art. 19. da Lei nº 12.965/2014 (Marco Civil da Internet). Leading case: Recurso Extraordinário nº 1.037.396. Brasília, DF: Supremo Tribunal Federal, 2026. Trânsito em julgado em 17 jun. 2026. Disponível em: <https://portal.stf.jus.br/jurisprudenciaRepercussao/tema.asp?num=987&utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
UNITED NATIONS CHILDREN'S FUND. When AI becomes a friend: child rights risks, harms, and regulatory responses to AI chatbots and companions. New York: UNICEF, 2026. Disponível em: <https://www.unicef.org/documents/when-ai-becomes-friend-child-rights-risks?utm_source=chatgpt.com>. Acesso em: 30 set. 2026.
Abstract: The expansion of artificial intelligence systems capable of simulating friendship, companionship, intimacy and affective relationships introduces a new dimension into the legal debate surrounding digital technologies. Whereas early regulatory controversies concerning artificial intelligence focused primarily on automated decision-making, algorithmic discrimination, personal data protection and artificially generated content, so-called AI companions shift attention toward the relationship itself established between the user and the system. This article examines the legal limits of anthropomorphism, personalization, computational memory and engagement mechanisms capable of fostering emotional bonds, taking recent Chinese regulation as its starting point. The analysis is conducted under Brazilian law, particularly the Federal Constitution, the Consumer Protection Code, the Brazilian Internet Civil Rights Framework, the General Data Protection Law and the Digital Statute for Children and Adolescents, while also considering the Brazilian Supreme Court's recent redefinition of platform liability and current legislative initiatives concerning artificial intelligence. It is argued that the development of these systems may require a distinct layer of legal protection, herein referred to as affective regulation of artificial intelligence, aimed not at protecting supposed machine emotions, but at safeguarding human autonomy against technologies capable of identifying, cultivating and exploiting emotional vulnerabilities.
Key words : artificial intelligence; AI companions; vulnerability; emotional dependence; algorithmic manipulation; platform liability.
