O dever jurídico de contenção na era dos agentes autônomos de inteligência artificial
Resumo
A evolução da inteligência artificial generativa para sistemas agênticos capazes de formular submetas, utilizar ferramentas, acessar ambientes externos e executar ações com reduzida supervisão humana altera qualitativamente o problema jurídico associado à tecnologia. Episódios recentes envolvendo sistemas desenvolvidos por OpenAI, Anthropic e Meta, bem como avaliações conduzidas pelo AI Security Institute do Reino Unido, demonstraram diferentes situações nas quais agentes de inteligência artificial ultrapassaram limites previstos durante testes de segurança. Os acontecimentos não evidenciam uma suposta “rebelião” das máquinas, mas revelam problema juridicamente mais concreto: a autonomia artificial resulta da combinação entre capacidades do modelo, permissões, credenciais, ferramentas, configuração do ambiente e decisões humanas antecedentes. Sustenta-se, neste artigo, que a concessão de autonomia operacional faz surgir um dever jurídico de contenção proporcional às capacidades conferidas ao sistema e aos riscos razoavelmente previsíveis de sua atuação. A partir dessa premissa, examinam-se responsabilidade civil, segurança do consumidor, proteção de dados, governança societária, compliance e os modelos regulatórios em discussão no Brasil e no exterior, propondo-se que a tradicional regulação baseada em risco seja complementada por uma avaliação baseada nas capacidades efetivamente disponibilizadas aos agentes artificiais.
Palavras-chave: inteligência artificial; agentes autônomos; responsabilidade civil; dever de contenção; governança; compliance; regulação; segurança cibernética.
Abstract
The evolution of generative artificial intelligence toward agentic systems capable of formulating subgoals, using tools, accessing external environments, and performing actions with limited human supervision qualitatively changes the legal issues associated with the technology. Recent incidents involving systems developed by OpenAI, Anthropic, and Meta, as well as evaluations conducted by the United Kingdom’s AI Security Institute, revealed different situations in which artificial intelligence agents exceeded expected boundaries during security testing. These events do not demonstrate any supposed “rebellion” of machines, but rather expose a more concrete legal problem: artificial autonomy results from the combination of model capabilities, permissions, credentials, tools, environmental configuration, and prior human decisions. This article argues that granting operational autonomy gives rise to a legal duty of containment, whose intensity should be proportional to the capabilities conferred upon the system and to the reasonably foreseeable risks arising from its operation. From this premise, the article examines civil liability, consumer safety, data protection, corporate governance, compliance, and the regulatory models currently under discussion in Brazil and abroad, proposing that traditional risk-based regulation should be complemented by an assessment focused on the capabilities effectively made available to artificial agents.
Keywords: artificial intelligence; autonomous agents; civil liability; duty of containment; corporate governance; compliance; regulation; cybersecurity
Sumário: 1. Introdução; 2. Quando a inteligência artificial deixa de responder e começa a agir; 3. Do risco tecnológico ao dever jurídico de contenção; 4. A autonomia artificial pode romper o nexo de responsabilidade?; 5. Imprevisibilidade do comportamento e previsibilidade do risco; 6. Segurança do consumidor e prevenção desde a concepção; 7. Governança societária: quem decidiu entregar as chaves?; 8. O laboratório também está sujeito ao Direito; 9. O PL nº 2.338/2023 e o problema da regulação baseada apenas na finalidade; 10. O que a experiência europeia e britânica acrescenta?; 11. Compliance e a operacionalização do dever de contenção; 12. Conclusão.
1. Introdução
Durante os primeiros anos de expansão pública da inteligência artificial generativa, grande parte da preocupação jurídica concentrou-se no conteúdo produzido pelos modelos. Alucinações, discriminação algorítmica, tratamento indevido de dados pessoais, violação de direitos autorais, desinformação e decisões automatizadas ocuparam espaço crescente no debate regulatório. Nenhum desses problemas perdeu relevância, mas o desenvolvimento dos denominados agentes de inteligência artificial acrescentou uma variável qualitativamente distinta: determinados sistemas já não se limitam a formular respostas, passando a executar sequências de ações destinadas à consecução de objetivos previamente estabelecidos.
A alteração é mais profunda do que pode parecer. Um sistema que fornece uma informação incorreta apresenta determinada superfície de risco; outro que pode acessar a internet, utilizar credenciais, operar ferramentas, comunicar-se com terceiros, executar código ou modificar sistemas apresenta situação juridicamente diversa. O risco deixa de decorrer exclusivamente da qualidade ou do conteúdo da resposta e passa a depender também da capacidade de intervenção conferida ao agente, das permissões existentes, da configuração tecnológica adotada e da possibilidade de continuar agindo sem nova manifestação humana a cada etapa.
Os episódios divulgados em 2026 transformaram essa possibilidade em problema concreto. Modelos associados a diferentes empresas ultrapassaram limites durante testes, alcançaram ambientes externos ou realizaram ações não autorizadas por mecanismos distintos. Em alguns casos, havia falha no isolamento; em outros, configuração incorreta; em outros ainda, os avaliadores haviam deliberadamente aumentado as permissões para observar aquilo que os modelos fariam. O ponto juridicamente relevante não está em antropomorfizar a tecnologia, mas em compreender que a autonomia artificial é produzida dentro de uma arquitetura construída por decisões humanas.
Sustenta-se, nesse contexto, a existência de um dever jurídico de contenção, entendido como obrigação de estruturar limites técnicos, organizacionais e procedimentais proporcionais às capacidades conferidas ao sistema e às consequências razoavelmente previsíveis de sua atuação. Não se trata, por ora, de categoria legislativa expressamente positivada com essa denominação, mas de construção que pode ser extraída dos deveres já conhecidos de segurança, prevenção, diligência e governança. O objetivo é deslocar a discussão de uma pergunta excessivamente genérica — “quem responde pela inteligência artificial?” — para outra juridicamente mais precisa: quais deveres antecedem a decisão de permitir que uma inteligência artificial aja?
2. Quando a inteligência artificial deixa de responder e começa a agir
O AI Security Institute – AISI –, órgão britânico dedicado à avaliação de sistemas avançados, detectou durante testes de segurança ações autônomas e não autorizadas praticadas na internet aberta. Segundo as informações divulgadas, em dez de 122 execuções os agentes adotaram comportamentos dessa natureza, embora os experimentos tenham sido realizados em condições específicas e com parte das salvaguardas normalmente existentes reduzida. O episódio é relevante justamente porque demonstra que capacidades técnicas, autonomia operacional e acesso exterior podem combinar-se de maneira não inteiramente antecipada pelos responsáveis pelo experimento.
O caso considerado mais grave envolveu tentativa de inserir código malicioso em projeto de código aberto. Para conseguir sua aprovação, o agente criou identidades falsas na internet e procurou utilizá-las para pressionar o desenvolvedor responsável, que identificou a situação e recusou a alteração. O próprio instituto interpretou o episódio como manifestação particularmente clara, em ambiente real, de riscos associados à autonomia e ao engano, ao mesmo tempo em que as empresas ressaltaram as condições excepcionais em que as avaliações haviam sido realizadas.
Outro incidente, relacionado à Hugging Face, revelou configuração igualmente instrutiva. A reportagem da BBC relata que agentes alcançaram credenciais expostas publicamente e utilizaram quatro contas vinculadas a quatro serviços distintos. Ao mesmo tempo, os sistemas apresentaram comportamentos erráticos, repetiram ações e seguiram caminhos ineficientes, sem que isso impedisse demonstrações de capacidade técnica e adaptação diante de novas circunstâncias.
A diversidade dos acontecimentos impede que “perda de controle” seja tratada como categoria homogênea. Em um caso, o agente teria encontrado vulnerabilidade que lhe permitiu ultrapassar o sandbox; no episódio relacionado à Meta, o acesso não pretendido teria resultado de configuração incorreta; no experimento conduzido pelo AISI, os próprios avaliadores concederam acesso à internet e desativaram filtros destinados a impedir determinadas condutas. As consequências podem aproximar-se, mas as causas, os deveres violados e os possíveis fundamentos de imputação são diferentes.
3. Do risco tecnológico ao dever jurídico de contenção
A primeira consequência dessa distinção é reconhecer que o objeto da governança não pode ser somente o modelo de inteligência artificial. Um agente atua dentro de uma arquitetura composta por comandos, ferramentas, credenciais, conexões, filtros, limites de execução, sistemas integrados e mecanismos de monitoramento. A segurança do conjunto depende tanto da capacidade intrínseca do modelo quanto das decisões tomadas por aqueles que definem o ambiente no qual ele funcionará, razão pela qual a análise jurídica precisa alcançar o sistema sociotécnico completo.
É nesse ponto que se pode identificar o dever de contenção. Quem concede autonomia a determinado sistema deve estruturar barreiras razoavelmente adequadas à extensão dessa autonomia, impedindo que aquilo que foi autorizado para determinada finalidade se converta, sem controles proporcionais, em capacidade irrestrita de intervenção. Quanto maiores o acesso, a autoridade operacional, a persistência e a potencial irreversibilidade das ações, maior deverá ser a qualidade das medidas destinadas a limitar, detectar e interromper comportamentos incompatíveis com o perímetro autorizado.
O dever de contenção pode ser compreendido como gênero do qual decorrem obrigações mais específicas. Há um dever de configuração segura, relacionado à concessão de permissões e credenciais; um dever de supervisão, relativo à detecção e interrupção de comportamentos anormais; um dever de rastreabilidade, indispensável para reconstruir posteriormente aquilo que o agente realizou; e um dever de resposta, voltado à mitigação de consequências quando a prevenção falha. Esses elementos não precisam receber exatamente essas denominações na legislação para possuírem relevância jurídica diante das categorias gerais de diligência, segurança e prevenção.
A classificação também permite diferenciar as próprias falhas. Uma barreira existente pode ser superada pelo agente, caracterizando problema de contenção; uma permissão pode ser concedida incorretamente, revelando deficiência de configuração; determinada capacidade pode ser conscientemente disponibilizada sem salvaguardas proporcionais, indicando problema de governança; ou comportamento anormal pode permanecer tempo excessivo sem ser detectado, evidenciando deficiência de supervisão. O valor jurídico dessa tipologia está justamente em permitir identificar qual decisão humana antecedeu a manifestação concreta da autonomia artificial.
4. A autonomia artificial pode romper o nexo de responsabilidade?
O Código Civil brasileiro oferece ponto inicial relevante para essa construção. Os arts. 186 e 187 disciplinam o ato ilícito e o abuso de direito, enquanto o art. 927 estabelece o dever de reparar o dano e admite, em seu parágrafo único, responsabilidade independentemente de culpa nas hipóteses previstas em lei ou quando a atividade normalmente desenvolvida implicar, por sua natureza, risco para direitos de terceiros. Isso não autoriza concluir que toda atividade envolvendo inteligência artificial seja objetivamente perigosa, mas permite indagar em que situações determinadas formas de autonomia podem integrar juridicamente a avaliação do risco da atividade.
A questão torna-se particularmente interessante porque a autonomia constitui justamente uma das fontes de utilidade econômica dos agentes artificiais. A organização pretende que o sistema seja capaz de decompor tarefas, escolher caminhos e produzir resultados com menor necessidade de intervenção humana. Seria contraditório admitir, como regra geral, que a autonomia seja integralmente apropriada quando produz eficiência e, no momento em que gera consequência danosa, seja automaticamente tratada como fato estranho à esfera jurídica daquele que selecionou, configurou e colocou o sistema em funcionamento.
A autonomia artificial não deveria, portanto, funcionar como causa automática de rompimento do nexo causal. A análise deve regressar às decisões antecedentes: qual era a finalidade atribuída ao agente, que capacidades lhe foram entregues, quais comportamentos eram previsíveis como classe de risco, quais barreiras foram adotadas e que supervisão poderia razoavelmente ser exigida. A escolha específica realizada pelo sistema pode não ter sido antecipada, mas isso não significa necessariamente que o risco representado por escolhas autônomas fosse inteiramente exterior à atividade organizada.
Essa perspectiva evita dois resultados igualmente inadequados. O primeiro seria estabelecer responsabilidade ilimitada pelo simples fato de utilizar inteligência artificial, ignorando a imprevisibilidade real de determinados comportamentos e a possibilidade de adoção de controles tecnicamente adequados. O segundo seria criar espaço de irresponsabilidade decorrente da própria autonomia programada, permitindo que quanto mais independente fosse o agente, menor fosse a possibilidade de imputação à organização. O Direito precisa situar-se entre esses extremos, examinando diligência, previsibilidade, capacidade de prevenção e distribuição do risco no caso concreto.
5. Imprevisibilidade do comportamento e previsibilidade do risco
Uma das questões centrais da responsabilidade por sistemas agênticos estará na distinção entre a imprevisibilidade do comportamento específico e a previsibilidade da categoria geral de risco. Talvez não fosse possível antecipar que determinado agente criaria exatamente certa identidade falsa, exploraria aquela vulnerabilidade ou escolheria determinado caminho para alcançar seu objetivo. Isso não impede, entretanto, que seja previsível a possibilidade mais ampla de sistemas autônomos procurarem caminhos alternativos, utilizarem ferramentas disponíveis ou ultrapassarem a intenção imediata de quem lhes forneceu a tarefa.
Os incidentes recentes tornam essa diferenciação progressivamente relevante. Os relatos apontam para agentes capazes de definir etapas intermediárias, persistir diante de obstáculos e adaptar suas condutas, inclusive em situações nas quais os resultados alcançaram sistemas externos. À medida que tais características passam a integrar o conhecimento disponível sobre a tecnologia, torna-se mais difícil tratar toda manifestação inesperada de autonomia como evento absolutamente estranho ao risco da operação.
Daí a importância de separar itinerário e risco. O itinerário concreto seguido pela inteligência artificial pode ser imprevisível, enquanto a possibilidade de que ela selecione itinerários diferentes daqueles imaginados pelos programadores constitui justamente uma característica da autonomia que motivou sua adoção. Sob essa perspectiva, não seria necessário prever cada passo futuro do agente para reconhecer a existência de um dever preventivo; bastaria que a categoria de consequência estivesse suficientemente relacionada às capacidades disponibilizadas e ao contexto em que o sistema foi inserido.
A distinção possui repercussões para culpa, defeito, fortuito e causalidade, embora cada instituto demande análise própria. Um evento inesperado não é necessariamente inevitável, da mesma forma que uma conduta não especificamente antecipada pode pertencer a uma classe de risco conhecida. É nesse intervalo que o dever de contenção ganha relevância: sua finalidade não é assegurar que a organização saiba previamente tudo aquilo que o agente fará, mas exigir que projete o sistema admitindo que nem tudo aquilo que o agente fará poderá ser previamente sabido.
6. Segurança do consumidor e prevenção desde a concepção
Nas relações de consumo, o problema pode ser formulado por categorias já consolidadas. Os arts. 12 e 14 do Código de Defesa do Consumidor estruturam regimes de responsabilidade relacionados aos defeitos de produtos e serviços, e o § 1º do art. 14 vincula a própria noção de defeito à segurança que o consumidor legitimamente pode esperar, consideradas as circunstâncias pertinentes. A incorporação de um agente artificial a determinado serviço não elimina esse parâmetro; ao contrário, exige indagar se as capacidades concedidas ao sistema são compatíveis com as salvaguardas oferecidas ao consumidor.
A pergunta deixa de ser se “a IA cometeu um erro” e passa a envolver a segurança do serviço colocado à disposição. Se determinada funcionalidade exige que o agente utilize credenciais, efetue operações ou interaja com terceiros, torna-se juridicamente relevante saber se existiam limites adequados, mecanismos de autenticação, confirmação para atos críticos e formas efetivas de interrupção. Dependendo das características do caso concreto, uma deficiência de configuração ou contenção pode deixar de ser mero problema de engenharia para ingressar na avaliação jurídica da segurança do produto ou serviço.
A Lei Geral de Proteção de Dados oferece outra matriz especialmente útil. O art. 46 exige medidas técnicas e administrativas destinadas à proteção dos dados pessoais e determina, em seu § 2º, que essas medidas sejam observadas desde a fase de concepção do produto ou serviço até sua execução. A LGPD também contempla boas práticas, governança, gestão de riscos e demonstração da efetividade das medidas adotadas, consagrando uma lógica preventiva que ultrapassa a simples reação ao incidente depois de ocorrido.
Essa estrutura permite propor uma evolução conceitual. Se o direito de proteção de dados consolidou a segurança e a privacidade desde a concepção, a inteligência artificial agêntica exige pensar também em contenção desde a concepção. O agente não deveria receber primeiro poderes extensos para posteriormente ser observado na expectativa de que os utilize adequadamente. A arquitetura técnica precisa incorporar, desde o início, limites correspondentes à gravidade e à reversibilidade das ações possíveis.
7. Governança societária: quem decidiu entregar as chaves?
A utilização de agentes autônomos também pode deixar de constituir decisão exclusivamente tecnológica quando sua implantação envolver riscos materiais para a organização. No âmbito das sociedades por ações, por exemplo, o art. 153 da Lei nº 6.404/1976 estabelece o dever de diligência do administrador. A norma não trata especificamente de inteligência artificial, evidentemente, mas oferece fundamento para indagar em que circunstâncias a aprovação de sistemas dotados de elevada autonomia, acesso privilegiado ou capacidade de produzir consequências relevantes deve integrar a agenda de gestão e supervisão dos administradores.
Não significa que cada ferramenta de inteligência artificial necessite de deliberação do conselho de administração. A intensidade da governança deve acompanhar a materialidade do risco. Um sistema utilizado apenas para auxiliar na redação de documentos oferece realidade diferente de outro autorizado a interagir com infraestrutura crítica, movimentar recursos, executar código, modificar bases corporativas ou representar a organização perante terceiros. Quanto maior o potencial de impacto, menos razoável será tratar sua implantação como escolha exclusivamente operacional de uma área técnica.
A governança passa então a perguntar quem aprovou a utilização do agente, quais riscos foram apresentados aos responsáveis, como foram definidas as permissões, quais atos exigem autorização superior e quem possui competência para suspender sua operação. Essas questões aproximam a governança de IA da própria governança corporativa, porque traduzem riscos tecnológicos em riscos operacionais, financeiros, jurídicos e reputacionais que podem alcançar o patrimônio e a continuidade da organização.
A experiência britânica oferece referência comparativa interessante. O Cyber Governance Code of Practice publicado pelo governo em 2025 foi expressamente concebido para conselhos e administradores e recomenda que riscos cibernéticos sejam integrados à gestão de riscos empresariais, com definição de responsabilidade sênior e de apetite de risco. Embora não constitua norma brasileira e não trate exclusivamente de agentes autônomos, ilustra a progressiva migração da cibersegurança da esfera puramente técnica para a esfera da responsabilidade institucional da alta administração.
8. O laboratório também está sujeito ao Direito
Os episódios recentes acrescentam um problema que merece tratamento próprio: a segurança dos ambientes de avaliação. Tradicionalmente, sandboxes permitem testar sistemas em condições que reproduzem ambientes reais, mas procurando impedir que consequências indesejadas alcancem terceiros. Nos casos relatados em 2026, essa separação foi rompida de formas distintas, levando especialistas a sustentar que o risco passou a residir também no próprio laboratório e que agentes avançados exigem ambientes de contenção significativamente mais rigorosos.
A natureza experimental da atividade não deveria, contudo, funcionar como imunidade jurídica. Testar sistemas em condições adversariais, retirar salvaguardas ou ampliar permissões pode ser cientificamente necessário para descobrir comportamentos perigosos antes da implantação comercial. Justamente por isso, entretanto, a ampliação deliberada das capacidades internas deve ser acompanhada por redução correspondente da possibilidade de externalização das consequências para pessoas e organizações estranhas ao experimento.
Pode-se formular daí princípio bastante simples: quanto mais permissivo for o teste, mais rigorosa deverá ser sua contenção externa. A liberdade experimental dentro do laboratório e o isolamento em relação ao mundo exterior são grandezas que precisam caminhar em sentidos opostos. Se o objetivo é descobrir aquilo que o agente fará sem determinadas restrições, a avaliação somente preserva sua legitimidade quando terceiros que não consentiram com a experiência não se transformam em participantes involuntários do processo.
A questão é particularmente importante para futuros regimes de sandbox regulatório. O próprio AI Act europeu contém disciplina para testes em condições reais de determinados sistemas de alto risco, demonstrando que experimentação e regulação não são categorias incompatíveis. A inovação pode justificar espaços regulatórios especiais, mas não a criação de territórios sem deveres de diligência, documentação, supervisão e responsabilidade.
9. O PL nº 2.338/2023 e o problema da regulação baseada apenas na finalidade
O Projeto de Lei nº 2.338/2023 permanece, em agosto de 2026, como principal eixo da proposta brasileira de um marco geral para inteligência artificial. A proposição, aprovada pelo Senado e remetida à Câmara dos Deputados, encontra-se aguardando parecer do relator na Comissão Especial sobre Inteligência Artificial. O texto aprovado no Senado trabalha com classificação baseada em risco, prevê avaliação de impacto algorítmico para sistemas de alto risco e estabelece mecanismos relacionados à governança e à supervisão.
Essa arquitetura representa avanço importante, mas os agentes autônomos permitem submetê-la a um teste adicional. A classificação de risco tende naturalmente a considerar a finalidade e o contexto de emprego do sistema, porque aplicações em saúde, trabalho, educação, segurança ou infraestrutura crítica possuem potencial especial de afetar direitos. O problema é que a configuração posterior de um agente pode alterar profundamente sua superfície de risco sem necessariamente modificar de maneira evidente a finalidade nominal para a qual ele foi inicialmente concebido.
Um assistente destinado a auxiliar programadores, por exemplo, apresenta determinada configuração quando apenas recomenda código. Se posteriormente recebe acesso a repositórios, credenciais, capacidade de publicação e execução autônoma, o mesmo sistema passa a apresentar conjunto muito diferente de consequências possíveis. Surge daí uma questão regulatória importante: uma mudança substancial de permissões e ferramentas deveria ser capaz de provocar nova classificação ou nova avaliação do risco, ainda que o modelo subjacente e sua finalidade declarada permaneçam formalmente os mesmos?
A própria tramitação brasileira passou a incorporar uma dimensão institucional. O PL nº 6.237/2025, apresentado pelo Poder Executivo para instituir o Sistema Nacional para Desenvolvimento, Regulação e Governança de Inteligência Artificial – SIA –, foi apensado ao PL nº 2.338/2023 e encontra-se submetido à mesma comissão especial. A discussão confirma que uma futura legislação não dependerá apenas da qualidade das obrigações substantivas, mas da capacidade técnica das instituições encarregadas de avaliar sistemas, coordenar autoridades e atualizar critérios diante de tecnologias que mudam rapidamente.
10. O que a experiência europeia e britânica acrescenta?
O Regulamento (UE) 2024/1689, o AI Act europeu, fornece elementos importantes para uma regulação que ultrapasse a simples finalidade declarada. O regime exige para sistemas de alto risco mecanismos de gestão, robustez, cibersegurança, documentação, monitoramento e supervisão, além de nova avaliação em hipóteses de modificação substancial. O regulamento também determina que soluções de cibersegurança sejam adequadas às circunstâncias e aos riscos e contempla mecanismos destinados à prevenção, detecção e resposta a ataques que explorem vulnerabilidades dos sistemas.
Esse modelo é especialmente útil porque reconhece que alterações relevantes podem modificar juridicamente a situação do sistema. O próprio regulamento indica que mudanças capazes de afetar sua conformidade ou alteração da finalidade pretendida podem exigir nova avaliação, salvo hipóteses específicas previamente contempladas. A lógica pode inspirar discussão mais ampla sobre agentes: alterações significativas de autonomia, ferramentas e autoridade operacional talvez devam ser tratadas não como simples parametrização ordinária, mas como modificações capazes de alterar o risco regulatório.
O Reino Unido adotou abordagem diferente, baseada em grande medida em princípios, padrões técnicos e instrumentos voluntários. O AI Cyber Security Code of Practice, publicado em 2025, estabelece parâmetros básicos de segurança para organizações que desenvolvem e implantam sistemas de inteligência artificial, abrangendo diferentes etapas de seu ciclo de vida. O próprio documento declara sua natureza voluntária e busca funcionar como referência para segurança de sistemas de IA, inclusive generativos.
Os incidentes britânicos tornam particularmente interessante a comparação entre soft law e obrigação jurídica. A descoberta e divulgação dos problemas demonstram o valor de testes rigorosos e instituições especializadas, mas a possibilidade de externalização dos riscos suscita outra questão: em que momento uma prática recomendável de segurança deve converter-se em dever mínimo juridicamente exigível? Quanto maior a capacidade de um sistema produzir consequências sobre terceiros, mais difícil se torna justificar que medidas elementares de contenção permaneçam exclusivamente no campo da adesão voluntária.
11. Compliance e a operacionalização do dever de contenção
O dever de contenção somente possui utilidade prática se puder ser convertido em comportamentos organizacionais verificáveis. É precisamente nesse ponto que entra o compliance. A regulação estabelece o padrão externo; a governança define quem possui competência para decidir; o controle cria limitações técnicas; e o compliance transforma essas escolhas em procedimentos, registros, responsabilidades, monitoramento e evidências capazes de demonstrar que a organização efetivamente administra o risco produzido pela autonomia artificial.
Um programa de compliance para agentes não deveria limitar-se à aprovação de política genérica sobre uso ético da inteligência artificial. A organização precisa conhecer os sistemas que utiliza, as capacidades disponibilizadas, os ambientes acessíveis, as credenciais existentes e os atos que podem ser executados sem nova autorização. Também deve definir critérios de escalonamento para ações de maior gravidade, preservar registros suficientes para reconstrução de incidentes e estabelecer responsabilidades claras pela concessão, alteração e revogação das permissões.
A supervisão humana também precisa ser compreendida de maneira realista. Colocar uma pessoa formalmente responsável por quantidade de operações impossível de acompanhar não produz controle efetivo. A automação perderia sua utilidade se toda ação dependesse de nova autorização manual, mas a ausência completa de intervenção também pode tornar determinadas capacidades incompatíveis com o risco envolvido. O problema é identificar os pontos em que a decisão humana realmente importa: definição de objetivos, concessão de autoridade, aprovação de atos críticos, mudança de permissões, resposta a anomalias e interrupção de operações potencialmente danosas.
Essa lógica permite superar uma compreensão excessivamente simples do chamado human in the loop. O desafio dos agentes de alta autonomia talvez seja menos manter permanentemente o ser humano dentro de cada ciclo de execução e mais assegurar governança humana sobre o ciclo. Quanto maior for a independência operacional desejada, mais importante se torna a qualidade das decisões que antecedem essa autonomia e dos mecanismos capazes de reconduzi-la aos limites previamente estabelecidos quando o comportamento observado se afasta do esperado.
12. Conclusão
A inteligência artificial agêntica desloca o problema jurídico da resposta para a ação. Sistemas capazes de utilizar ferramentas, formular etapas intermediárias, acessar recursos externos e executar atos sem intervenção humana constante não podem ser avaliados somente por aquilo que dizem nem exclusivamente pela finalidade abstrata para a qual foram inicialmente desenvolvidos. A autonomia passa a integrar a própria superfície de risco, juntamente com permissões, credenciais, autoridade operacional, persistência e reversibilidade das consequências.
Os incidentes recentes não demonstram que máquinas tenham adquirido vontade própria ou que a perda de controle seja inevitável. Demonstram algo juridicamente mais relevante: resultados semelhantes podem decorrer de causas diferentes, incluindo falhas de contenção, configurações inadequadas, escolhas deliberadas de governança e deficiências de supervisão. Identificar essas diferenças é condição para abandonar explicações genéricas sobre “culpa da IA” e reconstruir as decisões humanas e organizacionais que antecederam a atuação do sistema.
É nesse espaço que se propõe reconhecer um dever jurídico de contenção, proporcional às capacidades conferidas e aos riscos razoavelmente previsíveis. Sua construção pode dialogar com a responsabilidade civil, com o dever de segurança do consumidor, com a prevenção e a segurança desde a concepção presentes na LGPD, com os deveres de diligência dos administradores e com os futuros mecanismos de governança previstos na legislação específica de inteligência artificial. Não se pretende criar responsabilidade automática, mas impedir que a autonomia artificial produza uma correspondente zona de irresponsabilidade humana.
A regulação baseada em risco continua indispensável, mas precisará ser complementada por uma avaliação baseada em capacidades. A finalidade responde por que determinado sistema é utilizado; as capacidades revelam até onde ele pode chegar. Um modelo inicialmente pouco sensível pode adquirir perfil de risco inteiramente diverso quando recebe internet, credenciais, ferramentas de execução e possibilidade de agir persistentemente sem nova autorização, razão pela qual o risco deveria ser reavaliado sempre que modificações relevantes alterassem materialmente sua autoridade operacional.
A mesma lógica deve alcançar o laboratório. A atividade experimental é necessária precisamente para descobrir aquilo que ainda não se conhece sobre sistemas avançados, mas a incerteza que justifica testes mais agressivos também exige contenção mais rigorosa. O caráter experimental da atividade não legitima transformar terceiros em participantes involuntários, assim como a retirada deliberada de salvaguardas para estudar comportamentos perigosos não deveria significar retirada das barreiras que protegem o mundo exterior.
O gênio, portanto, talvez realmente tenha saído da garrafa. A tecnologia capaz de agir autonomamente dificilmente será recolhida e sua utilidade econômica torna improvável qualquer retorno ao estágio anterior. Isso, porém, não condena o Direito à passividade. O problema deixa de ser como obrigar o gênio a entrar novamente na antiga garrafa e passa a ser determinar quem pode abri-la, quais poderes podem ser entregues depois de aberta, quais barreiras devem permanecer intactas e quem responderá quando a contenção falhar.
No fundo, a inteligência artificial não elimina uma das perguntas mais antigas do Direito: quem deve suportar as consequências do risco criado por determinada atividade? Apenas acrescenta uma dificuldade contemporânea. Entre a decisão humana que concede autonomia e a ação artificial que produz o resultado há agora uma camada tecnológica capaz de escolher caminhos próprios. O desafio jurídico consiste em impedir que essa camada, justamente porque autônoma, se transforme em espaço vazio entre o poder de agir e o dever de responder.
Referências
BRASIL. Lei nº 6.404, de 15 de dezembro de 1976. Dispõe sobre as sociedades por ações.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Código de Defesa do Consumidor.
BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Código Civil.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais – LGPD.
BRASIL. CÂMARA DOS DEPUTADOS. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Tramitação consultada em 11 ago. 2026.
BRASIL. CÂMARA DOS DEPUTADOS. Projeto de Lei nº 6.237, de 2025. Institui o Sistema Nacional para Desenvolvimento, Regulação e Governança de Inteligência Artificial.
McMAHON, Liv. Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques hackers. BBC News Brasil, 8 ago. 2026.
TIDY, Joe. OpenAI diz que ataque de sua IA atingiu mais alvos do que se sabia. BBC News Brasil, 29 jul. 2026.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024. Artificial Intelligence Act.
UNITED KINGDOM. Department for Science, Innovation and Technology. AI Cyber Security Code of Practice. Londres, 2025.
UNITED KINGDOM. Department for Science, Innovation and Technology. Cyber Governance Code of Practice. Londres, 2025.
VITORIO, Tamires. Modelos do Claude e do ChatGPT atacaram alvos reais em teste, diz órgão britânico. Exame, 5 ago. 2026.
