VICTOR HABIB LANTYER1
O "EU AI Act" (Regulamento de Inteligência Artificial da União Europeia) é uma legislação proposta pela Comissão Europeia com o objetivo de estabelecer um quadro legal abrangente para a regulamentação do uso e desenvolvimento da inteligência artificial (IA) na União Europeia. Este ato é considerado uma das primeiras e mais significativas tentativas de regulamentação legal de IA em uma grande região econômica. O AI Act se alinha com a definição de sistema de IA da OCDE.
A União Europeia está buscando regular a inteligência artificial (IA) como parte de sua estratégia digital, com o objetivo de criar condições melhores para o desenvolvimento e uso desta tecnologia inovadora. Em abril de 2021, a Comissão Europeia propôs o primeiro quadro regulatório da UE para a IA. Este quadro propõe que os sistemas de IA que podem ser usados em diferentes aplicações sejam analisados e classificados de acordo com o risco que apresentam para os usuários. Dependendo do nível de risco, haverá mais ou menos regulação. Uma vez aprovadas, estas serão as primeiras regras do mundo sobre IA.
O Parlamento da União Europeia alcançou um acordo provisório no dia 08 de dezembro de 2023 sobre regras para regular o uso de IA. Esse acordo coloca a UE no caminho para se tornar a primeira grande potência a ter leis específicas para IA. As negociações foram intensas, durando quase 15 horas, seguindo um debate de quase 24 horas.
O acordo histórico fechado pela Europa para regulamentar a inteligência artificial é um passo significativo e pioneiro na esfera global. Vou explicar didaticamente os principais pontos deste acordo:
Transparência e Conformidade para Modelos de IA: O acordo exige que modelos básicos de IA, como o ChatGPT, cumpram obrigações de transparência antes de serem disponibilizados no mercado. Isso inclui a elaboração de documentação técnica, cumprimento das leis de direitos autorais da UE e divulgação de informações sobre o conteúdo usado nos treinamentos.
Avaliação e Gestão de Riscos: Modelos de IA de alto impacto com risco sistêmico deverão passar por avaliações de versões, análise e mitigação de riscos sistêmicos, testes de adversidades, reportar incidentes graves à Comissão Europeia, garantir segurança cibernética e eficiência energética.
Uso de Vigilância Biométrica por Governos: O uso de vigilância biométrica em tempo real em espaços públicos será restrito a situações específicas, como a busca de vítimas de determinados crimes, prevenção de ameaças terroristas e busca de suspeitos de crimes graves.
Sistemas de Categorização Biométrica: Proíbe sistemas que utilizam características sensíveis, como crenças políticas, religiosas, filosóficas, orientação sexual e raça.
Scraping Indiscriminado de Imagens Faciais: Proíbe a coleta não direcionada de imagens faciais da internet ou de câmeras de vigilância para criar bancos de dados de reconhecimento facial.
Reconhecimento de Emoções: Proíbe o uso de reconhecimento de emoções no local de trabalho e em instituições educacionais.
Pontuação Social: Proíbe sistemas de pontuação social baseados no comportamento social ou características pessoais.
Manipulação do Comportamento Humano: Proíbe sistemas de IA que manipulam o comportamento humano para contornar a livre vontade.
Proibições e Direitos dos Consumidores: O acordo proíbe práticas como manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais e criação de rankings de pontuação social. Também garante aos consumidores o direito de fazer reclamações e receber explicações.
Penalidades por Violações: As multas para violações das regras podem variar entre 7,5 milhões de euros e 35 milhões de euros.
O "EU AI Act" (Ato de Inteligência Artificial da União Europeia) tem implicações significativas tanto para a indústria de IA quanto para os usuários dessas tecnologias. No momento, o EU AI Act não tem efeito imediato para os usuários de ferramentas de IA generativas. A lei entrará em vigor e começará a ter efeito não antes de 2026.
A menos que a ferramenta específica de IA generativa caia em uma das categorias de risco reguladas, é improvável que haja um impacto direto para os usuários. Ferramentas usadas para fins criativos, como Midjourney, StableDiffusion, Runway, Pika, etc., provavelmente não se enquadram em nenhuma das categorias de risco relevantes. Sistemas de Identificação Biométrica para Aplicação da Lei: Permite o uso com salvaguardas estritas.
SISTEMAS DE ALTO RISCO
No contexto do "EU AI Act" (Regulamento Europeu sobre Inteligência Artificial), os sistemas de alto risco referem-se a aplicações de inteligência artificial cujo uso implica um potencial significativo para causar danos ou impactos adversos nos direitos fundamentais dos indivíduos ou na sociedade como um todo. Estes sistemas são sujeitos a regulamentações e supervisões mais rigorosas devido ao seu possível impacto elevado. Vamos entender melhor o que constitui um sistema de alto risco segundo o EU AI Act:
Podemos citar como características dos sistemas de alto risco:
Impacto nos Direitos Fundamentais: Sistemas que podem afetar significativamente a privacidade, a segurança pessoal, os direitos à não discriminação, ou que possam impactar de forma significativa outros direitos fundamentais.
Uso em Setores Críticos: Sistemas utilizados em setores como saúde, transporte, energia e partes essenciais da administração pública, onde os erros ou mau funcionamento podem ter consequências sérias.
Aplicações Sensíveis: Incluem sistemas usados para avaliação de crédito, recrutamento, acesso a serviços educacionais, ou serviços essenciais como sistemas de distribuição de energia e água.
Sistemas de Vigilância e Identificação: Incluem tecnologias de reconhecimento biométrico, especialmente quando usadas em espaços públicos ou para fins de vigilância em massa.
As principais obrigações desses sistemas, impostos pela nova legislação europeia são:
Avaliação de Impacto nos Direitos Fundamentais: Obrigatória para sistemas de alto risco, incluindo setores como seguros e bancos.
Classificação de Risco: Sistemas de IA que influenciam eleições são classificados como de alto risco.
Direito de Reclamação e Explicação: Cidadãos podem apresentar reclamações e receber explicações sobre decisões que afetam seus direitos.
Avaliação e Conformidade Rigorosa: Antes de serem colocados no mercado, estes sistemas devem passar por uma avaliação de conformidade rigorosa para garantir que atendem aos requisitos do regulamento.
Documentação e Transparência: Devem ter documentação detalhada sobre o funcionamento, metodologia, fontes de dados utilizadas, e medidas tomadas para garantir a conformidade com os padrões éticos e legais.
Mitigação de Riscos: Implementação de medidas robustas para mitigar riscos, incluindo viés e discriminação, além de garantir a segurança e a privacidade dos dados.
Supervisão e Fiscalização: Estarão sujeitos a uma maior supervisão por parte das autoridades reguladoras.
Podemos citar como exemplos de sistemas de alto risco:
Sistemas de IA em Dispositivos Médicos: Sistemas que ajudam no diagnóstico ou tratamento de doenças.
Sistemas de Monitoramento de Tráfego: Utilizados para a gestão e controle do tráfego urbano e rodoviário.
Sistemas de Avaliação de Risco de Crédito: Utilizados por bancos e outras instituições financeiras para avaliar a solvabilidade dos clientes.
Sistemas de Recrutamento: Ferramentas de IA utilizadas para selecionar candidatos para empregos.
O principal objetivo dessa classificação é assegurar que os sistemas de IA com maior potencial de impacto negativo sejam desenvolvidos e utilizados de forma responsável, garantindo a segurança, a privacidade, a não discriminação e o respeito pelos direitos humanos. A abordagem baseada em risco visa proporcionar um equilíbrio entre a promoção da inovação tecnológica e a proteção dos indivíduos e da sociedade.
O AI Act é um passo importante para garantir que a IA seja usada de maneira ética e responsável, com um foco específico na proteção dos direitos humanos e na promoção da inovação. Esta regulação abre caminho para um desenvolvimento mais seguro e confiável da IA, beneficiando startups e pesquisadores na UE e estabelecendo um modelo para o resto do mundo.
No entanto, a evolução da legislação e a implementação de requisitos específicos, especialmente em relação aos direitos autorais e transparência, podem ter implicações futuras que os usuários e operadores de IA deverão acompanhar e se adaptar.
DIREITOS AUTORAIS E FERRAMENTAS GENERATIVAS DE IA NA REGULAMENTAÇÃO EUROPEIA
A União Europeia está adotando uma abordagem regulatória significativa para as ferramentas de IA generativa, particularmente em relação aos direitos autorais, com o AI Act (Regulamento Europeu sobre Inteligência Artificial). Este regulamento propõe uma estrutura que exige maior transparência das empresas que implementam ferramentas de IA generativas, como o ChatGPT2. As empresas serão obrigadas a divulgar qualquer material protegido por direitos autorais usado no desenvolvimento de seus sistemas3.
Um aspecto crucial desse novo regulamento é a sua abordagem baseada no risco. Ele classifica as ferramentas de IA de acordo com o nível de risco percebido, variando de mínimo a inaceitável, com requisitos regulatórios correspondentes4. Por exemplo, usos de IA de muito baixo risco com pouco impacto sobre os indivíduos terão regulação mínima, enquanto aqueles em áreas de alto risco, como vigilância biométrica ou tomada de decisões sobre questões de saúde ou legais, estarão sob intenso escrutínio5. Embora as ferramentas de alto risco não sejam proibidas, elas exigirão altos níveis de transparência sobre como funcionam e são treinadas6.
O aspecto de direitos autorais do AI Act, especificamente relacionado à IA generativa, está alinhado com as Diretrizes de Texto e Dados Mineração (TDM) da Diretiva DSM (Diretiva de Direitos Autorais no Mercado Único Digital)7. Estas diretrizes fornecem exceções obrigatórias relacionadas ao TDM para fins de pesquisa científica e para reproduções e extrações de obras/assuntos legalmente acessados para fins de TDM8. A nova exceção está sujeita à reserva por parte dos detentores de direitos, que pode ser indicada por "meios legíveis por máquina", como metadados e termos e condições de um site ou serviço9 .
Além disso, a legislação da UE sobre IA está sendo adaptada para refletir o novo cenário criado pelo lançamento do ChatGPT e o aumento no uso de ferramentas de IA generativa10. Como parte do acordo final do projeto de lei, os legisladores chegaram a um compromisso de estar em um meio termo entre ignorar os direitos autorais e proibir o uso de conteúdo protegido por direitos autorais no treinamento de modelos de IA11. As novas regulamentações exigem a divulgação de qualquer material protegido por direitos autorais, como imagens ou romances, usado para treinar um modelo de fundação12.
O ato exige que os sistemas de IA de propósito geral (GPAI) adiram a requisitos de transparência. Isso inclui a elaboração de documentação técnica, conformidade com as leis de direitos autorais da UE e disseminação de resumos detalhados sobre o conteúdo usado para treinamento. Operadores de IA deverão fornecer um resumo suficientemente detalhado do material protegido por direitos autorais usado como dados de treinamento. Isso pode abrir caminho para compensar os criadores das obras utilizadas.
O regulamento oferece um mecanismo de opt-out para os detentores de direitos autorais, permitindo que eles excluam suas obras dos conjuntos de treinamento de IA generativa13. Isso é particularmente relevante para os criadores que desejam manter o controle sobre como suas obras são utilizadas14
Essa abordagem regulatória da UE representa um equilíbrio entre proteger os direitos dos cidadãos e fomentar a inovação e o crescimento econômico, posicionando-se como um marco no cenário global da regulamentação de IA. Ainda assim, as implicações específicas desses regulamentos, especialmente em relação aos direitos autorais e transparência, continuarão a evoluir e exigirão adaptações contínuas por parte dos usuários e operadores de IA.
CONSIDERAÇÕES FINAIS
O "EU AI Act" representa um passo inicial e significativo na direção de uma regulamentação abrangente da inteligência artificial (IA) dentro da União Europeia. Enquanto este ato marca um avanço na maneira como a IA é abordada do ponto de vista regulatório, é importante reconhecer que ainda há um longo caminho a percorrer. A legislação atual, embora pioneira, é apenas o começo de um processo contínuo e dinâmico que precisa evoluir junto com a rápida expansão e as mudanças constantes no campo da IA.
O regulamento atual aborda aspectos críticos como transparência, direitos autorais e riscos associados ao uso da IA, estabelecendo uma estrutura para a utilização segura e ética dessas tecnologias. No entanto, dada a natureza complexa e sempre em evolução da IA, o regulamento necessitará de atualizações e adaptações contínuas para acompanhar os avanços tecnológicos, os novos desafios éticos e as implicações sociais emergentes.
Além disso, a regulamentação precisa ser flexível o suficiente para fomentar a inovação e não restringir o potencial criativo e o desenvolvimento tecnológico que a IA pode oferecer. Isso implica um equilíbrio delicado entre regulamentação e liberdade de inovação, garantindo que a Europa permaneça competitiva no cenário tecnológico global, ao mesmo tempo em que protege os interesses e direitos dos cidadãos.
O "EU AI Act" também destaca a importância da colaboração internacional na definição de padrões e normas para a IA. Com a IA se tornando uma força dominante em quase todos os setores, desde saúde até transporte e educação, é vital que exista uma abordagem coordenada e global para a regulamentação, o que ajudará a moldar o futuro da tecnologia de forma responsável e ética.
Portanto, o "EU AI Act" é um marco importante, mas é apenas o início de uma jornada regulatória complexa e necessária. À medida que a IA continua a se integrar profundamente em nossas vidas e a moldar o futuro da tecnologia em todos os setores, a necessidade de uma regulamentação adaptável e evolutiva se tornará cada vez mais crítica. Este ato sinaliza o reconhecimento da UE da importância dessa tarefa e estabelece as bases para futuros desenvolvimentos regulatórios nessa área vital e dinâmica.
REFERÊNCIAS
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.
MUKHERJEE, Supantha; CHEE, Foo Yun; COULTER, Martin. EU proposes new copyright rules for generative AI. Reuters, Estocolmo, 28 abr. 2023. Disponível em: https://www.reuters.com/technology/eu-lawmakers-committee-reaches-deal-artificial-intelligence-act-2023-04-27/ . Acesso em: 10 dez. 2023
QUINTAIS, João Pedro. Generative AI, Copyright and the AI Act. Kluwer Copyright, [s. l.], 9 maio 2023. Disponível em: https://copyrightblog.kluweriplaw.com/2023/05/09/generative-ai-copyright-and-the-ai-act/ . Acesso em: 10 dez. 2023.
Advogado, Professor e Pesquisador em Direito Digital, IA, Propriedade Intelectual e LGPD. Autor do livro “LGPD e Seus Reflexos no Direito do Trabalho” e “Direito Digital e Inovação”. Fundador do Lantyer Educacional (lantyer.com.br). Ganhador do I Prêmio Ericsson de Produção Acadêmica em Propriedade Intelectual.︎
-
MUKHERJEE, Supantha; CHEE, Foo Yun; COULTER, Martin. EU proposes new copyright rules for generative AI. Reuters, Estocolmo, 28 abr. 2023. Disponível em: https://www.reuters.com/technology/eu-lawmakers-committee-reaches-deal-artificial-intelligence-act-2023-04-27/ . Acesso em: 10 dez. 2023. ; MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright . Acesso em: 10 dez. 2023.︎
MUKHERJEE, Supantha; CHEE, Foo Yun; COULTER, Martin. EU proposes new copyright rules for generative AI. Reuters, Estocolmo, 28 abr. 2023. Disponível em: https://www.reuters.com/technology/eu-lawmakers-committee-reaches-deal-artificial-intelligence-act-2023-04-27/ . Acesso em: 10 dez. 2023. ; MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright . Acesso em: 10 dez. 2023.︎
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright . Acesso em: 10 dez. 2023.︎
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
-
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
QUINTAIS, João Pedro. Generative AI, Copyright and the AI Act. Kluwer Copyright, [s. l.], 9 maio 2023. Disponível em: https://copyrightblog.kluweriplaw.com/2023/05/09/generative-ai-copyright-and-the-ai-act/ . Acesso em: 10 dez. 2023.︎
QUINTAIS, João Pedro. Generative AI, Copyright and the AI Act. Kluwer Copyright, [s. l.], 9 maio 2023. Disponível em: https://copyrightblog.kluweriplaw.com/2023/05/09/generative-ai-copyright-and-the-ai-act/ . Acesso em: 10 dez. 2023.︎
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
-
MORRISON, Ryan. EU says generative AI makers must declare copyrighted content. Techmonitor, [s. l.], 28 abr. 2023. Disponível em: https://techmonitor.ai/technology/ai-and-automation/generative-ai-european-union-eu-copyright. Acesso em: 10 dez. 2023.︎
QUINTAIS, João Pedro. Generative AI, Copyright and the AI Act. Kluwer Copyright, [s. l.], 9 maio 2023. Disponível em: https://copyrightblog.kluweriplaw.com/2023/05/09/generative-ai-copyright-and-the-ai-act/ . Acesso em: 10 dez. 2023.︎
QUINTAIS, João Pedro. Generative AI, Copyright and the AI Act. Kluwer Copyright, [s. l.], 9 maio 2023. Disponível em: https://copyrightblog.kluweriplaw.com/2023/05/09/generative-ai-copyright-and-the-ai-act/ . Acesso em: 10 dez. 2023.︎