Resumo: Considerando o grande impacto da inteligência artificial na vida dos indivíduos, este estudo tem como objetivo debater a regulamentação dos sistemas de IA para assegurar direitos humanos. A pesquisa bibliográfica foi utilizada como método, utilizando doutrinas e leis relevantes ao tema discutido. Portanto, conceitua, categoriza e apresenta a utilização da Inteligência Artificial nos tempos atuais. Além disso, esclarece os possíveis efeitos do Projeto de Lei (PL) 2338/2023 (projeto que traz uma proposta de elaboração de um marco regulatório para disciplinar a IA) na salvaguarda dos dados pessoais mais importantes para o indivíduo e na defesa dos direitos humanos universais.
Palavras-chave: Inteligência artificial. Marco regulatório. Prática jurídica.
1. INTRODUÇÃO
A Revolução Industrial provocou mudanças significativas, tanto no âmbito social, econômico quanto no tecnológico, introduzindo na sociedade, notadamente com o advento da Quarta Revolução Industrial, novas normas de consumo e produção de produtos e serviços. Com o progresso, seja nas interações exclusivamente humanas, seja nas interações entre humanos e máquinas e algoritmos, a inteligência artificial (IA) se consolidou como uma realidade, estabelecendo-se como uma nova demanda e tendência também no campo legal.
Um dos maiores obstáculos dos Estados Democráticos de Direito em relação ao acesso à justiça é assegurar a rapidez na prestação da justiça, que é vista como a correta interpretação do direito com vistas à sua efetivação.
Decerto que as ferramentas eletrônicas que surgiram e continuam a surgir com o progresso tecnológico possibilitam uma execução da justiça mais ágil. Neste cenário, os sistemas de IA se sobressaem, afetando a prática legal, mas também levantando questões e questionamentos.
Considerando o grande impacto da IA na vida das pessoas, este estudo tem como objetivo debater a regulamentação dos sistemas de IA para assegurar direitos humanos.
A pesquisa bibliográfica foi utilizada como método, utilizando doutrinas e leis relevantes ao tema discutido.
2. Inteligência Artificial
Desde que foi desenvolvida, a IA tem ultrapassado a criatividade humana em atrair atenção, graças às suas várias formas de simplificar a rotina diária. Desde que começou a ser debatida na década de 1950, ela atravessou ciclos de otimismo e frustração até chegar à era hodierna, onde tem se destacado como a força motriz de inúmeras inovações tecnológicas (Domingos, 2015).
Na atual era digital, a Inteligência Artificial tende a assumir cada vez mais uma posição central na maioria das tarefas realizadas pelo ser humano. Ela promove inovações e implementações que abrangem desde ferramentas de busca online e sistemas de recomendações personalizadas, passando por assistentes virtuais, veículos autônomos e a transformação de várias áreas, da saúde e educação à indústria e finanças, criando novas possibilidades e desafios (Nunes, 2020).
Para funcionar, a IA prescinde do uso de dados para o seu desenvolvimento e aprendizado. Ela é aprimorada em bases de dados e aprende, a partir da experiência a reconhecer padrões e a tomar decisões com base nesses dados. Assim, quanto mais dados for adicionado a um algoritmo de IA para seu treinamento, maior será a sua precisão e eficácia. Isso gerou a potencialização da coleta e do uso de dados e fez surgir também fatores críticos ocasionando a Revolução da Inteligência Artificial (Canuto; Gomes, 2023).
Também é esperado que a IA encontre barreiras significativas. A privacidade e a proteção de dados têm ganhado destaque desde que a IA começou a manipular grandes volumes de dados, frequentemente pessoais. Ademais, a IA suscita questões ligadas ao trabalho e à desigualdade que podem se agravar no futuro, uma vez que a automação ameaça determinados postos de trabalho e pode resultar em uma maior concentração de riquezas.
Destaque-se ainda que a IA pode representar uma significativa ameaça aos direitos humanos, principalmente devido ao emprego de algoritmos com objetivos discriminatórios, conforme demonstrado pelo exemplo do caso do Correctional Offender Management Profiling for Alternative Sanctions (COMPAS), que ocorreu nos Estados Unidos.
O COMPAS é uma ferramenta de suporte as decisões automatizadas, criado pela Equivant, uma empresa americana especializada em programas para o sistema judiciário. O foco desta empresa é a construção de sistemas que visam à avaliação do risco de periculosidade e probabilidade de reincidência de seus sujeitos, além da supervisão dos apenados no sistema prisional e no seu processo de reintegração (Equivant, s/d).
O COMPAS Pretrial, uma entre as diversas ramificações do COMPAS, influenciou direta e indiretamente no caso e no tratamento dado ao suspeito que foi alvo da discriminação algorítmica, deixando clara a possibilidade de também impactar no processo de tomada de decisões dos tribunais que o utilizam.
De tal forma, percebe-se que o COMPAS Pretrial era uma ferramenta utilizada pelos tribunais americanos no suporte aos magistrados no que concerne às tomadas de decisões quanto às penas e possibilidade ou negativa de concessão de fiança aos aprisionados (Becker; Ferrari; Wolkart, 2018).
Problemas dessa ordem surgem porque os sistemas utilizados para automatizar a tomada de decisões foram treinados com dados preexistentes. Se esses dados apresentarem erros ou vieses, eles se incorporam ao próprio funcionamento do programa.
Entretanto, a organização americana ProPublica, uma instituição independente, realizou uma análise estatística das respostas obtidas em uma pesquisa sobre tal mecanismo e descobriu que réus negros também eram mais frequentemente avaliados como propensos a cometer crimes violentos no futuro. As probabilidades de reofensividade para qualquer crime também eram substancialmente maiores, cerca de 77% e 45% a mais do que outros grupos (Angwin et al., 2016).
Assim, fatores como o local de residência, o círculo social e a condição econômica da pessoa podem aumentar sua vulnerabilidade, pois a população mais pobre vive em regiões periféricas com maiores índices de criminalidade e há maiores chances de seus parentes possuírem antecedentes criminais. Desse modo, o sistema pode considerá-la de alto risco, negando-lhe a fiança, impondo condenação mais longa, majorando a sua permanência fora do convívio social e dificultando a reintegração ao mercado de trabalho (O’Neil, 2020).
A dificuldade em encontrar critérios claros e em definir o peso de cada informação em uma tomada de decisão é um problema considerável, pois favorece aqueles que comandam esses sistemas, já que a complexidade de seus algoritmos acaba protegendo seus interesses (Larson; Kirchner; Angwin, 2016).
Diante da discriminação decorrente da aplicação da IA na atividade jurídica, é preciso frisar que, embora aparente, a IA não é um sistema autônomo, imparcial e objetivo, pois trabalha com aprendizado de máquina, que é limitado a analisar um conjunto de dados singulares para chegar a conclusões especificamente determinadas. Na prática, essa condição irá reproduzir preconceitos raciais, tanto dos próprios programadores do algoritmo, quanto do próprio sistema jurídico que aceita esse algoritmo (O'Neil, 2018).
Portanto, a IA atua como um catalisador na nova era digital, influenciando a maneira como as pessoas agem, trabalham e se comunicam. Se empregada de maneira ética e com responsabilidade, essa tecnologia pode proporcionar à sociedade benefícios consideráveis. No entanto, é essencial compreender e compreender os desafios da IA para que possam ser amenizados e para que todos possam usufruir de seus benefícios.
3. Projeto de Lei 2338/23 que estabelece um marco regulatório para a IA no Brasil
Em 3 de maio de 2023, o Presidente do Senado apresentou um projeto de lei voltado para a criação de um marco regulatório para a IA no Brasil. Trata-se do PL 2338/23, originado a partir do Relatório Final da Comissão de Juristas, cujo propósito é fornecer bases para a formulação de uma proposta substitutiva sobre o tema no país.
Considerando o atual contexto brasileiro, a definição de um marco legal poderia ajudar na proteção dos indivíduos que são mais afetados pela IA, sobretudo o cidadão comum, assim como promover uma interpretação mais clara das leis, o que acabaria por garantir segurança jurídica para o avanço da inovação e do crescimento econômico e tecnológico (Pinto, 2023).
O documento também ressalta que, no que é abordada a proteção de direitos fundamentais, a valorização do trabalho e a criação de novas dinâmicas econômicas, deve-se respeitar o equilíbrio entre esses aspectos, não favorecendo um em detrimento do outro. A proposta está alinhada às diretrizes estabelecidas pela Constituição Federal de 1988, já que este projeto pretende unir uma abordagem baseada na análise de riscos e uma instância regulatória centrada em direitos, e ao lado disto, através do estabelecimento de mecanismos de supervisão para salvaguardar a responsabilidade dos envolvidos.
Consequentemente, o marco legal, em uma abordagem baseada na análise de riscos com regulamentação centrada em direitos, busca garantir que quem desenvolve e quem utiliza os sistemas de IA agirão ética e responsavelmente.
O Projeto de Lei 2.338/2023 consiste em 9 capítulos e 45 artigos. No primeiro artigo do Capítulo I, o texto começa afirmando que a lei tem como objetivo estabelecer:
normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico (Brasil, 2023, s.p.).
Os princípios contidos no artigo 2º1 incluem dez diretrizes que têm a ver com a proteção de dados pessoais. São elas: a centralidade da pessoa humana, a defesa dos direitos fundamentais e democráticos, a preservação ambiental e o desenvolvimento sustentável. Também são mencionados a equidade, a proteção da privacidade, o incentivo à inovação e o acesso ao conhecimento sobre inteligência artificial.
O artigo 3º também apresenta oito princípios que dialogam diretamente com a Lei Geral de Proteção de Dados (LGPD). Entre estes, estão a liberdade de escolha, a não discriminação, a transparência, a segurança da informação e a rastreabilidade das decisões automatizadas. É enfatizada também a necessidade de responsabilização e reparação em caso de eventuais danos e a prevenção de riscos decorrentes do uso da IA.
A relação entre os preceitos da IA e os da LGPD evidencia a atenção ao uso ético e responsável dos dados pessoais. Se a LGPD define diretrizes para a coleta, processamento e guarda de dados pessoais, as normas relacionadas à IA têm como objetivo garantir que os sistemas automatizados sejam criados e empregados de maneira responsável, contribuindo assim para a proteção da privacidade, direitos humanos e para a construção da justiça e inclusão social.
No Brasil, a interação entre IA e LGPD reforça a importância de assegurar que os sistemas de IA atendam às regras de proteção de dados, devendo a privacidade dos usuários, ser o padrão desde a concepção de qualquer sistema que trate sobre dados pessoais (Queiroz; Disconzi, 2024).
Um ponto crucial é restringir a coleta de informações ao mínimo necessário para atingir um objetivo específico. Este princípio está de acordo com a LGPD e com normas internacionais que definem orientações para o uso consciente dos dados (Canuto; Gomes, 2022). Portanto, as leis brasileiras relacionadas à IA visam salvaguardar os direitos individuais, priorizando a privacidade e a segurança das informações pessoais no desenvolvimento e uso dessas tecnologias. Esta estratégia não apenas aumenta a confiança do público nos sistemas de IA, mas também fomenta um ambiente de inovação e ética.
A mineração de textos e dados, prevista no parágrafo 3o do artigo 42, é um assunto relevante. Sabendo-se que a mineração de dados ou de textos é o processo de analisar extensas quantidades de informações em busca de padrões e tendências, podendo, inclusive, incluir dados pessoais, Vigliar (2023) adverte que essa abordagem pode gerar questões muito significativas tanto em termos de privacidade quanto de proteção de dados sensíveis.
Portanto, as entidades devem assegurar que a coleta, o tratamento e o armazenamento de dados pessoais estejam em conformidade com os princípios legais da LGPD, garantindo transparência, finalidade legítima e pertinência no uso das informações. Qualquer tarefa de mineração de dados que envolva dados pessoais precisa seguir esses princípios para salvaguardar os direitos daqueles que detêm a titularidade desses dados (Pinto; Nogueira, 2023). Ademais, as organizações precisam cumprir todas as obrigações estabelecidas pela LGPD para evitar sanções severas, como multas elevadas.
A título de exemplificação, se uma organização pretende examinar os registros de clientes para obter informações estratégicas, deve assegurar que obteve o consentimento desses clientes de forma apropriada, que os dados serão utilizados apenas para o propósito estabelecido e que todas as medidas de segurança e conformidade com a LGPD sejam implementadas. Do contrário, estará sujeita a graves sanções.
Assim, o parágrafo terceiro do artigo 42 define orientações fundamentais para garantir a privacidade e a proteção dos dados em aplicações de inteligência artificial. Ele argumenta que a inovação e a utilização de grandes volumes de informações devem respeitar os direitos individuais, promovendo condutas éticas e responsáveis no desenvolvimento e implementação de soluções fundamentadas em IA. Portanto, a legislação procura um equilíbrio entre o avanço tecnológico e a proteção dos direitos fundamentais, garantindo que a IA seja utilizada de maneira clara e segura.
4. CONCLUSÃO
O avanço atual da Inteligência Artificial aponta para uma era repleta de avanços tecnológicos sem paralelo. Contudo, levanta questões fundamentais sobre o uso responsável e ético dessas tecnologias, o que tem atraído a atenção de autoridades reguladoras, entidades, acadêmicos e profissionais de várias áreas.
A conexão entre a governança da IA e a proteção de dados está cada vez mais clara, desafiando os especialistas de direito e tecnologia da informação a entender a complexidade das dinâmicas que vinculam as normas de privacidade aos avanços mais extensos da IA. Conforme as autoridades governamentais detalham a regulamentação neste campo tão intrincado, torna-se determinante para o cidadão comum e para as empresas entenderem não apenas as normas de proteção de dados pessoais atualmente aplicáveis à IA como também aquelas que estão emergindo.
Neste trabalho, destacou-se a importância de ferramentas e programas eficazes de proteção de dados, que estejam em sintonia com as aplicações de IA. Compreendeu-se que a construção dessas estruturas assegurará a aderência às leis, além de reforçar a confiança humana no uso consciente da IA. Isso é crucial para garantir que a utilização da IA será benéfica e ética, estimulando o avanço sem causar violações aos direitos individuais, como o direito à privacidade.
Referente ao contexto legal brasileiro, mesmo entendendo haver boas intenções no tocante às referências à proteção de dados pessoais contidas na proposta legislativa de regulamentação da IA, não parece adequado afirmar que somente a aprovação de um projeto de lei bastará para gerar a confiança necessária. Isto porque, não obstante a Autoridade Nacional de Proteção de Dados (ANPD) esteja ativamente envolvida nas atividades de sua competência, ainda não conta com uma estrutura robusta para lidar adequadamente com a demanda de supervisão que o atual contexto demanda. Também não estará preparada para examinar aspectos relativos à IA que possam impactar na proteção de dados pessoais.
É importante também envolver a sociedade civil e os desenvolvedores de Inteligência Artificial para que se concentrem na implementação de práticas éticas unificadas em relação à proteção de dados pessoais. Compreende-se que, mesmo que a lei seja considerada eficaz, ela não será suficiente para proteger os mais vulneráveis.
REFERÊNCIAS
ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L. Machine Bias. ProPublica, 23.05.2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-senten cing. Acesso em: 15 março 2025.
BECKER, D.; FERRARI, I.; WOLKART, E.N. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais Online, v. 995, 2018, p. 2. Disponível em: https://governance40.com/wpcon tent/uploads/2018/11/ARBITRIUM-EX-MACHINA-PANORAMARISCOS-E-A-NECES SIDADE.pdf. Acesso em: 15 março 2025.
BRASIL. PL no 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 15 março 2025.
CANUTO, Rubens; GOMES, Luciane. Justiça 4.0 e os princípios éticos da inteligência artificial do poder judiciário. In: ARAÚJO, Valter Shuenquener de; FUX, Luiz (coord.). O judiciário do futuro: justiça 4.0 e o processo contemporâneo. São Paulo: Revista dos Tribunais, 2022, p. 515-529. Disponível em: https://proview.thomsonreuters.com/launchapp/title/rt/monografias/290747704/v1. Acesso em: 15 março 2025.
DOMINGOS, P. O Algoritmo Mestre. São Paulo: Novatec, 2015.
EQUIVANT. About us. Disponível em: https://www.equivant.com/about-us/. Acesso em: 15 março 2025.
FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e inteligência artificial em defesa do humano. Belo Horizonte: Fórum, 2020.
Larson, S.M.; Kirchner, L.; Angwin, J. How We Analyzed the COMPAS Recidivism Algorithm. 23.05.2016. Disponível em: https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm. Acesso em: 15 março 2025.
NUNES, Dierle. Virada tecnológica no Direito Processual (da automação à transformação): seria possível adaptar o procedimento pela tecnologia? In: NUNES, Dierle; LUCON, Paulo Henrique Santos; WOLKART, Erik Navarro (Orgs.). Inteligência Artificial e Direito Processual: os impactos da virada tecnológica no Direito Processual. Salvador: JusPodivm, 2020. p. 17-18.
O’Neil, C. Algoritmos de destruição em massa: como o Big Data aumenta a desigualdade e ameaça a democracia. Trad. Raphael Abraham. Santo André, SP: Rua do Sabão, 2020.
PINTO, Luís Henrique Alves. A tripla fundamentação das decisões jurisdicionais pautadas em inteligência artificial: o redimensionamento da fundamentação pela explicabilidade da linguagem algorítmica. Salvador: JusPODIVM, 2023.
PINTO, Rodrigo Alexandre L.; NOGUEIRA, Jozelia. Inteligência artificial e desafios jurídicos: limites éticos e legais. São Paulo: Grupo Almedina, 2023
QUEIROZ, Gabriel Noll; DISCONZI, Verônica Silva do Prado. O impacto da inteligência artificial no Direito: questões éticas e legais. Revista Ibero-Americana de Humanidades, Ciências e Educação. São Paulo, v.10, n.04, abr., 2024.
VIGLIAR, José Marcelo M. Inteligência artificial: aspectos jurídicos. São Paulo: Grupo Almedina, 2023.
Notas
1 Fundamentos contidos no PL no 2.338/2023: “I – a centralidade da pessoa humana; II – o respeito aos direitos humanos e aos valores democráticos; III – o livre desenvolvimento da personalidade; V – a proteção ao meio ambiente e o desenvolvimento sustentável; V– a igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas; VI– o desenvolvimento tecnológico e a inovação; VII– a livre iniciativa, a livre concorrência e a defesa do consumidor; VIII – a privacidade, a proteção de dados e a autodeterminação informativa; IX – a promoção da pesquisa e do desenvolvimento com a finalidade de estimular a inovação nos setores produtivos e no poder público; X – o acesso à informação e à educação, bem como a conscientização sobre os sistemas de inteligência artificial e suas aplicações” (Brasil, 2023, s.p.).
LEGAL PRACTICE AND ARTIFICIAL INTELLIGENCE
Abstract: Considering the great impact of artificial intelligence (AI) on the lives of individuals, this study aims to discuss the regulation of AI systems to ensure human rights. Bibliographic research was used as a method, using doctrines and laws relevant to the topic discussed. Therefore, it conceptualizes, categorizes and presents the use of Artificial Intelligence in current times. In addition, it clarifies the possible effects of Bill PL 2338/2023 (Bill that brings a proposal to develop a regulatory framework to regulate AI) in safeguarding the most important personal data for the individual and in defending universal human rights.
Key words : Artificial intelligence. Regulatory framework. Legal practice.
