Referências
ALVAREZ, Vanessa Gonçalves. AI Act: projeto de estrutura regulatória de IA na União Europeia. 2024. Disponível em: https://www.conjur.com.br/2024-mar-14/ai-act-projeto-de-estrutura-regulatoria-de-ia-na-uniao-europeia/. Acesso em: 28 mar. 2024.
ANDRADE, Vera Regina Pereira de. Do paradigma etiológico ao paradigma da reação social: mudança e permanência de paradigmas criminológicos na ciência e no senso comum. Revista Brasileira de Ciências Criminais, São Paulo, v. 4, n.14, p. 276-287, abr. 1996.
ARAÚJO, Fernanda Carolina. A teoria criminológica do labelling approach e as medidas socioeducativas. 2010. 251. f. Dissertação (Mestrado) - Curso de Direito, Universidade de São Paulo, São Paulo, 2010. Disponível em: https://pdfs.semanticscholar.org/6ddb/ed263e1fc1282adfe647638dc153602b1eb4.pdf. Acesso em: 27 mar. 2024
ARRUDA, Ana Julia Pozzi; RESENDE, Ana Paula Bougleux Andrade; FERNANDES, Fernando Andrade. Sistema de Policiamento Preditivo e Afetação de Direitos Humanos à Luz da Criminologia Crítica. Revista Direito Público, Brasília, v. 18, n. 100, p. 664-689, out. /dez. 2021.
BAIÃO, Kelly Sampaio; GONÇALVES, Kalline Carvalho. A garantia da privacidade na sociedade tecnológica: um imperativo à concretização do princípio da dignidade da pessoa humana. Revista Eletrônica de Direito Civil: Civilistica.com. Rio de Janeiro, v. 3, n. 2, p. 1-14, 2014. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/151. Acesso em: 27. mar. 2024
BARATTA, Alessandro. Criminologia crítica e crítica do direito penal: introdução à sociologia do direito penal. Tradução: Juarez C. dos Santos. 6. ed. Rio de Janeiro: Revan, 2011. 256. p.
BECKER, Howard S. Outsiders: estudos de sociologia do desvio. 2. ed. Rio de Janeiro: Zahar, 2021. 285. p.
BUCHNER, Benedikt. Informationelle Selbstbestimmung im Privatrecht. Tübingen: Mohr Siebeck, 2006. 343. p.
CARVALHO Gonçalves Eler, K. A releitura da privacidade: do “direito de ser deixado só” ao direito à autodeterminação informativa. TECHNO REVIEW. International Technology, Science and Society Review. Revista Internacional de Tecnología, Ciencia y Sociedad, v. 5, n. 2, p. 185–196, 2016.
CHIARINI, Tulio e SILVA, Victor: Inovações tecnológicas permitem maior participação política? IPEA, 2021. Disponível em: https://www.ipea.gov.br/cts/pt/central-de-conteudo/artigos/artigos/267-inovacoes-tecnologicas-permitem-maior-participacao-politica. Acesso em 29 mar. 2024.
FERNANDES, Milton. Proteção civil da intimidade. São Paulo: Saraiva, 1977. 315. p.
GLESS, Sabine. Policiamento preditivo: em defesa dos “verdadeiros positivos”. Tradução: Heloisa Estellita e Miguel Lima Carneiro. Revista Direito GV, São Paulo, v. 16, n. 1, jan. /abr. 2020.
GOLDSCHMIDT, Ronaldo; BEZERRA, Eduardo; PASSOS, Emanuel. Data Mining: conceitos, técnicas, algoritmos, orientações e aplicações. 2. ed. Rio de Janeiro: Elsevier, 2015.
GRINBERG, Felipe; ARAÚJO, Vera. Mulher identificada por reconhecimento facial em Copacabana é solta após erro em sistema ser constatado (...) O Globo, jan. 2024. Disponível em: https://oglobo.globo.com/rio/noticia/2024/01/04/mulher-identificada-pelo-sistema-de-reconhecimento-facial-em-copacabana-e-liberada-apos-ser-constatado-que-mandado-de-prisao-estava-no-sistema-por-erro.ghtml. Acesso em: 28 mar. 2024.
GRINBERG, Felipe; ARAÚJO, Vera. Preso identificado por reconhecimento facial em Copacabana é o segundo a ser solto após constatado erro em sistema de mandados (...) O Globo, jan. 2024. Disponível em: https://oglobo.globo.com/rio/noticia/2024/01/04/preso-identificado-por-reconhecimento-facial-em-copacabana-e-o-segundo-a-ser-solto-apos-constatado-erro-em-sistema-de-mandados.ghtml. Acesso em: 28 mar. 2024.
LEMES, Marcelle Martins. Inteligência artificial, algoritmos e policiamento preditivo no poder público federal brasileiro. 2019. 113. p. Monografia (Graduação em Direito) – Faculdade de Direito da Universidade de Brasília. Brasília, DF.
LOMBROSO, Cesare. O Homem Delinquente. Tradução: Sebastian José Roque. 1. Reimpressão. São Paulo: Ícone, 2010. 223. p.
MENEZES, C. S. De; SANLLEHÍ, J. R. A. Big Data, Inteligência Artificial e Policiamento Preditivo: Bases para uma adequada regulação legal que Respeite os direitos fundamentais. Novos Estudos Jurídicos, v. 26, n. 1, p. 103–135, 2021.
MONARD, Maria Carolina; BARANAUSKAS, José Augusto. Conceitos sobre Aprendizado de Máquina. 2003. Departamento de Computação e Matemática. Disponível em: https://dcm.ffclrp.usp.br/~augusto/publications/2003-sistemas-inteligentes-cap4.pdf. Acesso em: 25 mar. 2024.
MORAES, Felipe de. Policiamento Preditivo e aspectos constitucionais. 2022. 143. p. Dissertação (Mestrado em Direito) – Universidade Católica do Rio de Janeiro. Rio de Janeiro, 2022.
OLIVEIRA, Ilson de. SANTOS, Franck Cione Coelho. Inteligência artificial e policiamento preditivo (...). Brazilian Journal of Technology, p. 30-62. jan./mar. 2022. Disponível em: https://ojs.brazilianjournals.com.br/ojs/index.php/BJT/article/view/45351. Acesso em: 28 mar. 2024.
PARLAMENTO EUROPEU ADOTA LEI QUE REGULAMENTA O USO DA INTELIGÊNCIA ARTIFICIAL. Exame, 14.mar. 2024, disponível em: https://exame.com/inteligencia-artificial/parlamento-europeu-adota-lei-que-regulamenta-o-uso-da-inteligencia-artificial/. Acesso em 28.mar 2024.
RAND Corporation. Predictive Policing – The Role of Crime Forecasting in Law Enforcement Operations. 2013. Disponível em: https://www.rand.org. Acesso em: 28 mar. 2024.
SANTA MARIA, José Serpa de. Direitos da personalidade e a sistemática civil geral. Campinas: Julex, 1987. 374. p.
SCHWAB, Klaus. A Quarta Revolução Industrial. Brasil. Tradução: Daniel Moreira Miranda. 1. ed. São Paulo. Edipro, 2016. 211. p.
SCHWARCZ, Lilia Mortiz. Sobre o autoritarismo brasileiro. 1. ed. São Paulo: Companhia das Letras, 2020. 273. p.
SILVA, Tarzício. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022
Nota
1 A expressão AI Act se refere ao projeto de estrutura regulatória de IA na União Europeia.
Abstract: With the technological awakening and the growing feeling of insecurity and threat, the indiscriminate use of technologies in the search for security becomes viable, making the use of predictive systems based on artificial intelligence and algorithms common. From this perspective, the question arises as to what would be the limit so that the use of such predictive technologies, increasingly used to identify possible locations of crimes, offenders and victims, do not become tools for harming the rights inherent to the individual. In this way, the existence of a change in the police's own modus operandi in relation to individuals stands out, thus reflecting an injury to constitutional principles, making it necessary to understand machine learning, in a supervised or unsupervised way and its consequences, failures and accountability. The overlap between national security and civil freedom, with an emphasis on racial and gender discrimination, the lack of clarity regarding the functioning of these systems and the scarcity of a legal framework on the subject, directly affects the social body and its fundamental rights. Furthermore, the research concludes that the use of biased predictive technologies directly results in the stigmatization of a specific social group, identified as 'criminal', supporting the theory of the labeling approach and, characterizing, in the words of Becker (2011), the paradox that exists in a situation in which risks cause the increase in techniques that aim for safety and control, but which concomitantly end up generating new risks.
Key words : Predictive policing. Artificial intelligence. Fundamental rights.
