Resumo: Com o despertar tecnológico e a crescente sensação de insegurança e ameaça, acaba-se por viabilizar o uso indiscriminado de tecnologias em busca de segurança, tornando-se corriqueiro o uso de sistemas preditivos baseados em inteligência artificial e algoritmos. Nesta perspectiva, encontra-se o questionamento acerca de qual seria o limite para que o uso de tais tecnologias preditivas, cada vez mais utilizadas para identificação de possíveis locais de crimes, infratores e vítimas, não se tornem ferramentas de lesão a direitos inerentes ao indivíduo. Dessa maneira, destaca-se a existência de alteração no próprio modus operandi da polícia com relação aos indivíduos, refletindo então uma lesão aos princípios constitucionais, fazendo-se necessário compreender a aprendizagem da máquina, de forma supervisionada ou não supervisionada e seus desdobramentos, falhas e responsabilização. A sobreposição da segurança nacional à liberdade dos civis, com ênfase na discriminação racial e de gênero, a falta de nitidez sobre o funcionamento desses sistemas e a escassez de um arcabouço jurídico acerca da temática, atinge diretamente o corpo social e seus direitos fundamentais. Ademais, a pesquisa conclui que o uso de tecnologias preditivas enviesadas resulta diretamente na estigmatização de um grupo social específico, identificado como ‘criminoso’, chancelando a teoria do labelling approach e, caracterizando, no dizer de Becker (2011), o paradoxo existente na situação em que os riscos ocasionam o incremento de técnicas que objetivam segurança e controle, mas que concomitantemente acabam por gerar novos riscos.

Palavras-chave: Policiamento preditivo. Inteligência artificial. Direitos fundamentais.

1. Introdução

O crescente surgimento de inteligências artificiais deu azo a sua utilização como ferramenta na propagação da ideia de melhorias na segurança pública, com o objetivo de propiciar decisões cada vez mais assertivas e racionais, em razão da necessidade de um processamento de dados e informações cada vez mais volumoso. Entretanto, ao relacionar a segurança pública ao uso de tecnologias, é necessário compreender que existe uma relação entre riscos e oportunidades que pode causar consequências irreparáveis na sociedade (Goldschmidt e Passos, 2005). Deste modo, cria-se uma relação direta entre as Inteligências Artificiais - IA’s e a inserção de um sistema preditivo de dados na sociedade.

Um dos principais vetores dessas inteligências artificiais é o reconhecimento facial, presente no cotidiano da população de diversas formas, como para desbloquear os próprios smartphones; para além dessa função tão usual, busca-se aplicar o reconhecimento facial em sistemas de policiamento preditivo, pretendendo alcançar um menor índice de insegurança pública e aliar as inovações tecnológicas a uma das, senão a maior, problemáticas atuais - a criminalidade.

O sistema de reconhecimento facial é usado para verificar ou identificar pessoas a partir de dados biométricos e, baseando-se nisso, cria-se um modelo de predição (Fernandes; Branco; Mendes e Santana, 2024). Sob essa ótica, a maior crítica relacionada a esse sistema é a lesão a direitos fundamentais - privacidade, honra, imagem, intimidade, proteção de dados pessoais, segurança e liberdade de expressão. Além disso, a máquina que produz tal sistema é fruto da inteligência humana e, também, de seus vieses; destacando-se a inteligência de Schwarcz (2019) ao dizer que nosso presente continua a espelhar nosso passado e que o aprendizado da máquina se dá através de indivíduos que possuem em sua formação pessoal, diversas convicções raciais e/ou de gênero.

De tal modo, o alvo de tais tecnologias será o mesmo, igualmente seletivo: o grupo minoritário. Assim, com a falta de implicações legais acerca desses sistemas, questiona-se qual seria o limite para que os usos de tais tecnologias preditivas não se tornem ferramentas de lesão a direitos inerentes ao indivíduo e ainda, propagadores de estigmas sociais?

O uso de sistemas de policiamento preditivo tem ganhado destaque no Brasil e no mundo, tornando-se uma questão de grande relevância, fazendo-se necessário um estudo aprofundado relacionado aos impactos diretos aos atingidos por ele e a criação de regulação para o funcionamento de tais tecnologias no afã de que, ao invés de uma ferramenta de auxílio na segurança pública, elas não se tornem um instrumento de lesão e insegurança à sociedade.

Dessa forma, a presente pesquisa se desenvolve através de uma abordagem qualitativa, utilizando-se do método indutivo, caracterizando-se como exploratória e bibliográfica e possui como objetivo geral identificar os impactos do policiamento preditivo e da utilização de inteligências artificiais nas lesões às garantias constitucionais, relacionando o uso indevido de tecnologias preditivas como ferramenta favorável à propagação de estigmas sociais.

Neste sentido, surge o seguinte questionamento: qual seria o limite para que os usos de tais tecnologias preditivas não se tornem ferramentas de lesão a direitos inerentes ao indivíduo? Para responder a esta questão norteadora, o presente artigo objetiva verificar quais encaminhamentos foram estabelecidos para melhor adequabilidade do uso da IA ao policiamento preditivo, e quais perspectivas jurídicas o ordenamento brasileiro tem seguido para proteção e garantia de direitos fundamentais.

2. Inteligência Artificial (IA) e o Aprendizado de Máquinas (Machine Learning e Big Data)

Nas últimas décadas ficou explícita a incidência do uso de inteligência artificial em diversas áreas da sociedade, desde as mais complexas, que processam dados sensíveis e em um quantitativo exorbitante e tomadas de decisões, como também em tecnologias corriqueiras do dia a dia, como softwares de tradução, sites de busca e pesquisa, smartphones.

Segundo Schwab (2019), na obra intitulada ‘A Quarta Revolução Industrial’, estamos no caminho para mudanças cada vez mais disruptivas e significativas, que possibilitam impactos nos meios de produção, na economia e na segurança, ou seja, inovações tangíveis que resultam da interdependência entre tecnologias distintas que não mais constituem mera ficção científica, mas interagem com materiais, corpos, produtos, enfim.

A Inteligência Artificial aprimora-se cada vez mais, isto se dá pela sua capacidade de ser alimentada e atualizada por dados que nós, humanos, fornecemos diariamente, o que se denomina ‘aprendizagem automática’, que se configura através de algoritmos, estes resultantes de um volume de diferentes dados que, pouco ou não estruturados são recepcionados pela IA, constituindo o Big Data e que estão sempre em constante transformação, ou seja, o Big Data possui os ‘3 V 's’: volume, contemplando o tratamento de uma quantidade exacerbada de dados; variedade, oferecendo uma análise de dados mais veloz e ágil na medida em que novas informações são coletadas; e velocidade, tratando de dados que contemplam maior variedade de informações, em diversidade de formatos e origens (Goldschmidt, Bezerra e Passos, 2015).

Essa capacidade de analisar toneladas de dados é crucial para garantir a agilidade do processamento, deste modo, apreciados pelo machine learning, ou aprendizado de máquina, utiliza-se dados coletados para softwares e ferramentas capazes de realizar previsões, estabelecer padrões e realizar tarefas de forma supervisionada ou não supervisionada. Caso ocorra de forma supervisionada, o aprendizado se dá pelo abastecimento de exemplos que o treinam para o rótulo desejável, a fim de que o dado fornecido se torne um classificador e possa posteriormente rotular outros dados não rotulados (Monard, 2003); em contrapartida, no aprendizado não supervisionado, a máquina busca analisar os exemplos que lhe foram fornecidos e agrupá-los de forma a gerar um rótulo (Cheeseman e Stutz, 1990).

Deste modo, a inteligência artificial pode ser um dispositivo capaz de realizar as mais diversas previsões relacionadas desde questões econômicas até as relacionadas aos fenômenos biológico-naturais. Ou seja, sua aplicabilidade ultrapassa a área da máquina em si, perpassando pelas demais esferas sociais. Entretanto, como já alerta Buchner (2006), o uso de tais tecnologias de forma mais dependente acende um alerta quanto à possibilidade de imprecisão na coleta e análise de dados (Big Data), visto que, diante de dados errôneos, as consequências podem ser prejudiciais e irreversíveis para quem delas se utilizar.

Neste panorama, faz-se necessário compreender a aquisição do conhecimento nesses modelos inteligentes de sistema, do aprendizado de máquina, que ocorrem de forma indutiva, ou seja, de forma lógica, permitindo a obtenção de conclusões genéricas ou estritamente objetivas, sobre um conjunto particular de exemplos. Por este viés, percebe-se que, com o uso de inteligências artificiais específicas, tais dados são processados, interpretados e capazes de possibilitar a criação de padrões, por conseguinte, modelos preditivos (Cohen, 2013 apud Ferguson, 2015), atrelado a isso, o big data analytics possibilita a análise e interpretação de dados por meio de um processo algorítmico que busca encontrar padrões em dados brutos.

Diante do exposto, explicita-se uma grande participação humana no aprendizado de máquina, visto que, no decorrer do processo de aprendizagem, há intervenção humana em um momento crucial: o do fornecimento de dados exemplificativos, ou seja, o padrão dos rótulos criados futuramente pelo sistema preditivo poderá, por diversas vezes, ser baseado em preconceitos e crenças do indivíduo fornecedor. Esta circunstância determina atenção, no que tange às consequências do uso de tais tecnologias em sistemas preditivos, quando utilizados na segurança pública, pois, os dados coletados necessitam de controle, supervisão e regulação, para evitar violação coletiva de direitos fundamentais consagrados na carta política.

3. Sistemas Preditivos: O que são e seu funcionamento na segurança pública

Os sistemas preditivos consistem em softwares ou dispositivos, aparelhados, com o objetivo de realizar predição, ou seja, garantir maior previsibilidade de atos específicos. Tal tecnologia é empregada em atividades distintas, apesar de ser muito reconhecida no marketing e nas relações de consumo e tendências, faz-se um recorte para sua aplicabilidade em sistemas preditivos de segurança pública, intitulado ‘policiamento preditivo’.

Neste recorte, o policiamento preditivo torna-se uma ferramenta importante para a prevenção e resolução de crimes, visto que a segurança pública se tornou pauta de extrema importância, trazendo sobre si uma cobertura midiática e de maior relevância social, o que influenciou o interesse e o investimento em atrelar as novas tecnologias com maior capacidade de vigilância. Entretanto, o uso desses apetrechos não é, ou não deveriam ser, isentos de normativas. A RAND Corporation (2013), em seu guia para policiamento preditivo, aduz que a metodologia segue uma categorização com o objetivo de atender às demandas policiais, conforme sistematizado na tabela abaixo:

Assine a nossa newsletter! Seja o primeiro a receber nossas novidades exclusivas e recentes diretamente em sua caixa de entrada.

Inscrever

Tabela 1 – Categorias principais de métodos de policiamento preditivo

Fonte: Predictive Policing –The Role of Crime Forecasting in Law Enforcement Operations (2013)

Deste modo, cada classificação vai obter, dentro da atividade policial, um enfoque diferente, utilizando ferramentas diversificadas e que exigem modelos cada vez mais sofisticados no processamento, visando redução de erros nas predições. Ou seja, essas técnicas, unidas a tecnologias como machine learning, inteligência artificial e mineração de dados, podem auxiliar no processo de tomada de decisões, garantindo maior objetividade e eficácia no alcance das finalidades estabelecidas.

Na mesma senda, reitera-se que tais dispositivos utilizam dados pessoais e sensíveis (dados de caráter subjetivos) e perpassam pela intimidade e privacidade do cidadão. Atenta-se que, os dados e informações utilizados podem derivar de erros, possibilitando, de forma indiscriminada, uma abordagem meramente objetiva, onde caberia uma análise subjetiva sobre o caso concreto, não dispensando uma análise crítica.

Destarte, duas perspectivas são amplamente utilizadas no enfoque da segurança pública: (i) policiamento preditivo baseado no lugar, onde a ferramenta se atenta para a ‘zonas de perigo/risco’, através da identificação dos locais que oferecem maior vulnerabilidade para a sociedade, com o objetivo de viabilizar segurança através de policiamento intensificado, e (ii) policiamento preditivo baseado na pessoa, que segundo Braga (2020), classifica-se através de registros de dados pessoais, sensíveis, inquéritos policiais e cruzamento de dados diversos, interferindo diretamente na relação existente entre a pessoa, que pode ser categorizada como ‘possível ameaça’ e as equipes de vigilância, de tal modo a despertar suspeita de culpabilidade em relação a um cidadão que sequer cometeu crime algum, o que entende-se na forma lógica como ‘provável criminoso’, mostrando-se como um procedimento desarrazoado.

4. Propagação de estigmas sociais através de sistemas preditivos e IA´S

Na lição Schwarcz (2019, p.40): “nós, brasileiros, andamos atualmente perseguidos pelo nosso passado e ainda nos dedicando à tarefa de expulsar fantasmas que, teimosos, continuam a assombrar”.

Faz-se necessário destacar que do século XVI ao XIX o Brasil foi palco de um sistema escravocrata e excludente e a adoção de tal modelo de sociedade, reverbera suas consequências até hoje. Para além disso, tem-se também a desvalorização da mulher em toda construção da história brasileira, aponta-se como exemplo o fato da possibilidade de ingressar em um ensino superior só ter sido concedida em 1879 e também da oportunidade de exercer um direito político, como o voto, só ter sido ofertada em 1932. Sob essa ótica, destacam-se duas grandes implicações: negros e mulheres sempre foram vítimas de negligência e marginalização e que tais atributos perseguem não só essas duas classes, mas outros grupos minoritários como os LGBTQIAPN+, indígenas, idosos e descapacitados, até os dias atuais; como abordado, mais uma vez por Schwarcz (2019, p. 29): “um sistema como esse só poderia originar uma sociedade violenta e consolidar uma desigualdade estrutural no país.”

O termo estigma é proveniente do grego antigo - stigmata - que tem sua significação atrelada a ‘cicatriz ocasionada por uma ferida ou por um machucado’. Nos casos de grupos minoritários, essa cicatriz é estrutural, pautada na construção basilar do Brasil, extremamente segregacionista e transformou o corpo social em uma miniatura de Estado autoritário, dotado de preconceitos enraizados e certo convencimento de superioridade.

A relação entre a manutenção desses estigmas e o policiamento preditivo se dá no momento em que a consumação de tais convicções pessoais e preconceituosas torna-se uma arma lesiva à comunidade que está sendo marginalizada. Desse modo, o fato de estar sempre na mira da sociedade, possibilita a facilidade de também estar na mira da culpabilidade e de ser apontado como motivador de mazelas sociais.

Os estigmas são provenientes de desvios sociais e tais desvios podem ser configurados como o cometimento de uma infração a alguma regra geralmente aceita (Becker, 2021), tal infração leva a procura incessante sobre os fatores de personalidade e situações da vida dos indivíduos que poderiam explicar a motivação para a prática daquele ato, ou seja, o desviante é uma pessoa vítima de rótulos impostos pelo corpo social e, para uma conduta ser considerada ou não desvio, deve-se analisar como as pessoas reagem a ela, sendo nesse ponto que os estigmas se sobressaem. Assim, é válida a análise de um exemplo para explicitar tal afirmação: se um homem branco é visto adentrando um shopping center e ingressando em uma loja de artigos de luxo, tem-se um cenário de normalidade; em contrapartida, se um homem negro personifica a mesma cena, independentemente de como se porte, haverá, com certeza, um alerta por parte da segurança do shopping e da própria loja, como se aquela conduta fosse algo desviante e que na realidade, não é, necessariamente; configura-se um possível desvio apenas pelo imaginário estigmatizado do negro como um corpo a margem da alta sociedade.

Na linha de pensamento de Becker (2021, p. 27): “o grau em que um ato será tratado como desviante depende também de quem o comete de quem se sente prejudicado por ele. Regras tendem a ser aplicadas mais a algumas pessoas que a outras.”

A problemática é exatamente essa, os sistemas de policiamento preditivo são alimentados por seres humanos que possuem suas próprias convicções políticas, morais e sociais e esse sistema tem como objetivo “prevenir crimes em determinados locais, com prognóstico de informações de quando e onde ocorrerão” ou até mesmo “intervindo em pessoas suspeitas, infratores contumazes, por vezes identificando eventuais perpetradores” (Moraes, 2022, p.41).

Assim, nota-se que a possibilidade de crenças pessoais intervir no julgamento de escolhas de locais estratégicos a serem posicionadas as câmeras de vigilância, contemplando bairros nobres, por exemplo, para segregar grupos minoritários e lesar direitos fundamentais.

Essa necessidade de examinar reações alheias, foi a principal mudança no paradigma da Criminologia Tradicional e que deu palco para a Teoria do Labelling Approach. Desse modo, essa análise é a prova de que a conduta é qualificada, adequada ou não, baseada no que o corpo social julga negativo ou positivo. Deve-se destacar, então, que:

A criminalidade se revela, principalmente, como um status atribuído a determinados indivíduos mediante um duplo processo: a ‘definição’ legal de crime, que atribui a conduta o caráter criminal e a ‘seleção’ que etiqueta e estigmatiza um autor como criminoso entre todos aqueles que praticam tal conduta. Dessa forma, a teoria do labelling approach constrói um caminho sobre a problematização do conceito de criminalidade que perpassa por três níveis: a investigação da definição da conduta desviada, a atribuição do status de criminoso e o impacto na identidade desviante. (Andrade. 1996, p. 280).

Nesse viés, percebe-se que, o crime não é mais definido como um fenômeno individual, tal qual defendia a Criminologia Tradicional, mas sim como um sistema complexo e que envolve as esferas sociais. Com isso, os questionamentos que antes pairavam sobre ‘quem é o criminoso?’ ou ‘como se tornam desviantes?’, transformaram-se, com teoria do etiquetamento social, em perguntas como: “quem é definido como desviante?” e “o que causa tal definição?” (Baratta, 2011, p. 89). Nota-se que a teoria do labelling approach foi responsável pela denúncia da seletividade e rotulação do sistema penal, consequentemente apontando como fator provedor de tais seleções rotuladas: as interações sociais, os fatores históricos, econômicos e políticos, que no Brasil, faz total sentido, visto que, como exposto alhures, possui sua construção pautada em um país excludente de negros, mulheres e minorias, fazendo com que a intervenção do sistema penal, ao invés de ressocializar e reinserir o indivíduo, torne-se o instrumento que consolida a identidade de desviante por um processo de estigmatização e, por via de consequência, levaria o indivíduo à carreira no sub mundo do crime (Baratta, 2011).

Estudo publicado pela National Academies of Sciences, Engineering (2017 n.p.), com o título de ‘Policiamento proativo: Efeitos sobre o Crime e as Comunidades’ contempla artigo acerca da metodologia do policiamento preditivo:

O policiamento o preditivo usa dados sobre os horários, locais e natureza dos crimes passados, para fornecer informações aos estrategistas da polícia sobre onde e em que horas as patrulhas policiais vem patrulhar ou manter uma presença, a fim de fazer o melhor uso dos recursos ou para onde tem a maior chance de dissuadir ou prevenir crimes futuros. Este tipo de policiamento detecta sinais e padrões em relatórios de crimes para antecipar se o crime aumentará, quando um tiroteio pode ocorrer, onde o próximo carro será roubado e quem será a próxima vítima do crime. Os algoritmos são produzidos levando-se em consideração esses fatores, que consistem em grandes quantidades de dados que podem ser analisados. O uso de algoritmos cria uma abordagem mais eficaz que acelera o processo de policiamento preditivo, uma vez que pode fatorar rapidamente em diferentes variáveis para produzir um resultado automatizado. A partir das previsões que o algoritmo gera, elas devem ser acopladas a uma estratégia de prevenção, que normalmente envia um policial ao local e hora previstos pelo crime.

Diante do exposto, entende-se que o modelo de sistema preditivo que utiliza as inteligências artificiais, com um grande volume de dados e algoritmos, escolhe essas ferramentas a fim de estabelecer estratégias de segurança pública, gerando uma vigilância automatizada que promove uma falsa ideia de seguridade social. Isso acontece porque, a forma com que tais tecnologias são manejadas, tornam-nas lesivas aos direitos fundamentais da sociedade, visto que, a massividade dos dados é adquirida, por muitas vezes, de forma nada transparente, fazendo com que o funcionamento de tais sistemas, seja algo restrito aos órgãos de segurança pública que propagam um ideal de defesa social e combate a criminalidade, quando na verdade, o incremento dessas técnicas inovadoras que buscam segurança e controle, geram novos riscos (Becker, 2011). Com isso, o acesso a informações acerca da metodologia desses sistemas preditivos é como uma nuvem de fumaça e a desinformação atinge majoritariamente os principais alvos de tal sistema; uma vez que os agentes reproduzem no seu modus operandi suas visões de mundo e propagam suas ferramentas de controle social, atingindo predominantemente os mais vulneráveis.

Ademais, a existência dos sistemas preditivos com base em dados pessoais e reconhecimento facial, leva diretamente a criação de um profiling criminal, ou seja, uma tentativa de realizar o perfil do criminoso que é pautado nos ideais que a própria sociedade e as instituições de controle possuem de características que configuram um criminoso, tal pensamento converge com Lombroso (2010, p. 43-44) que defendia a existência de uma série de estigmas degenerativos comportamentais e sociais atrelados a determinados aspectos físicos e morais, os quais seriam determinantes para a criação do perfil de um criminoso nato. Dessa maneira, acreditar na padronização de um modelo criminal, a ponto de utilizar reconhecimento facial para facilitar a busca desse processo e da diminuição da criminalidade, é ir de encontro inteiramente contra o preceito constitucional da presunção de inocência: “se a presunção de inocência não for estendida ao profiling criminal ela perderá seu papel de princípio norteador na atual era de vigilância ubíqua e de big data” (Gless, 2020, p.4).

Nesse sentido, vale destacar que não somente a garantia da presunção de inocência é ferida, mas alguns outros direitos fundamentais dos indivíduos como o direito à privacidade, à honra, à imagem, à intimidade, a proteção de dados pessoais, a segurança e liberdade de expressão também são atingidos.

Assim, é válido refletir acerca dos impactos dos sistemas de policiamento preditivo e das inteligências artificiais nos direitos constitucionais do corpo social, ressaltando que a qualidade da segurança pública é crucial, tanto quanto os direitos e garantias fundamentais.