4. OS DIREITOS HUMANOS VIOLADOS
De início, a partir da compreensão dos efeitos que a tecnologia de monitoramento facial reproduz na vida dos cidadãos, sobretudo, pretos, é possível destacar que é evidente a postura institucionalizada de poder do Estado que potencializa o preconceito racial. Dentro desse espectro, o recurso que permite a identificação de indivíduos por meio de imagens eletrônicas gera, ainda, grande repercussão sobre os direitos individuais, já que elas não são solicitadas, além dos órgãos responsáveis não enviarem um aviso prévio do uso das imagens em questão. Dessa forma, esse instrumento fomenta uma imensa problemática quanto à violação dos direitos humanos, na medida em que todos os cidadãos brasileiros são dotados de dignidade humana e deveriam tê-la resguardada. Entretanto, o descumprimento das garantias tuteladas pela lei revela o déficit presente no sistema jurídico brasileiro e na compreensão de uma teoria mais tradicional dos direitos humanos. Isto é, existe uma grande disparidade entre o texto positivado e a realidade prática, circunstância essa que permite a contraposição entre as teorias tradicional e crítica dos direitos humanos.
Sob essa ótica, pode-se observar que essas teorias, não partindo de pressupostos iguais, são reveladoras de um confronto pautado na esfera social. A princípio, vale destacar que com o surgimento da Declaração Universal dos Direitos do Homem e do Cidadão, foi assegurado um rol exemplificativo de direitos que, no âmbito internacional, deveriam unificar a pluralidade das nações. Nesse sentido, foi desenvolvida, em primeiro plano, a teoria tradicional, a qual analisa os direitos humanos sob o ideário da congruência da dignidade humana, ou seja, classificando-a como um atributo pessoal que, por ser garantida pelo Estado, sua contemplação passa a ser remetida a ele. No que concerne aos direitos humanos dentro da classificação clássica, suas principais características são a inalienabilidade, irrenunciabilidade, imutabilidade, imprescritibilidade, inviolabilidade, progressividade, indivisibilidade, dialeticidade, não-taxatividade, universalidade e o utopismo. A inalienabilidade e a irrenunciabilidade se referem ao fato de que eles não podem ser trocados, vendidos ou negociados, e não se pode abdicar deles, respectivamente; imutáveis por não poderem ser alterados; imprescritíveis pois não perdem a validade no decorrer do tempo; invioláveis, uma vez que não podem ser desrespeitados; progressivos, já que foram afirmados no decorrer do tempo; indivisíveis, pois são compostos por uma unidade, sendo interdependentes; dialéticos, pois surgem da compreensão de diversas tensões; não taxativos, dado que assume diversas compreensões; universais, porque são dispostos para todos; e utópicos, pois são fomentados sob as críticas das contradições presentes na sociedade. Por fim, eles, também, são passíveis de proteção e destinados, idealmente, a todos os países.
No entanto, o maior desafio representado nessa teoria está elencado à utopia de que a positivação dos direitos está proporcionalmente relacionada à efetivação deles na concretude. Nessa conjuntura, a teoria crítica surge a fim de suprir tal contradição, expondo que o foco na forma do direito deturpa pode deturpar sua aplicação prática, resultando em um conformismo normativo e em uma repressão das classes que não têm seus direitos verificados na concretude. A fundamentação da teoria crítica consiste na apresentação de um caráter cientificista da ciência, isto é, quando o objetivo da ciência é compreender os fenômenos sociais considerando suas constantes transformações, pois o contrário levaria a uma abstração real13. A não observância dos direitos humanos na concretude é muito provocada pela existência de uma assimetria de poder, como produto do capitalismo, entre as classes. Por limitar os direitos humanos, essa assimetria não pode ser ignorada, pelo contrário, ela deve ser assimilada para que, a partir dela entenda-se que a implementação desses direitos decorre do entendimento do contexto social vigente. Dessa maneira, o relativismo relacional pode ser reconhecido, o qual, por sua vez, se distingue do universalismo ao propor que os direitos humanos, quando criados, devem incidir especificamente aos seus respectivos contextos sociais.
A partir disso, é notório como tal questão se relaciona com as contrariedades produzidas pelo novo instrumento tecnológico implementado, sobretudo, pelo Estado, uma vez que, embora sejam destacados no plano teórico, os direitos não incidem na mesma proporção no plano factual, bem como é revelado na teoria crítica. Cabe ressaltar, ainda, que a coleta de dados biométricos sem consentimento afronta o direito à privacidade e o direito à imagem. O direito à vida privada está associada à vida íntima do indivíduo, em outras palavras, diz respeito a todos os aspectos particulares da pessoa natural como pensamentos, hábitos e locais de convivência. Em 2018, a Lei Geral de Proteção de Dados foi criada, ressaltando a relevância do direito à privacidade, direito aos dados, direito à intimidade e até ao anonimato, vinculando entes públicos e privados. Com isso, a captação de fotografias dos rostos dos usuários em determinadas localizações pode afrontar tais direitos quando monitora excessivamente o cidadão por onde quer que ele vá. Além disso, o artigo 20 do Código Civil dispõe que o uso da imagem não é admitido quando não houver autorização, quando violar a boa fama e a honra e quando o seu uso for para fins comerciais, salvo nas hipóteses de assentimento. Assim, entende-se que há momentos onde imagens podem ser cedidas, como no caso da manutenção da ordem pública ou administração da justiça, contudo, é evidente que, na maior parte dos casos, tais fotografias não são requeridas ou solicitadas.
O sistema de reconhecimento facial, bem como já pontuado no presente artigo, é implementado e defendido para outros fins como o aprimoramento da eficiência da polícia, haja vista que ele pode promover uma vigilância identificando indivíduos que podem estar ligados a grandes bancos de dados e possibilitando o uso dos resultados em processos criminais. Entretanto, a confiabilidade dessa ferramenta tem sido questionada diante da existência de estudos que afirmam altos índices de erros nos procedimentos realizados por causa da falta de precisão, sobretudo em pessoas negras. Dentro desse contexto, conforme artigo da Wired14, na final da UEFA Champions League, em 2017, foram identificadas 2.470 pessoas como criminosas, das quais somente 173 foram corretamente apontadas, o que representou um índice de 92% de erro. Por esse erro, pessoas inocentes foram equivocadamente presas e tiveram os seus dados vinculados a fichas criminais. Como exemplo disso, no panorama brasileiro, pode-se citar um caso envolvendo uma mulher no metrô no Rio de Janeiro em julho de 2019, no qual a pessoa em questão foi detectada como criminosa e encaminhada à uma delegacia após ser testada em um sistema de monitoramento facial que realizou uma falsa acusação15. Dessarte, podemos averiguar que as falhas de tal instrumento no Estado são oriundas de uma discriminação que já é presente no sistema de persecução penal e acabam por submeter grupos já marginalizados a uma nova ferramenta, já que os propósitos dela estão intimamente relacionados às institucionalizações de poder. Ademais, direitos como à identidade pessoal e à honra são atentados quando são apontados os erros de tal tecnologia, uma vez que ambos estão vinculados à ideia de respeito à imagem, à reputação, ao caráter e outros fatores que distinguem e individualizam as pessoas; o desrespeito ocorre pela razão de afetar justamente a forma pela qual a pessoa é compreendida e identificada no âmbito social, esfacelada pela imputação ilegítima que é imposta. Por essa razão, é imprescindível que haja conscientização dos reflexos que a tecnologia de reconhecimento facial provoca, bem como os riscos à igualdade, intimidade e liberdade de expressão, uma vez que ensejam cenários de discriminação pré-existentes contra, sobretudo, as pessoas negras.
5. UMA ANÁLISE DE CASOS CONCRETOS
A tecnologia do monitoramento facial tem como objetivo facilitar diversos aspectos da vida moderna. Todavia, quando se entra no âmbito de segurança pública, é notório que esse sistema apresenta grandes problemáticas na vida das pessoas negras. A partir de um histórico racista na sociedade, a tecnologia envolvida no reconhecimento facial corrobora para a manutenção de preconceitos e ferimentos a diversos direitos da comunidade negra. Há vários casos tanto no Brasil como em outros países que provam essa ferramenta apresenta graves falhas que culminam em prisões de indivíduos negros inocentes.
Nesse sentido, um grande exemplo dessas imprecisões é o caso de Roberts Williams16, um homem negro estadunidense que foi acusado e preso por um crime que não cometeu devido a um erro de reconhecimento facial da polícia estadunidense de Detroit. Em janeiro de 2019, Robert Julian-Borchak Williams, de 42 anos, foi abordado por policiais que o acusaram de um roubo de três relógios que aconteceu em outubro de 2018. Devido ao monitoramento facial na segurança pública da cidade, Robert foi apontado como autor do crime, sendo, na verdade, um falso positivo no sistema de reconhecimento. Sem conhecimento e explicações sobre o ocorrido, ao chegar em casa, após o trabalho, foi algemado pelos policiais na frente de sua família e levado para um centro de detenção para ser interrogado. Mesmo com uma vasta sucessão de argumentos autênticos e de provas, por meio de fotos comparativas, que provaram que ele não era o homem do vídeo, Williams foi mantido sob custódia durante 30 horas, sendo liberado, apenas, após o pagamento de fiança. Após diversas batalhas judiciais, reconheceu-se o erro e retiraram-se as queixas contra o cidadão.
Sob essa ótica, sabe-se que os direitos humanos são um conjunto de garantias indispensáveis à vida digna, uma vez que são pautados na liberdade, igualdade e dignidade. Logo, quando se observa casos como o de Robert Williams, é perceptível entender que o uso dessa tecnologia é uma falha para o sistema de segurança pública no que diz respeito à concretização desses direitos, haja vista que, em uma sociedade permeada em um racismo estrutural, o fato de uma ferramenta tecnológica apresentar erros, majoritariamente, na identificação de pessoas pretas é uma realidade que corrobora para um sistema falho de injustiças e preconceitos que continua violando os direitos humanos.
Na realidade brasileira, um outro caso17 mostra uma mulher, também no ano de 2019, que foi detida por engano depois de ter sido confundida pelo sistema de reconhecimento facial da Polícia Militar com uma foragida da justiça. A mulher cujos dados informacionais não foram divulgados foi identificada erroneamente pelas câmeras públicas de um bairro da Zona Sul do Rio de Janeiro como uma detenta condenada à prisão por homicídio e ocultação de cadáver. Abordada na rua e levada para a delegacia como uma criminosa, a mulher, após expor o erro dos policiais com documentos que confirmavam não ser a autora dos crimes citados, foi, finalmente, liberada para sua residência. Contudo, outra vez, um erro no qual envolve essa tecnologia de reconhecimento facial promoveu uma violação de direitos em função de uma abordagem equivocada e sem claras informações sobre o acontecimento.
Dessa maneira, entende-se que o que deveria ser um recurso ao auxílio na segurança pública, em diversas circunstâncias, é um impasse capaz de tornar a vida de um ser humano um grande tormento. Serviços públicos que deveriam promover amplamente a aplicação do direito na realidade social, cotidianamente verifica-se que, na verdade, realizam um papel antagônico à sua pretensão ideal. A abordagem sem explicações, a humilhação e o constrangimento na conduta realizada pelos policiais, além da presença de um interrogatório hostil juntamente com a experiência de uma detenção injusta são ocorrências que ferem, por exemplo, os artigos 7º (“todos são iguais perante a lei”) e 9º (“ninguém será arbitrariamente preso, detido ou exilado”) da Declaração Universal dos Direitos Humanos, ainda mais sob uma ótica preconceituosa na questão dos monitoramentos faciais na vida da população negra. Assim, mesmo que essa tecnologia seja eficiente em parte de sua aplicabilidade, se viola, primordialmente, direitos de um grupo específico, é imprescindível que haja um debate analítico sobre sua efetividade e sua funcionalidade.
CONCLUSÃO
Em primeiro plano, faz-se necessário lembrar que o procedimento de reconhecimento facial busca, inicialmente, apenas reduzir o campo de possibilidades com a identificação de pessoas através de traços faciais. Contudo, sendo utilizados materiais que não sejam diversificados em fases de construção do software, pessoas são classificadas como padrões e corroboram para os altos índices de falibilidade do sistema. Essa identificação errônea, por muitas vezes, advém da menor precisão em relação a pessoas de determinados grupos específicos da sociedade, como mulheres e negros, e reforçam desigualdades revelando uma nova ferramenta para estimular as injustiças sociais.
Dito isto, vale destacar que, mesmo sendo criada no cenário brasileiro, em 2018, a Lei Geral de Proteção de Dados, exclui a sua própria aplicação em casos de informação para fins de segurança pública. Por esse motivo, a captação de fotografias dos rostos do usuário, em determinadas localizações, está cada vez mais presente no cotidiano da população brasileira, abrindo possibilidades para inserção na vida privada de cada um.
Assim como abordado no presente artigo, esse monitoramento sem consentimento pode afrontar diversos direitos individuais como o direito à privacidade e o direito à imagem, ou seja, a forma pela qual a pessoa é compreendida no âmbito social. Essa violação mostra a disparidade existente entre os direitos humanos positivados e a realidade em si. Em outras palavras, ao notar o descumprimento das garantias resguardadas pela lei, revela-se o déficit existente na aplicação concreta da dignidade humana.
No que se refere ao racismo, a inteligência artificial fortalece esse formato sistemático de discriminação ao passo que os mecanismos desse reconhecimento facial transparecem dificuldades de reconhecer rostos de pessoas negras. Isto ocorre pois, ao montar esses softwares, engenheiros e cientistas codificam mais características que são especificamente identificáveis em pessoas brancas, uma vez que os códigos desenvolvidos têm como base testes majoritariamente, rostos caucasianos de acordo com Joy Buolamwini, pesquisadora do MIT MEDIA LAB.
Nesse sentido, tendo em vista que, mesmo sem o monitoramento facial, as pessoas pretas já são as maiores vítimas, diariamente, da depredação estatal, torna-se claro que as falhas desse instrumento do Estado são oriundas de uma discriminação existente no sistema de persecução penal e submetem esse grupo marginalizado a um novo mecanismo. Com isso, pode-se afirmar que as formas de repressão e violência às pessoas negras se atualizam junto às tecnologias e corroboram para a continuidade de um racismo estrutural na sociedade.
É imprescindível afirmar, portanto, que se tem uma grande urgência em obter uma regulamentação mais eficaz, uma maior cautela em como esses dados são utilizados na realidade e, questionar o destino dos mesmos, visando uma maior proteção individual. Além disso, pensar na inclusão de pessoas negras, em todos os espaços, se faz essencial para uma sociedade marcada por uma discrepância em níveis sociais com inúmeras discriminações enraizadas. Sendo assim, com as diversas tecnologias demonstrando, cada vez mais, novos mecanismos de repressão, deve-se dobrar a atenção relativa a essas ferramentas buscando a concretude das garantias existentes no plano dos direitos humanos.
