O advento da Lei Geral de Proteção de Dados Pessoais já é um marco regulatório de suma importância para o direito brasileiro, sobretudo por trazer as regras do jogo para um ambiente que era totalmente desregulado e sem parâmetros.
A 4ª Revolução Industrial, ocorrida há pouco mais de 25 anos, operou a transformação digital da qual esta geração é a herdeira maior, pois revolucionou o mundo do padrão analógico para o padrão digital.
E com esta revolução, os dados passaram a ser o ativo com maior relevância e valor. Tanto que já dizem que o dado “é o novo petróleo”. E mediante este ativo tão poderoso e importante, as empresas começaram a coletar e compartilhar estes mesmos dados na geração de conhecimento e valor para o seu portfólio.
Todavia, esta coleta dos dados numa velocidade, variedade e volume gigantescos, o que achamos de big data, combinado com outra poderosa ferramenta da nova tecnologia, a inteligência artificial, começou a desencadear problemas que pairam num cenário obscuro e nebuloso.
Isto ocorre, pois na busca da otimização das tarefas e melhoria dos serviços, delegando para as máquinas funções que antes só podiam ser desempenhadas por pessoas, o ser humano foi ficando de lado neste jogo cada vez mais pautado em interesses puramente econômicos e políticos.
E é no epicentro desta discussão que se encontra o problema das decisões exclusivamente automatizadas, que definem perfis e situações de pessoas sem qualquer supervisão ou avaliação humana.
Em seu texto original, o art. 20 da LGPD trazia o seguinte entendimento:
Art. 20 “ O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.
§ 3º A revisão de que trata o caput deste artigo deverá ser realizada por pessoa natural, conforme previsto em regulamentação da autoridade nacional, que levará em consideração a natureza e o porte da entidade ou o volume de operações de tratamento de dados.”(NR)
No entanto, alegando inviabilidade dos negócios caso essa medida fosse mantida, sobretudo de startups e fintechs, a revisão feita por pessoa natural foi vetada do texto da lei, apenas permanecendo o direito à revisão da decisão pelo titular de dados. (1)
Com a retirada deste ponto da lei, a consagração do princípio da explicabilidade, que norteia o estudo da inteligência artificial acabou perdendo força, haja vista a dificuldade de se encontrar um erro se a revisão for feita por uma outra inteligência artificial, já que a lei não fala em quem fará esta revisão.
A explicabilidade é uma das diretrizes que fundamentam o estudo e aplicação da inteligência artificial, sendo uma ferramenta a ser embutida no próprio projeto que visa utilizar a IA como mecanismo de trabalho.
É uma diretriz que visa dar mais segurança e confiança ao mercado e setores que utilizam a ferramenta da decisão automatizada, buscando trazer mais clareza e parâmetros para que as regras do jogo sejam estabelecidas, pois o uso da inteligência artificial jamais pode prejudicar o ser humano, pelo contrário, só pode ser usada quando for auxiliá-lo em alguma tarefa.
Em sua obra Direito e inteligência artificial: em defesa do humano, Juarez Freitas e Thomas Bellini Freitas afirmam que o art. 20 da LGPD consagrou a diretriz da explicabilidade e o princípio da motivação da decisão algorítimica, prestigiando os princípios da autodeterminação informativa, livre desenvolvimento da personalidade, a dignidade e exercício da cidadania. (2)
Contudo, a lei de proteção de dados brasileira foi insuficiente em relação a esta questão por dois motivos. O primeiro, porque de fato retira do seu texto a necessidade de ser feita a revisão humana das decisões realizadas por uma IA, o que precariza demais a avaliação das mesmas e reitera o tom de opacidade que estas decisões possuem.
O segundo motivo, está no fato da LGPD não colocar a decisão automatizada como uma exceção à regra, ou seja, a lei não fala nada sobre o uso desta ferramenta ser limitado a certas situações.
Na contramão desta postura encontra-se a GDPR, diploma legal sobre proteção de dados da União Europeia, que em seu art. 22º, assevera que as decisões automatizadas são uma exceção e só poderão ser utilizadas nas hipóteses previstas em lei. (3)
E esta postura mais rígida e limitadora possui uma finalidade. O objetivo de prezar não só pelo direito de o titular de dados requerer a revisão destas decisões como garantir que esta revisão seja efetiva.
Ela está no fato do grande potencial lesivo e discriminatório que decisões deste porte podem desencadear. Uma delas é a negativa de acesso ao crédito, pelos sistemas de score que tomam por base a localização, nacionalidade ou gênero (4). Um caso semelhante aconteceu no Brasil, em que a Decolar.com diferenciava o preço das passagens de acordo com a localização geográfica do consumidor, prática do geo-blocking (5).
Também é possível listar o trágico e revoltante caso do app Google Fotos que reunia fotos de pessoas negras num álbum denominado Gorilas, sendo uma clara decisão algorítmica fundada em preconceito racial. (6)
Por fim, também é possível salientar que muitas empresas estão utilizando o mecanismo da IA para realizar seleção de candidatos e otimização de processos seletivos, com base em decisões automatizadas. Caso estas decisões não possam ser revistas (seria bom que por um ser humano), quais garantias de que muitas discriminações e exclusões não serão realizadas contra as pessoas?
A LGPD é um diploma legal que, apesar de ser a primeira lei a regular de forma unificada e ampla a questão dos dados pessoais e da privacidade, outros diplomas legais já o faziam no Brasil, como a própria Constituição Federal e o Código de Defesa do Consumidor.
E junto destes diplomas legais, a lei veio garantir não só a privacidade do titular de dados, mas também sua capacidade de autodeterminar o que fazem com informações a seu respeito, a proteção dos seus dados como um corolário da sua dignidade, uma vez que os seus dados falam quem você é.
E por último, mas não menos importante, a lei veio trazer transparência para o tratamento dos dados pessoais, sendo um mandamento a clareza deste tratamento para o titular.
Desta forma, a explicabilidade das decisões automatizadas é um ponto chave para que esta transparência aconteça, não podendo os caminhos traçados por algoritmos ficarem presos numa espécie de “caixa preta”, a qual somente a empresa e quem ela quiser terão acesso.
O direito à explicabilidade funciona como uma tomada de consciência para o cidadão, num país que ainda engatinha no que tange à proteção de dados pessoais, que definitivamente deve ter em sua mente a seguinte assertiva: meus dados, minhas regras!
Referências
- Disponível em: < http://www.planalto.gov.br/ccivil_03/_Ato2019-2022/2019/Msg/VEP/VEP-288.htm>. Acesso em 02/07/2021.
- FREITAS, Juarez. Direito e Inteligência Artificial: em defesa do humano/ Juarez Freitas e Thomas Bellini Freitas. – Belo Horizonte: Fórum, 2020.
- Disponível em: https://gdpr.algolia.com/pt/gdpr-article-22. Acesso em 02/07/2021.
- Disponível: https://www.theatlantic.com/technology/archive/2016/12/how-algorithms-can-bring-down-minorities-credit-scores/509333/. Acesso em 02/07/2021.
- Disponível em: https://www.infomoney.com.br/consumo/decolar-e-multada-em-r-75-milhoes-por-praticas-abusivas-contra-consumidor/. Acesso em 02/07/2021.
- Disponível em: https://www.tecmundo.com.br/google-fotos/82458-polemica-sistema-google-fotos-identifica-pessoas-negras-gorilas.htm. Acesso em 02/07/2021.
