No dia 19 junho de 2021, a autoridade nacional de proteção de dados da Itália (GDPD – Garante per la Protezione dei Dati Personali) condenou a empresa de entregas Foodinho (pertencente à empresa espanhola Glovo) ao pagamento de uma multa de 2,6 milhões de euros e ao cumprimento de obrigações de fazer, consistentes na modificação dos algoritmos utilizados para o gerenciamento da equipe de entregadores, na apresentação dos documentos com os registros de tratamento de dados e na ampliação da transparência, a fim de verificar eventual ocorrência de discriminação negativa).
A investigação administrativa envolveu a análise da gestão automatizada de aproximadamente 19 mil entregadores do Foodinho na Itália, e comparou com outras plataformas on-line de entregas. A autoridade italiana concluiu que o sistema de gerenciamento do Foodinho descumpriu normas trabalhistas, o direito à privacidade e pode ter realizado o tratamento de forma discriminatória os seus entregadores.
A discriminação negativa pode ter ocorrido, segundo a GDPD, pela ausência de um sistema transparente para a escolha e avaliação dos entregadores: a empresa não explica aos trabalhadores como ocorre a tomada de decisões pelo algoritmo na avaliação do trabalho e na distribuição dos pedidos, não assegura a possibilidade de contestação da formação do perfil e das decisões da plataforma pelos trabalhadores, e também não possui um mecanismo de revisão das decisões automatizadas, com intervenção humana.
Além disso, a decisão é a primeira de uma série de atos de fiscalização da autoridade italiana sobre os métodos utilizados pelas plataformas on-line de entrega na gestão de seus trabalhadores.
Esse caso ilustra a sociedade reputacional atual, em que as pessoas têm notas atribuídas o tempo inteiro para a elaboração de perfis e não há transparência na atribuição das notas ou pontos e na elaboração do ranking (o que pode atrapalhar ou impedir o acesso a oportunidades de emprego, de crédito, entre outras situações, como já ocorre no score social da China).
Assim, situações como as mostradas no episódio “Queda Livre”, oitavo da terceira temporada da série de tv Black Mirror, são cada vez mais atuais (e não uma ficção sobre o futuro), com a avaliação constante das pessoas, para a realização de rankings e perfis que serão levados em conta na tomada de decisões, automatizadas ou não.
Na LGPD brasileira, além do direito de revisão do titular dos dados sobre as decisões automatizadas que afetarem seus interesses (art. 20), estão entre os princípios de tratamento dos dados pessoais a transparência (art. 6º, VI) e a não discriminação (art. 6º, IX).