A denunciante do facebook, Franci Haugen provou com os seus testemunhos, amparados em documentos e relatórios internos do facebook, que os algoritmos da rede social são desenvolvidos de forma a amplificar os conteúdos de ódio e desinformação, que geram engajamento, e, portanto, lucro, para a rede social.
Todas as plataformas digitais precisam de engajamento para monetizar. Os algoritmos são um conjunto de dados e regras estabelecidas por cada rede social e plataforma digital. Eles serão responsáveis por determinar quais conteúdos aparecem em suas redes sociais quando você as acessa.
Por esse ser um ano eleitoral, devemos ficar mais atentos aos mecanismos que geram engajamento, discurso de ódio e ampla desinformação.
Por seu turno, a globalização promove uma democracia baseada na economia neoliberal, cujos componentes incluem a livre movimentação de capital e finanças, livre comércio, livre movimentação de pessoas e a livre transferência de ideias e conceitos por meio das redes sociais.
Embora tenha alcançado muitas dessas importantes mudanças, também fomentou seu oposto: um mundo sem fronteiras, onde parte dos governos mundiais se enfraqueceram.
A concorrência entre os agentes econômicos é maciça, acentuada por forte competitividade. Milton Santos assenta a ideia de que na realidade, as relações chamadas globais são reservadas a um pequeno número de agentes, os grandes bancos e empresas transnacionais, alguns Estados e grandes organizações internacionais[1]
A essa globalização moderna, Milton Santos vai cunhar o termo globalização perversa, visto que está produzindo mais desigualdades e as conquistas técnicas e cientificas estão sendo usadas de forma inadequadas, tendo em vista que cresce a fome, as desigualdades, desemprego, pobreza e insegurança do cotidiano.
Para o escritor, um mundo solidário produziria muitos empregos, ampliaria o intercâmbio político entre os povos, eliminaria o processo competitivo que todos os dias reduz as mãos-de-obra, produziria mais alimentos que combateria a fome e reduziria drasticamente a morte as doenças e mortalidades (SANTOS, 2002: p.80),
O país mais competitivo, com mão-de-obra mais barata tem a possibilidade de fechar contratos com grandes empresas estrangeiras, que pagarão baixos impostos e terão inúmeros incentivos, tais como fraqueza regulatória, menos leis trabalhistas, menos proteção ao trabalhador, mais doenças ocupacionais, acidentes de trabalho, jornadas de trabalho mais baratas, precarização da vida e saúde do trabalhador, mais lucro, menos fronteiras.
Quanto mais precarização da força de trabalho e maiores lucros, mais pobreza, desemprego e insatisfação com o governo, o que atrai mais isolamento, sensação de não pertencimento, descontentamento com o cenário atual e com apoio das redes sociais, um passo para o discurso de ódio e fake news.
Já há estudos apontando o fenômeno do desemprego tecnológico e estrutural, devido a substituição de trabalhadores por máquinas e inteligência artificial.
Na era do algoritmo, as decisões que afetam nossas vidas estão sendo tomadas por modelos automáticos, seja a concessão de um empréstimo pessoal, para aquisição de carro, ou a candidatura para uma vaga de emprego, momento em que a inteligência artificial e algoritmos já descartam na hora os candidatos que supostamente não se enquadraria no perfil desejado.
No seu livro Weaphons of Math Destruction, How Big Data Increases Inequality and Threatens Democracy, Cathy O´neil vai explicar o que são essas armas de destruição matemáticas e como esses modelos matemáticos estão enfraquecendo a democracia e reforçando desigualdades.
O livro vai trazer à tona o sistema LSI-R - Level of Service Inventory, que trata de um longo questionário que deve ser respondido pelos presos americanos e na qual juízes de alguns estados como Idaho e Colorado utilizam a pontuação obtida para guiar o julgamento dos infratores
Referido sistema, adotado em 1995, privilegia perguntas pessoais, do tipo qual a primeira vez que você se envolveu com a polícia e se possui amigos ou parentes tem registros criminais, bairro em que nasceu.
O problema das respostas a essas perguntas, que categoriza os presos como de alto, médio e baixo risco é o julgamento incorreto, visto que o preso considerado de alto risco provavelmente é desempregado, vem de um bairro onde a maioria de seus amigos e parentes tiveram problemas com a polícia e graças a alta pontuação na avaliação, recebe uma sentença longa e é colocado ao lado de outros presidiários, fato que aumentaria sua probabilidade de retorno à prisão.
Quando solto, é liberado para o mesmo bairro pobre de onde veio, com registro criminal, que dificulta a obtenção de um emprego e se ele comete outro crime, contribui para o modelo tóxico da qual foi inserido através das WMDs - Weaphons of Math Destruction, tendo em vista que um criminoso que cresceu em um confortável subúrbio teria uma menor pontuação pelas respostas negativas ao questionário, tais como não envolvimento anterior com a polícia, amigos e familiares sem passagens.
Nesse passo, negros e latinos, pelos seus históricos de vida, nascimento em lugares pobres, amigos e familiares com passagens, maior pontuação.
O livro destaca que quanto mais pobre, menor a pontuação de crédito. Além disso, a moradia em bairros com alta criminalidade afeta de sobremaneira a vida dessas pessoas que tem mais dificuldade em conseguir empregos e sair do ciclo vicioso do qual se encontram, impedidos de terem acesso à melhores condições de moradia e educação.
E então, uma vez pobre, sempre pobre, tendo em conta que os algoritmos farão com que tal pessoa obtenha financiamentos de imóveis e todo tipo de seguros a taxas maiores, por conta do risco de inadimplência.
Por outro lado, esses mesmos algoritmos favorecem serviços exclusivos para os chamados vencedores da sociedade, como descontos progressivos e acessos a serviços VIP.
Os algoritmos também são um problema nas redes sociais quando priorizam o engajamento à segurança.
Algumas faculdades americanas como MIT e Carnegie Mellon estão procurando alterar os critérios pré-estabelecidos pelos algoritmos. Em Princeton, como medida de transparência e auditoria, já existem pesquisadores que lançaram robôs softwares que mascaram se a pessoa é pobre, rica, homem, mulher ou se sofre problemas de saúde mental.
Com essa navegação sem viés, os pesquisadores procuram melhorar os sites de buscas de empregos.
Talvez esse seja um passo para a melhor utilização de ferramentas que devam ser uteis e não prejudiciais para a sociedade.
