Neste momento, o Centro Europeu de Transparência Algorítmica investiga o funcionamento dos algoritmos utilizados pelas plataformas em linha para evitar possíveis riscos jurídicos.
É inegável que o mundo moderno se move e avança por e com algoritmos, o que por si só já seria motivo de espanto, considerando a inacessibilidade desses algoritmos, quase sempre protegidos pela propriedade intelectual. São eles que determinam muitos aspectos da navegação na Internet e algumas aplicações, podem, por exemplo, aconselhar qual artista ouvir depois de ouvir uma determinada música, mas também podem gerar uma lista de alimentos mais saudáveis para cada pessoa, ser uma ferramenta para escolher os melhores embriões para pesquisa ou determinar quais trabalhadores devem ser demitidos.
Os algoritmos também marcam a evolução da inteligência artificial, que decolou exponencialmente e cujo limite é, neste momento, desconhecido. No entanto, todos esses aspectos positivos podem ser obscurecidos pelos negativos, como a criação de vieses e bolhas de informação e cognitivas.
Quanto do seu dia você permanece conectado em algum aparelho, seja ele celular, tablet, notebook ou qualquer outro dispositivo conectado à internet como os canais de tv por streaming?
Quanto do seu tempo é dedicado a essa interação? Quanto das escolhas de conteúdo visualizado e produtos e serviços adquiridos você poderia dizer que realizou sem nenhuma interfer6encia do marketing digital?
Você certamente já ouviu falar dos algoritmos utilizados pelas empresas de tecnologia e seu poder de persuasão, para muitos custa chamar de “o perfeito instrumento de modulação”, em outras palavras, modulação algorítmica.
A modulação algorítmica tem como propósito influenciar os comportamentos como a chamada manipulação de mídia. A internet registra nossas preferências, através de nossas curtidas, compartilhamentos, leituras, compras, comentários, tudo milimetricamente registrado, desde o assunto ao horário, ao intervalo de curtidas, os sites registram os intervalos, sabem perfeitamente distinguir das curtidas protocolares, aquelas que fazemos pra dizer apenas que vimos, ainda que não tenhamos a menor noção do que de fato curtimos, naquilo que antigamente chamaríamos “rir pra não perder o amigo”.
E logo nessa economia da atenção, curtimos o almoço na praia do amigo postado no Instagram, ou a foto da colega na praia, ou o passeio de carro, de lancha, tudo que é postado e que tem relevância pra quem postou e que por isso mesmo ele acredita que seja relevante para o outro, quem melhor registra essa relevância é sempre o algoritmo, é ele que faz a leitura dos nossos sentimentos, vontades e por estatística edifica nossos perfis, propondo conteúdos, fotos, vídeos, produtos e serviços que gerem mais tempo de atenção, ou conversão através de clicks, comentários, compartilhamentos ou aquisição desses produtos e serviços que estão sendo ofertados.
Conforme passa o tempo e a nossa “pegada digital” é ampliada pela interconectividade das diversas plataformas os algoritmos vão calibrando a nossa “bolha social de convívio”.
Como lembra o ativista digital, Eli Pariser, no seu livro “O filtro invisível: O que a internet está escondendo de você”: “Com os novos métodos de “análise de sentimentos”, já é possível adivinhar como alguém está se sentindo. As pessoas usam muito mais palavras positivas quando estão se sentindo bem; analisando uma quantidade suficiente de mensagens de texto, postagens no Facebook e e-mails, é possível separar dias bons de dias ruins, mensagens sóbrias de mensagens bêbadas (muitos erros de ortografia, para começo de conversa). Na melhor das hipóteses, isso pode ser utilizado para oferecer conteúdo adaptado ao humor da pessoa: num dia ruim no futuro próximo, a rádio Pandora talvez aprenda a nos oferecer o álbum Pretty Hate Machine quando chegarmos em casa. Mas o método também pode ser usado para se aproveitar da nossa psicologia. Considere as implicações, por exemplo, de sabermos que certos clientes compram produtos compulsivamente quando estão estressados ou quando estão se sentindo mal consigo mesmos, ou até quando estão um pouco embriagados. Se o perfil de persuasão permite que um aparelho de coaching grite “você consegue” às pessoas que gostam de reforço positivo, em teoria isso também poderia ser usado por políticos, para que fizessem propaganda com base nos medos e pontos fracos de cada eleitor. “
Cada mídia com o tempo se especializa no maior aproveitamento, na maneira de gerar a maior “conversão”.
Como lembra o autor, “os longos infocomerciais não são mostrados no meio da madrugada apenas por serem mais baratos nesse horário. No meio da madrugada, as pessoas costumam estar especialmente sugestionáveis. Elas se interessam por um multiprocessador que nunca comprariam em plena luz do dia. No entanto, a regra das três da manhã é muito aproximada–supostamente, existem momentos na vida de cada um de nós em que estamos especialmente inclinados a comprar qualquer coisa que seja colocada diante do nosso nariz. Os mesmos dados que geram o conteúdo personalizado podem ser usados por marqueteiros para descobrir e manipular os nossos pontos fracos pessoais. E essa não é uma possibilidade hipotética: a pesquisadora da privacidade Pam Dixon descobriu que uma empresa de dados chamada PK List Management oferece uma lista de “Compradores Impulsivos”; as pessoas incluídas na lista são descritas como altamente suscetíveis a ofertas apresentadas como prêmios. Se a persuasão personalizada funciona no caso de produtos, também pode funcionar com ideias. Certamente existem momentos, lugares e tipos de argumentos que nos tornam mais suscetíveis a acreditar no que nos é dito. As mensagens subliminares são ilegais porque as pessoas reconhecem que certas formas de argumentar são essencialmente ilícitas; pré-condicionar as pessoas a comprar produtos usando palavras apresentadas subconscientemente durante um mero instante não é um método justo.”
Note que essa obra foi publicada no início de 2012, e que 11 anos em evolução tecnologia e em registro de novos algoritmos é uma eternidade, e logo tente imaginar o que nesse período foi ampliando em termos de usabilidade de gadgets e rastreio?
Para se ter uma ideia os algoritmos que têm o poder de identificar padrões, seja de busca, seja de hábitos, tem atualmente cerca de 8 mil patentes, um número assustador. Desse número 7,4% pertencem a Samsung, 4% a Microsoft, o Google 3,5%, Facebook outros 3%, e assim vai. Quem lidera o número de registro de patentes são empresas de tecnologia.
Pois então, qual a importância do algoritmo? O algoritmo identifica através de inúmeros padrões repetitivos quais são suas preferências e é através deste estudo comportamental que a engenharia humana, por meio desses perfis, vai indicar para você que conteúdo irá ser mostrado na web.
O conteúdo que você recebe de anúncios, por exemplo, é pautado nos seus hábitos de consumo que o algoritmo identificou. Cada vez mais as pessoas deixam de ter uma livre escolha para ter uma escolha modulada por um algoritmo.
Protegidos pela propriedade intelectual, muitos algoritmos das redes sociais cristalizam esse absurdo, e logo é na falta dessa transparência que a ignorância encontra seu fermento. Parte da genealogia desse problema em tempos redes sociais está na própria fonte dessas redes.
É essa falsa percepção de empoderamento que estimula e ajuda também, a tornar essas redes sociais viciantes, claro tudo isso alimentado pelas estratégias comercial e um design milimetricamente estudado para tornar seu uso absolutamente viciante.
É o nosso tempo a moeda com dados e ao mesmo tempo nosso vício, que nos transforma em escravos nessa relação que em muitos caso beira a enfermidade.
Por sua vez o algoritmo ao perceber os conteúdos não curtidos por você, não comentados e não compartilhados, vai tirando os mesmos da sua linha de tempo.
Nunca tivemos tanta informação e nunca a ignorância desfilou tão solta e reluzente aos olhos de incultos, maldosos e em uma parcela de inocentes. E é evidente também que nesse instante de transformação social, onde muitos não encontram mais espaço nesse novo mercado de trabalho que se desenha, levando os mesmo a serem massas de manobra das mais despudoradas teorias da conspiração, onde loucura pouca é bobagem.
Logo passamos a ser viciados em mentiras que nos projetam em nosso grupo, na bolha que vivemos, o filtro deixa de estar preocupado com a construção da verdade e vira prisioneiro da narrativa que fortalece os extremos em um hábito viciante.
Por isso é preciso abrir a caixa, que não pode utilizar a propriedade intelectual como defesa. Nesse momento as notícias mostram como os modelos de negócios focados em algoritmos em evolução estão começando a criar problemas: nos Estados Unidos, por exemplo, escolas públicas processaram o TikTok e o Facebook por "promover conteúdo nocivo" e envolver "dezenas de milhões de estudantes em ciclos de feedback positivo de uso excessivo e abuso de plataformas online".
Perante esta realidade, a auditoria algorítmica, na Europa, tornou-se uma ferramenta essencial e a recente abertura, em Sevilha, do Centro Europeu de Transparência Algorítmica (ECAT) demonstra como, a partir da União Europeia, este aspecto está em destaque.
O novo órgão, no âmbito da Comissão Europeia, nasceu para responder ao quadro de transparência e prestação de contas das plataformas online estabelecido pela Lei dos Serviços Digitais (DSA, que entrou em vigor em novembro de 2022) e para se tornar uma espécie de auditor algorítmico.
Dado o crescente impacto social dos sites, das redes sociais ou dos motores de busca, a UE entende que é necessário implementar uma supervisão pública dos processos destas empresas, incluindo, em particular, observar a forma como estas plataformas moderam conteúdos e como selecionam as informações que apresentam aos seus utilizadores.
A ECAT analisará estes aspetos, analisará algoritmos e atenuará os riscos, protegendo assim os direitos fundamentais dos utilizadores e criando um ambiente seguro nos sistemas utilizados pelas grandes plataformas e motores de busca.
Aqui no Brasil ainda estamos engatinhando, colhendo os frutos de um período de atraso na regulamentação, em um período em que os governantes de plantão estavam mais interessados em alimentar Fake News contra vacinas, ou discutir a lisura das nossas urnas digitais.