Com o crescente avanço da tecnologia nas últimas décadas, trilhando desde o surgimento da internet até advento do big data, machine learning (ML) e o conceito de algoritmos trazido pela inteligência artificial, temas que envolvem a ética como plano de fundo, começam a renascer no cenário contemporâneo.
A ética, discutida já na Antiga Grécia por Aristóteles, nada mais é do que a responsável pelos estudos e análise de atitudes certas ou erradas, tendo como objeto investigar a natureza do que consideramos adequado e moralmente correto, ditando assim na sociedade a cada dia mais os passos adotados pela ciência.
Quando relacionamos ética e moral as questões tecnológicas, não podemos ser negligentes em reconhecer que as tecnologias não são institutos autônomos, dado que a inteligência artificial perpassa não só por questões sociais mas também pelos campos da robotização, do big data e a técnica do deep learning, sendo assim estes últimos, campos que se co-dependem, que se aceleram mutuamente.
A indagação que fica é: se o campo da inteligência artificial remonta a 1956, quando John McCarthy cunhou o termo, por que a questão ética está na pauta nos últimos anos? Engana-se quem acha que isto não é relevante, visto que os algoritmos de inteligência artificial estão interferindo em um conjunto amplo de atividades, na sua grande maioria sem transparência. Com o aparecimento do machine learning, tecnologia proporcionada pelo big data, no qual o computador “aprende” e “pensa” a cada interação, esta relativa autonomia conquistada pelas máquinas coloca para a sociedade temas éticos e a necessidade de se estabelecer arcabouços legais, deixando nada mais atual do que a expressão de Decartes: “Penso, logo existo”. Em termos técnicos é dizer que ocorre uma incorporação de algoritmos [1] que permitem que o computador transforme essas informações em experiências novas, respeitando seus limites estruturais e incorporando ao seu conjunto de dados, onde a cada interação a reação da máquina é aprimorada, daí vem o termo rotineiramente usado pelos programadores que a máquina “aprende” com o sistema.
A sociedade já vem sinalizando que entendeu o recado sobre a importância da ética no meio tecnológico. Estudo encomendado pelas empresas de tecnologia SAS, Intel e Accenture mostrou que no Brasil 69% das empresas estão investindo em treinamento de seus colaboradores para atuarem de forma ética na utilização de tecnologias de inteligência artificial.
1.1.A ficção como aliada
A ficção vem se mostrando uma grande aliada para suscitar questões sociais no ambiente tecnológico, senão vejamos.
- AI – Artificial Intelligence (filme, 2001): no filme os robôs aparentemente apresentam mais humanidade que seus próprios criadores, por não estarem envolvidos com quebra-cabeças entre o certo e o errado, já que essa consciência dos seus dois lados que permitem aos humanos as escolhas éticas.
- Matrix (trilogia, 1999): o filme traz a liberdade como alvo para reflexão. Não só aborda a liberdade dos humanos, mas também a liberdade das máquinas como motivo de uma preocupação ética de se criar tais seres artificiais.
- O Homem Bicentenário (filme, 1999): neste filme baseado do livro de Issac Asimov, o robô tem uma capacidade que o difere dos outros robôs, o que faz com que ele se aproxime dos humanos, qual seja, sua criatividade e capacidade de amar. Com o passar dos anos, o robô pedi o direito de ser considerado um cidadão. O enredo nos convida a refletir sobre quais aspectos devem ser analisados para se caracterizar a cidadania de um ser? Qual o impacto de se considerar um robô, uma criatura da tecnologia, como um cidadão?
1.2.“Solidificando” a ética no meio digital
No ambiente digital o debate, do ponto de vista ético, converge para dois grandes temas: a) incorporação aos sistemas inteligentes de valores, ética, princípios humanos (moral learning, machine ethics) e o b) controle humano sob os sistemas inteligentes. Como regulamentar sem inibir a inovação? Como sair do conflito entre o processo de aprendizado das máquinas até então baseado no comportamento humano, que nem sempre é coerente e muitas vezes contraditório? Como os sistemas inteligentes vão aprender com uma diversidade absoluta de comportamentos não éticos e éticos?
Se não for amparada pela ética, a inteligência artificial se torna um vetor para codificar o preconceito humano, afetando diretamente àqueles que possuem acesso à internet e a dispositivos digitais. Quantas vezes já não se ouviu na mídia sobre os robôs militares autônomos que traçam conexões entre “suspeitos” e determinam sua consequente eliminação? Ou então os critérios questionáveis definidos por algoritmos na hora de seleção para vagas de emprego ou na contratação de empréstimo bancário.
Os padrões que usamos para coletar os dados e transforma-los em matemática (algoritmos), nada mais são do que nossas opiniões incorporadas, como por exemplo o chatbot Tay, lançado pela Microsoft em 2016, que em menos de 24h se transformou num defensor de sexo incestuoso e admirador de Hitler por estar usando como como base de suas respostas os diálogos de adolescentes. Por esse e outros motivos que a aplicação da ética não se limita aos padrões que usamos, mas também deve atingir aqueles que estão por trás dos bastidores, os padronizadores das informações.
Por outro giro, aplicar a ética também é avaliar o impacto que os riscos éticos contribuem para que as empresas evitem custos desnecessários ou até mesmo potenciais riscos derivados do uso inadequado da tecnologia. Sendo assim, é de suma importância testar os algoritmos e a as implementações dos sistemas artificias em situações complexas, a fim de se ter uma ideia formada de resultados potencialmente impróprios e quem serão os afetados, positiva e negativamente.
1.3.O que o mundo está fazendo?
Um dos dilemas da inteligência artificial é identificar o limite que as máquinas treinadas por este sistema conseguem entender sobre questões essencialmente humanas, definindo o que é bom ou ruim para o usuário; separando o joio do trigo.
Para mitigar este e outros problemas, um time de pesquisadores da IBM e do MIT Media Lab está trabalhando em uma ferramenta de recomendações baseada em inteligência artificial, com o objetivo de apresentar conteúdos que não só foquem no interesse do público, mas leve em consideração diretrizes éticas e comportamentais do ser humano.
A SAP, empresa europeia de tecnologia e criadora de softwares de gestão de empresas, anunciou no início de 2018 a criação de um comitê externo de ética para inteligência artificial, se tornando assim, a primeira a possuir um conselho consultivo sobre o assunto.
Alguns países também, incluindo o Canadá, estão investindo pesado em pesquisa de inteligência artificial, visando não apenas a pesquisa básica, mas também aplicar no pensamento coletivo e em pesquisa na área de ciências sociais e humanas, com o fito de avaliar o impacto social da inteligência artificial.Em3 de novembro de 2017, em uma iniciativa da Universidade de Montreal para ajudar a desenvolver a Montreal Declaration fora Responsible Development of Artificial Intelligence (Declaração de Montreal para o Desenvolvimento Responsável da Inteligência Artificial, em tradução livre) foi aberto um debate. Esta aproximação busca estabelecer preceitos éticos para o desenvolvimento de inteligência artificial no âmbito nacional, identificando os seguintes valores: bem-estar, autonomia, justiça, privacidade, conhecimento, democracia e responsabilidade.
O potencial que as máquinas tem em infringir normas e padrões éticos e morais aceitáveis, mesmos que questionáveis, traz grandes inquietações em todo o mundo, pelo fato que o uso de inteligência artificial age em diversos comportamentos e julgamentos de importância vital do nosso cotidiano. Nesta sequência, a IEEE (Institute of Electrical and Electronic Engineers) teve uma iniciativa global de considerações éticas no ramo de inteligência artificial, por meio do Ethically Aligned Design. A associação alinhou alguns princípios basilares para considerar a questão da ética na inteligência artificial: princípio do benefício humano, para que as inteligências artificiais não desrespeitem direitos humanos; princípio da responsabilidade, segundo o qual os poderes eleitos ou o próprio poder judiciário devem criar normas claras de responsabilidade jurídica envolvendo casos com inteligência artificial; princípio da transparência, e princípio da educação e consciência, de modo a minimizar os riscos de mau uso da inteligência artificial.
1.4.Em busca de um código de ética
Mais do que conduzir-nos à Quarta Revolução Industrial, a inteligência artificial está provocando uma revolução cultural, transformando nosso futuro, ainda que desconhecemos exatamente de qual maneira. Ao tempo em que o desenvolvimento tecnológico se torna complexo, mais complexas ainda são as questões éticas. Enquanto os princípios éticos não mudam, as formas que abordamos tais questões podem mudar radicalmente, inconscientemente ou não.
Atualmente, não há consenso sobre como a ética e a moralidade podem ser ensinadas, até mesmo para humanos com base apenas em pensamentos racionais, quanto mais com relação à inteligência artificial. E mesmo se um sistema artificial tenha sido programado a ser ético, qual ética utilizaríamos? Seria esta ética a mesma dos desenvolvedores, considerando que o desenvolvimento de inteligência artificial é principalmente dirigido pelo setor privado? Se sim, temos que considerar a possibilidade de que a ética do setor privado possa ser inconsistente com a ética da sociedade. Precisamos ter certeza de que a estrutura ética usada por nós para desenvolver a inteligência artificial também leve em conta questões mais abrangentes de responsabilidade social, para assim equilibrar potenciais rupturas na sociedade humana.
É inegável o fato de que existem muito mais perguntas do que respostas, já que o tema às vezes é ambíguo ou não verbalizado mesmo entre os próprios humanos, isto porque, há diversas interpretações possíveis acerca do que seja um parâmetro mínimo de ética e moral, logo, não será agora que as máquinas darão todas as respostas para esses dilemas sociais que se perduram por séculos.
[1] “(a) procedimento passo a passo para a solução de um problema; b) sequência detalhada de ações a serem executadas para a realização de um problema.”
MEDINA, Marco; FERDIG, Cristina, Algoritmos e Programação – teoria e prática. Edição 2005, São Paulo/SP: Editora Novatec. p. 13.
