Por Jyotirmoy Banerjee, Docente, IPL. (Programa Integrado em Direito), Instituto Indiano de Administração em Rohtak, tradução por Ícaro Aron Paulino Soares de Oliveira.

O ChatGPT é um chatbot de inteligência artificial (IA) que emprega processamento de linguagem natural e métodos de aprendizado de máquina para imitar a comunicação humana. Os benefícios da tecnologia incluem permitir que as empresas dimensionem mais facilmente seus esforços de interação com o cliente, automatizando o suporte para esses clientes e removendo as barreiras linguísticas no diálogo intercultural. No entanto, como acontece com qualquer avanço tecnológico, existem possíveis desvantagens e preocupações éticas a serem consideradas.

Quando se trata de direitos humanos, a privacidade é uma das preocupações mais prementes levantadas pelo ChatGPT. O ChatGPT, sendo um chatbot interativo, pode aprender informações confidenciais sobre seus usuários por meio de suas conversas com ele. Para que o chatbot respeite a privacidade de seus usuários, ele deve apenas coletar os dados necessários para realizar as tarefas a que se destina, e seus usuários devem ser informados sobre a coleta de dados e o uso pretendido.

A liberdade de expressão é outra pedra angular da dignidade humana. Existe o risco de que chatbots como o ChatGPT sejam usados para promover fanatismo ou espalhar desinformação. Para evitar isso, devemos garantir que o chatbot seja treinado para verificar cada conteúdo enviado pelo usuário e incentivar a mente aberta e a aceitação dos outros.

Um desses direitos humanos que pode ser afetado pelo uso do ChatGPT é o direito à igualdade. É possível propagar a discriminação por meio do uso de um chatbot se ele for configurado para empregar uma linguagem tendenciosa contra determinados grupos. O direito à igualdade exige que o chatbot seja construído com um vocabulário inclusivo e não discriminatório.

O ChatGPT também pode afetar a liberdade de obter e transmitir informações livremente. Se você deseja compartilhar informações com pessoas que talvez não tenham acesso a elas de outra forma, o chatbot é o caminho a percorrer. Mas o chatbot pode ser usado para suprimir a liberdade de expressão ou espalhar desinformação. A acessibilidade do chatbot deve ser priorizada para que todos os usuários, inclusive aqueles com limitações físicas, possam simplesmente acessar as informações que ele disponibiliza

Os usuários do ChatGPT devem ter em mente o direito à privacidade. Considerando a capacidade dos chatbots de coletar e manter as informações pessoais dos usuários, é crucial que o façam com segurança e de acordo com as leis de proteção de dados aplicáveis.

RESPEITO AO SIGILO INDIVIDUAL:

O direito à privacidade é um dos pilares dos direitos humanos. Chatbots como o ChatGPT destinam-se a imitar a conversa humana, portanto, é crucial que as informações pessoais dos usuários permaneçam seguras quando eles interagem com o software. Em outras palavras, o chatbot não deve conseguir coletar informações confidenciais sobre seus usuários sem seu conhecimento e permissão.

O ChatGPT, como outros chatbots baseados em IA, foi desenvolvido para adquirir novas habilidades conversando com as pessoas. Isso implica que ele pode coletar as informações que podem ser usadas para identificar um indivíduo, como nome, endereço e número de telefone. Para preservar a privacidade dos usuários, o chatbot deve ser construído para coletar apenas os dados necessários para realizar as tarefas pretendidas, e os usuários devem estar cientes dos dados coletados e como serão usados.

A LIBERDADE DE EXPRESSÃO:

A liberdade de expressão é outro direito humano fundamental. Chatbots, como o ChatGPT, podem ser usados para ajudar as pessoas a encontrar informações e conversar umas com as outras. Mas o chatbot pode ser mal utilizado para propagar desinformação ou defender o fanatismo.

Se quisermos manter intacto o nosso direito à liberdade de expressão, precisamos garantir que o chatbot seja confiável para fornecer conselhos justos e equilibrados. Isso exige que o chatbot seja projetado para verificar as reivindicações antes de apresentá-las aos usuários. O chatbot também deve ser feito de forma a encorajar as pessoas a aceitarem umas às outras.

A POSSE DO BEM A SER TRATADO DA MESMA FORMA:

A igualdade de tratamento também é um direito humano básico. Existe o risco de que chatbots como o ChatGPT possam ser utilizados de forma racista ou sexista. Os chatbots podem ser usados para propagar a discriminação se forem ensinados a usar retórica sexista ou racista.

Para evitar violações do direito à igualdade, é fundamental que o chatbot seja programado para usar uma linguagem aberta e afirmativa. Os chatbots devem ser treinados para evitar o uso de terminologia sexista, homofóbica, transfóbica, transexual, transgênero ou ofensiva de qualquer outra forma.

O DIREITO CONSTITUCIONAL DO SABER:

Outro direito humano fundamental é a liberdade de buscar e receber conhecimento. As informações podem ser disseminadas para aqueles que não as teriam de outra forma usando chatbots como o ChatGPT. No entanto, o chatbot pode ser mal utilizado para suprimir a liberdade de expressão ou espalhar informações falsas.

Proteger a liberdade de informação das pessoas exige que o chatbot seja construído para fornecer informações verdadeiras e imparciais às pessoas. O chatbot também deve ser projetado para garantir que suas informações sejam acessíveis a todos os usuários, incluindo aqueles com necessidades especiais.

A GARANTIA CONSTITUCIONAL DA PRIVACIDADE:

Da mesma forma, o direito à privacidade das informações pessoais é um direito humano básico. Chatbots como o ChatGPT podem coletar e salvar informações confidenciais dos usuários. Isso possibilita que o chatbot seja utilizado de forma a violar o direito à privacidade.

Se quisermos defender o direito à privacidade, devemos garantir que o chatbot seja criado para coletar e manter informações pessoais de maneira segura e legal. Além disso, os consumidores precisam ser informados sobre as práticas de coleta de dados e seus resultados pretendidos.

A maneira como as pessoas falam umas com as outras pode ser completamente transformada por chatbots como o ChatGPT. Portanto, devemos ser cautelosos em nossa aplicação dessas tecnologias.

BIBLIOGRAFIA:

ChatGPT and Human Rights: Navigating the Technological Frontier International Journal of Humans Rights Law Review, 2023. Disponível em: <https://humanrightlawreview.in/chatgpt-and-human-rights-navigating-the-technological-frontier/>. Acesso em: 20 de março de 2023.