O tema surgiu após ler uma decisão judicial lá do TJDFT. Lá o Relator Designado da 8ª Turma Cível motivou sua decisão dizendo que “Não há como se imputar má-fé às cobranças feitas por sistemas computacionais, por robôs eletrônicos...”.
Lá ele fala da 4ª Revolução Industrial.
Daí surgiu uma vontade de falar sobre o tema.
Inicialmente vamos falar sobre a 4ª Revolução Industrial e sobre o Algoritmo, depois, a questão de fundo, ou seja, o robô não age de má-fé.
O que é a 4ª revolução industrial:
Bom, no final do século 17 foi a máquina a vapor. Desta vez, serão os robôs integrados em sistemas ciberfísicos os responsáveis por uma transformação radical. E os economistas têm um nome para isso: a quarta revolução industrial, marcada pela convergência de tecnologias digitais, físicas e biológicas.
"Estamos a bordo de uma revolução tecnológica que transformará fundamentalmente a forma como vivemos, trabalhamos e nos relacionamos. Em sua escala, alcance e complexidade, a transformação será diferente de qualquer coisa que o ser humano tenha experimentado antes", diz Klaus Schwab[1], autor do livro A Quarta Revolução Industrial, publicado este ano.
Prosseguindo: "A quarta revolução industrial não é definida por um conjunto de tecnologias emergentes em si mesmas, mas a transição em direção a novos sistemas que foram construídos sobre a infraestrutura da revolução digital (anterior)"
Também chamada de 4.0, a revolução acontece após três processos históricos transformadores. A primeira marcou o ritmo da produção manual à mecanizada, entre 1760 e 1830. A segunda, por volta de 1850, trouxe a eletricidade e permitiu a manufatura em massa. E a terceira aconteceu em meados do século 20, com a chegada da eletrônica, da tecnologia da informação e das telecomunicações[2].
A quarta mudança traz consigo uma tendência à automatização total das fábricas por meio de sistemas ciberfísicos, que combinam máquinas com processos digitais, que são capazes de tomar decisões descentralizadas e de cooperar - entre eles e com humanos - mediante a internet das coisas.
Segundo os teóricos, é uma "fábrica inteligente". Verdadeiramente inteligente. O princípio básico é que as empresas poderão criar redes inteligentes que poderão controlar a si mesmas.
Nessa Revolução 4.0, os acadêmicos mais entusiastas têm na cabeça: nanotecnologias, neurotecnologias, robôs, inteligência artificial, biotecnologia, sistemas de armazenamento de energia, drones e impressoras 3D.
E esse trem de Algoritmo?
É a base do processo de desenvolvimento de software e fazem parte das ferramentas pelas quais programadores criam estratégias para fracionar problemas em etapas e processos que podem ser traduzidos computacionalmente. Na tecnologia, há exemplos de todos os níveis de complexidade[3].
O que é um algoritmo exemplo? Todas as tarefas executadas pelo computador, são baseadas em Algoritmos. Logo, um algoritmo deve também ser bem definido, pois é uma máquina que o executará. Uma calculadora por exemplo, para executar a operação de multiplicação, executa um algoritmo que calcula somas até um determinado número de vezes[4].
Exemplo de Algoritmo
Imagine o trabalho de um recepcionista de cinema, ele deve conferir os bilhetes e direcionar o cliente para a sala correta. Além disso, se o cliente estiver 30 minutos adiantado o recepcionista deve informar que a sala do filme ainda não está aberta. E quando o cliente estiver 30 minutos atrasado o recepcionista deve informar que a entrada não é mais permitida.
Escrevendo um algoritmo para descrever a atividade do recepcionista.
Algoritmo Recepcionista de Cinema
Inicio
1 - Solicitar ao cliente o bilhete do filme.
2 - Conferir a data e o horário do filme no bilhete.
Se data/hora atual > data/hora do filme + 30 minutos Então
3 - Informar ao cliente que o tempo limite para entrada foi excedido.
4 - Não permitir a entrada.
Senão Se data/hora atual < data/hora do filme - 30 minutos Então
5 - Informar ao cliente que a sala do filme ainda não foi liberada para entrada.
6 - Não permitir a entrada.
Senão
7 - Permitir a entrada.
8 - Indicar ao cliente onde fica a sala do filme.
Fim-Se
Fim[5]
E o que tem a ver tudo isso – 4ª Revolução Industrial e Algoritmo – com o erro humano e má-fé?
Já foi falado, resumidamente, sobre a 4ª Revolução Industrial e sobre Algoritmo.
Erro humano e má-fé:
Erro Humano: existem dois tipos de erros humanos: Erro não intencional e intencional. Erros não intencionais: São ações cometidas ou omitidas sem pensamento prévio.
Causas do Erro Humano:
1. Falha de comunicação
2. Falta de treinamento eficaz
3. Falha de memória
4. Negligência
5. Equipamentos mal projetados
6. Cansaço, fadiga
7. Ignorância
8. Condições de trabalho ruidosas
9. Outros fatores pessoais e ambientais
Tipos de Erro[6]:
- Erros Baseados em Habilidades: “escorregões e deslizes” – quando a ação realizada não é a que se pretendia;
- Erros Baseados em Regras: ações que visam a intenção planejada, mas não atingem o resultado pretendido por má aplicação de uma regra ou um planejamento inadequado; e
- Erros Baseados em Conhecimento: as ações não atingem o resultado pretendido por falta de conhecimento.
Exemplos de Tipo de Erro[7]
Baseado em Habilidade: Uma motorista experiente pisa no freio ao invés de pisar na embreagem.
Baseado em Regra: Usar cola de madeira para tentar colar a moldura de óculos que são de plástico.
Baseado em Conhecimento: Um padeiro novo não consegue fazer um bolo pois achou que poderia colocar pó de bicarbonato de sódio no lugar do fermento em pó.
Má-fé: significa uma tendência natural e consciente para agir maldosamente; fraude. Falta de lealdade; comportamento de quem busca enganar ou iludir outra pessoa. [Jurídico] Designação jurídica que caracteriza ações cometidas contra a lei, sem motivo aparente ou justificativa legal, tendo plena noção sobre o que se faz.[8]
A má-fé é inerente à atitude humana de quem age com a intenção deliberada de enriquecimento ilícito ao cobrar o que já foi pago, ao receber o que foi cobrado e ao cobrar o que não era devido, sem qualquer engano ou erro justificável[9].
Após escrever, simploriamente, sobre o erro humano, má-fé, 4ª Revolução Industrial e Algoritmo, chega-se a decisão do TJDFT
Cobrança indevida por administradora de cartões de crédito – impossibilidade de imputação de má-fé
"4. Para a devolução em dobro, não basta a cobrança indevida. As instituições financeiras, conceito que compreende bancos e, também, companhias que administram operações de cartões de crédito, conhecidas como bandeiras, operam com inteligência artificial, a chamada 4ª Revolução Industrial, que é caracterizada pela fusão de tecnologias que puseram em xeque as esferas física, digital e biológica. Não há como se imputar má-fé às cobranças feitas por sistemas computacionais, por robôs eletrônicos. 5. Há que se repensar conceitos que não poderão receber dos juristas as antigas soluções impostas pelo Direito Romano ao vendedor de balcão, com caderneta de apontamentos pessoais dos seus fregueses, contemporânea da 1ª Revolução Industrial, a era da máquina movida a vapor. 6. As inconsistências do emprego de inteligência artificial não podem ser punidas com o rótulo da má-fé, atributo exclusivamente humano, ínsito a quem anota, naquela mencionada caderneta, uma compra que não foi feita ou uma dívida que já foi paga, para dobrar, fraudulentamente, o lucro no fim do mês. 7. Sem os requisitos legais, a devolução do indébito deve ocorrer de forma simples." (Acórdão 1157854, 07150148120188070001, Relator Designado: DIAULAS COSTA RIBEIRO, 8ª Turma Cível, data de julgamento: 14/3/2019, publicado no DJe: 6/5/2019)[10]
Essa é a Ementa, da decisão posta no Acórdão 1157854/TJDFT.
Intriga-se, se de fato esses programas que municiam os sistemas operacionais bancários têm vida própria. Se na montagem ou na alimentação de dados desses sistemas, pode um humano errar propositalmente ou ainda, uma falta de conferência do humano no processo de desenvolvimento de software.
Se por uma invasão por hacker ou vírus, evidente que não há culpa da instituição financeira, pois, o banqueiro não, mesmo agindo com zelo, periciando e conferindo diariamente seus programas de computação, teve sem sua vontade um ataque, que mesmo possível, não colaborou com isso. Salvo, evidentemente se os programas de computações não têm nenhum sistema de proteção.
O que se sabe, mesmo leigo no assunto, que um caixa eletrônico só libera a quantidade certa de notas, pois, foi programado por um ser humano para fazê-lo. E caso libere valor menor, a culpa é do banco e não do consumidor.
Se o banco tem um sistema inteligente de cobrança de cartão de crédito e porventura é cobrado de um consumidor 30% a mais do valor devido, significa que o “sistema inteligente” falhou. Falhou por desmazelo do banco e não do sistema em si. É o risco que se corre e de forma algum esse risco é do consumidor.
Mas, o banco agiu de má-fé? Bom, não há tendência natural e consciente para agir maldosamente.
Doutro passo, como escreveu o magistrado na sua decisão: “A má-fé é inerente à atitude humana ,..”; “Não há como se imputar má-fé às cobranças feitas por sistemas computacionais, por robôs eletrônicos. 5. Há que se repensar conceitos que não poderão receber dos juristas as antigas soluções impostas pelo Direito Romano ao vendedor de balcão”. (sem destaque no original).
A motivação do acórdão pode ser compreendida de outras formas: a) ora, se os sistemas computacionais têm vida própria e estão ali no lugar do ser humano, o banco está imune de erros? b) repensar conceitos em época da 4ª Revolução Industrial não significa deixar ao bel prazer os erros – que não são poucos – cometidos pela tal da inteligência artificial. Se não punidos pelo 940 do CC ou 42 do CDC, punidos doutra forma. E o jeito que se dá, ou melhor, é a forma educativa para que eles monitorem melhor seus sistemas de computador.
Deve sim, as empresas que adotam a inteligência artificial serem punidas caso seus sistemas operacionais não “andem na linha”. Até porque, quando um sistema de computador erra, o banqueiro deveria saber e de imediato entrar em contato com a vítima e conserta o malfeito e não o contrário. Se o fornecedor de produtos ou serviços não constata o erro e deixa o consumidor no prejuízo ou se esse consumidor entra em contato com esse fornecedor este na resolve, deve sim, ser imputado ao artigo 940 do CC ou 42, § Único do CDC.
Os louros obtidos pelas empresas que adotam a inteligência artificial são absurdamente altos e a margem de erro é bem menos, mas, há erros e esses não podem ser passado para o usuário ou consumidor.
O ser humano, mesmo aquele que pouco usa a inteligência artificial, rápido aprende usa o sistema. Exemplo: utilizar um celular, um aplicativo, um caixa eletrônico ou um pagamento por PIX ou cartão de débito.
Um caso de uso da inteligência artificial foi a liberação pelo Governo Federal de benefício assistencial, onde o beneficiado precisa utilizar um cartão eletrônico e um caixa eletrônico.
Dessa forma, a 4ª Revolução Industrial e os Algoritmos estão aí, muitos, mesmo os mais letrados, não sabem sobre, mas utilizam no dia a dia.
Agora, não há tecnologia no mundo que vai abolir o erro humano e a má-fé.
[1] Diretor executivo do Fórum Econômico Mundial e um dos principais entusiastas da "revolução”.
[2] https://www.bbc.com/portuguese/geral-37658309
[3] https://www.techtudo.com.br/listas/2020/05/o-que-e-algoritmo-entenda-como-funciona-em-apps-e-sites-da-internet.ghtml
[4] https://dicasdeprogramacao.com.br/o-que-e-algoritmo/
[5] https://dicasdeprogramacao.com.br/o-que-e-algoritmo/
[6] James Reason classifica os erros com base nos níveis de desempenho humano de Rasmussen
[7] https://www.medicinanet.com.br/conteudos/gerenciamento/3097/erro_humano__conceitos.htm
[8] https://www.dicio.com.br/ma-fe/
[9] Acórdão 1157854, 07150148120188070001, Relator Designado: DIAULAS COSTA RIBEIRO, 8ª Turma Cível, data de julgamento: 14/3/2019, publicado no DJe: 6/5/2019.
[10] https://pesquisajuris.tjdft.jus.br/IndexadorAcordaos-web/sistj?visaoId=tjdf.sistj.acordaoeletronico.buscaindexada.apresentacao.VisaoBuscaAcordao&controladorId=tjdf.sistj.acordaoeletronico.buscaindexada.apresentacao.ControladorBuscaAcordao&visaoAnterior=tjdf.sistj.acordaoeletronico.buscaindexada.apresentacao.VisaoBuscaAcordao&nomeDaPagina=resultado&comando=abrirDadosDoAcordao&enderecoDoServlet=sistj&historicoDePaginas=buscaLivre&quantidadeDeRegistros=20&baseSelecionada=BASE_ACORDAOS&numeroDaUltimaPagina=1&buscaIndexada=1&mostrarPaginaSelecaoTipoResultado=false&totalHits=1&internet=1&numeroDoDocumento=1157854
