5.Regulação dos Programas-robôs
5.1.Normas Fundamentais de Conduta – Os Mandamentos de Asimov
As primeiras normas aplicáveis aos robôs que se tem notícia foram propostas por Isaac Asimov em Runaround [48]. Ao propô-las, Asimov se tornou o primeiro a desenvolver um conjunto de regras que permitiriam o controle sobre máquinas semiconscientes [49]. Segundo Asimov, para que a convivência humana fosse compatível com a existência de autômatos, estes deveriam seguir os três mandamentos fundamentais:
I-A um robô é vedado causar dano a um ser humano ou comissivamente permitir que um ser humano sofra injúria;
II-Um robô deve obedecer aos comandos dos seres humanos, exceto quando tais comandos conflitaram com o Primeiro Mandamento; e
III-Um robô deve se autopreservar desde que a autopreservação não conflite com o Primeiro e Segundo Mandamentos.
A medida que criava novas estórias, Asimov percebeu por seus exemplos hipotéticos que a existência dessa carta fundamental não bastaria para regular os inumeráveis conflitos humanos e morais que poderiam advir do desenvolvimento tecnológico. Destarte, em 1985, Isaac Asimov propôs um aditamento aos mandamentos fundamentais, o Mandamento Zero [50]:
(0)A um robô é vedado causar dano à humanidade, ou permitir que a humanidade seja prejudicada.
A alteração desvenda indubitável caráter paternalista de seu propositor e traz, em seu bojo, profundas implicações filosóficas e jurídicas ao sistema social que se fundamente em tais normas. O autor que melhor trabalha essas implicações, inclusive as conseqüências para a robótica moderna, é Roger Clarke [51], mas para o nosso limitado propósito, essas considerações bastam. Por fim, note-se que até este estágio, as normas imaginadas por Isaac Asimov se aplicariam apenas a robôs que à sua época não existiam. Assim, para ele, normas genéricas, próximas a princípios, pareciam suficientes para regular a imaginada realidade social, ainda que futura.
5.2.Normas Morais de Condutas ou Costume – Padrões de Exclusão de Robôs
Enquanto os robôs restringiam-se às personagens da ficção, as normas de caráter humanistas propostas por Asimov bastaram à literatura robótica, contudo a realidade insistiu em imitar a arte e os robôs debutaram de forma incisiva no cotidiano humano. A partir da massificação de redes de computadores pelo mundo, a necessidade de criação de sistemas autônomos capazes de interação social cresceu e o intelecto foi célere em satisfazê-la criando os programas-robôs. Estes entes são capazes de interagir, aprender, colaborar, competir por recursos e, portanto, convivem. Como não poderia deixar de ser, uma vez estabelecido o convívio comum, inafastável o estabelecimento de regras mínimas de convivência. O adágio da sabedoria dos antigos ubi societas, ibis ius nos ensina que mesmo neste restrito espaço de interação intersubjetiva, o regramento é inerente ao convívio coletivo. Surgem assim, espontaneamente, regras mínimas de convivência cibernética [52], entre as quais se destacam os chamados Padrões para Exclusão de Robôs – PER [53] e os Meta Tags de Exclusão [54].
Os PER são regras de cunho moral que estabelecem processos voluntários por meio dos quais os administradores de sítios na Internet (web masters) podem impedir o acesso de robôs a determinadas partes de seus sítios [55]. Na realidade, os PER permitem que os administradores criem arquivos especiais em seus servidores, ou incluam códigos de programação preventivos em suas páginas, que instruem os robôs que os lêem sobre quais páginas podem acessar e a quais informações podem ter acesso [56].
Este tipo de norma social tem a vantagem da autocomposição eficiente de interesses pois, não inviabiliza a utilização de robôs, elemento essencial para a manutenção e utilização da Internet, enquanto garante aos administradores controle sobre os acessos a seus sítios e das informações que dispõem. Não obstante, conforme supramencionado, essas normas são de natureza estritamente moral, pois não há instituição ou mecanismo que lhes empreste força cogente. Obviamente, nem todos os robôs desenvolvidos as respeitam. Assim, não obstante existirem regras morais mínimas de convivência, à medida que a comunidade cibernética se torna mais e mais complexa e, principalmente, com o início de sua exploração comercial, tais normas não mais bastam para sua regulação. O conflito de interesses econômicos dos agentes é incompatível com tais regras já que inexiste sanção efetiva que coaja potenciais desviantes.
Quando possível, os particulares optaram pela auto-regulação contratual. Quando esta via se mostrou inviável, seja pela impossibilidade de contratar, seja pela incompatibilidade de interesses, a alternativa foi buscar resguardo de seus interesses no direito preexistente, principalmente no âmbito da responsabilidade civil. Seguindo a sina do atraso, o Direito não restou impassível frente à realidade social e iniciativas legislativas começaram a surgir.
5.3.Intercâmbio Eletrônico de Dados – EDI
A partir do incremento acelerado da utilização de autômatos para a realização de tarefas ou de programas avançados para a realização de transações comerciais no curso normal dos negócios, normas mais complexas se fizeram necessárias. Em um primeiro momento, as indústrias lançaram mão de meios automatizados para a troca de informações e estes sistemas se tornaram cada vez mais e mais complexos. É neste contexto que se estabelecem os protocolos de Intercâmbio Eletrônico de Dados ou EDI (Electronic Data Interchange) [57].
O Intercâmbio Eletrônico de Dados se refere não apenas a programas para a troca de ordens de compra ou confirmações de pedidos que dessem origem a um contrato; o sistema permitia também o intercâmbio de informações sobre todos os estágios do processo de aquisição, inclusive sobre o status de um carregamento pendente ou a administração de estoques. Devido a sua "pervasividade" e amplitude, para que tais sistemas funcionassem, era necessário que os integrantes do sistema tivessem a certeza de que os dados gerados por um determinado participante fossem perfeitamente inteligíveis aos demais participantes. Assim, para a sua viabilização, o EDI se apóia fundamentalmente no estabelecimento de padrões, que são controlados, de um modo geral, pela Associação para Padrões de Intercâmbio de Dados – DISA [58] –, pelo Centro das Nações Unidas para a Facilitação do Comércio e Comércio Eletrônico – UN/CEFACT [59] –, e por setores industriais verticalmente integrados que adotam códigos específicos [60].
Devido aos altos custos associados a esta forma de comércio eletrônico e à complexidade de desenvolvimento de métodos de negócio que gerem resultados padronizados, o EDI tem sido utilizado primariamente por grandes empresas e alguns governos [61].
Na ausência de leis específicas, a relação entre os participantes dos sistemas EDI é geralmente governada por acordos escritos estabelecidos no início da relação comercial eletrônica. Tais acordos estabelecem, entre outras coisas, que tipos de transações serão executadas pelas partes por meio de EDI e que as partes concordam em aceitar mensagens eletrônicas como equivalentes a documentos assinados [62]. Os limites desses acordos não foram testados juridicamente, pois, seja pela relutância das grandes empresas em acionar umas as outras, seja pela qualidade dos Acordos Modelo de Parceria Comercial [63] utilizados, não há notícia de litígio envolvendo tais acordos [64].
Note-se que, apesar de o conteúdo das regras de EDI ter sido elaborado e acordado entre as partes, portanto, de natureza privada, a simples existência desse sistema de regulação social é intimamente dependente da existência de um ente estatal que imponha seus termos em caso de comportamento desviante. É perceptível, portanto, que à medida que as interações sociais se densificam e ganham complexidade, passa a ser fundamental a intervenção estatal, se não para criar regras, para impor ou ameaçar impor aquelas criadas pelos particulares.
As regras gerais sobre EDI e os Acordos de Parceria seriam de muita utilidade quando da análise de transações realizadas por robôs na Internet se as realidades não fossem tão distantes. Não há como comparar a realidade fática dos bots que navegam livremente pela Internet ou os sistemas abertos de contratação automática dos modernos sítios de comércio eletrônico com o universo restrito e altamente regulado dos sistemas EDI. Os seguintes fatores dificultariam a adoção de tais regras: i) no anônimo mundo da Internet, as partes contratantes podem não se conhecer anteriormente; ii) frente à massificação da contratação eletrônica, é inviável a utilização de um contrato modelo; e, finalmente, iii) um dos pólos pode estar sujeito, além das normas gerais do direito contratual, à legislações especiais, e.g. consumidores e entes públicos. Diante da inviabilidade de utilização das regras aplicáveis aos EDI, legislação específica que desse suporte às relações jurídicas resultantes de ações de programas-robôs teve de ser elaborada.
5.4.Legislação sobre Robôs no Direito Comparado
Não obstante a utilização de robôs no comércio eletrônico estar limitada tradicionalmente à obtenção e manipulação de informações na Internet, como a comparação de preços [65] ou localização de artigos específicos em sítios de leilões [66], a tecnologia necessária para a utilização plena de robôs na realização de transações em nome de seus mestres já está disponível [67]. Na realidade, em alguns casos a tecnologia já foi efetivamente implantada, ainda que com algumas limitações, como por exemplo, no mercado acionário norte-americano onde é possível encontrar robôs programados para realizar certos tipos de investimentos em nome de algumas grandes instituições financeiras [68]. Além disso, hoje é extremamente comum a utilização de sistemas automatizados para a realização de negócios na Internet que celebram, em nome de seus mantenedores, contratos de compra e venda, bastando para tanto que a outra parte execute determinados procedimentos [69] (e.g. escolher o produto, informar a forma de pagamento e concordar com os termos do negócio).
A seguir descreveremos brevemente algumas propostas legislativas que tentam de construir um suporte legal para as transações em massa na Internet e que de alguma forma envolvam agentes eletrônicos.
5.4.1.A Legislação Canadense
A proliferação de sistemas automatizados e a utilização de programas-robôs levaram vários países a adotar leis escritas regulando de modo a incentivar pela redução de riscos esta nova forma de comércio. No Canadá, onde os estados gozam de relativa autonomia para legislar, a Uniform Law Conference of Canada adotou e recomendou aos estados que incorporassem o Uniform Electronic Commerce Act – UECA [70], que versa sobre transações eletrônicas e garante validade jurídica aos negócios realizados por intermédio de programas-robôss [71].
5.4.2.A Legislação Norte-Americana
Por sua vez nos Estados Unidos, que também adota o modelo de legislação prioritariamente atomizado entre os estados, dois modelos de lei uniforme foram discutidos inicialmente, o Uniform Computer Information Transactions Act (UCITA) [72] e o Uniform Electronic Transactions Act (UETA) [73]. Entre outros aspectos ligados ao comércio eletrônico, ambos regularam de alguma forma os agentes eletrônicos dando início ao que viria a ser a primeira legislação norte-americana sobre os programas-robôs. Em seguida, adotados os projetos pela National Conference of Commissioners on Uniform State Law (NCCUSL), foram recomendados para incorporação ao direito interno dos estados. Com o fulcro de propiciar adoção imediata e uniforme de legislação sobre comércio eletrônico, o governo federal promulgou o Electronic Signatures in Global and National Commerce Act (E-SIGN) [74], que fundado no UETA, também possui previsões sobre agentes eletrônicos.
5.4.2.1.UETA
O primeiro aspecto que vale a pena ser mencionado no UETA é o fato de ter adotado a terminologia "agente eletrônico" para se referir a objetos inanimados ou processos. De acordo com o projeto, um agente eletrônico pode ser definido como "um programa de computador ou um meio eletrônico ou outro meio autômato independentemente utilizado para iniciar ação para, ou resposta a, registro eletrônico ou performance no todo ou em parte, sem a supervisão ou ação de um indivíduo" [75].
Não obstante a dubiedade taxonômica causada pela adoção do termo agente, correspondente a mandatário em português, os autores do projeto deixaram claro que um agente eletrônico, como definido, é essencialmente uma ferramenta do usuário [76] que, ao contrário do mandatário humano, é incapaz de praticar atos ultra vires imputáveis ao mandante em uma relação de agency [77]. Ainda assim, os próprios autores comentam que em um futuro não muito distante, os programas de computador utilizados no comércio eletrônico evoluirão de um comportamento automático para autônomo. Esse comentário teria por função incentivar as cortes norte-americanas a interpretarem a definição de agente eletrônico para incluir robôs autônomos, sem, contudo, tentar prever o futuro [78].
Um outro aspecto que pode ser levantado aqui é a função básica do UETA, deixar claro que um contrato pode ser formado tanto por meio de uma transação automatizada, e.g. uma operação EDI, quanto por um agente eletrônico em um ou ambos os pólos da relação, ainda que nenhum ser humano tenha revisto os resultados da ação do agente eletrônico [79]. Esse preceito teria por função unicamente prevenir que se argumente que o uso de um mecanismo eletrônico ou processo autômato por si só fosse incapaz de juridicamente caracterizar o consentimento de umas das partes e, portanto, elemento impeditivo de aperfeiçoamento jurídico do contrato. O que não implica em eliminar a argumentação de que de fato não houve consentimento ou outras linhas de defesa [80].
Por fim, o aspecto de maior relevo para o estudo da responsabilidade civil por atos praticados por robôs são as disposições do UETA que tratam da atribuição de autoria dos atos praticados por programas-robôs.
Nos termos da regra básica de autoria (attribution rule), ou responsabilidade, conforme se encare a questão, que se aplica a todas as transações eletrônicas não apenas àquelas realizadas por robôs, "um registro ou assinatura eletrônicos é atribuível a determinada pessoa se é resultado de um ato da pessoa" [81]. A comprovação de que determinada ação (consentimento) é atribuível a determinada pessoa pode se dar por qualquer meio, inclusive pela demonstração de eficácia de procedimento de segurança aplicado à transação.
Além disso, para estabelecer o liame de ligação entre o ato do robô e o ato da pessoa em questão, em comentário ao dispositivo acima, os autores afirmam que o conceito de "ações de uma pessoa inclui [...] ações realizadas por um agente eletrônico, i.e., o instrumento, da pessoa" [82]. Esse preceito, que nos parece indispensável para o reconhecimento da validade jurídica de atos praticados por robôs, permite, no entanto, que se conteste em defesa que determinado registro ou ato eletrônico não é, de fato, resultado de ato da parte a quem se imputa o ato. Mesmo que um procedimento de segurança tenha sido seguido, não há presunção de que tenha sido efetivo, e a parte que não reconhece o ato terá a oportunidade de convencer o juiz de que o registro não resulta de ato seu, por exemplo, que o agente foi capturado e manipulado por outra pessoa [83].
5.4.2.2.E_SIGN
Na mesma linha do projeto UETA, foi promulgado pelo governo federal o E-SIGN, cujo um dos principais objetivos foi incentivar a adoção uniforme do UETA pelos estados [84] e no qual se inspirou. Conseqüentemente, as disposições sobre agentes eletrônicos são muito semelhantes às mencionadas acima, ainda que se materializem em número reduzido: apenas a definição de agente eletrônico e o princípio geral de validade dos contratos eletrônicos [85].
O E-SIGN adota definição de agente eletrônico muito semelhante a do UETA, simplesmente reforça a idéia de que um agente é algo que atua sem a supervisão de um indivíduo quando diz que um agente eletrônico age "sem supervisão ou ação de um indivíduo no momento da ação ou resposta" [86]. Há quem indague se a inclusão dessa linguagem não denota certa ambigüidade na definição original do UETA, a ponto de se incluir um processo computadorizado sujeito a supervisão humana depois de algumas, mas não todas, as etapas no conceito de agente eletrônico [87].
Outra tênue, mas relevante alteração da linguagem proposta pelo UETA pode ser encontrada no dispositivo que trata especificamente da validade jurídica dos contratos celebrados por meio de robôs [88]:
A contrato ou registro qualquer relativo a transação interestadual ou internacional, ou que afete comércio interestadual ou internacional, não será negado efeitos legais, validade, ou efetividade exclusivamente por sua formação, criação ou entrega envolver a ação de um ou mais agentes eletrônicos, desde que a ação do agente eletrônico envolvido seja legalmente atribuível à pessoa a ser vinculada.
Novamente, a adoção de linguagem ligeiramente mais forte no E-SIGN parece indicar uma sugestão para que se questione até que ponto a ação de um robô é atribuível, em outras palavras, vincula o particular. O diploma federal, ao contrário de seu projeto inspirador, não propugna regra geral de autoria e responsabilidade de ato praticado por robô, o que demonstra potencial conflito entre abordagens.
5.4.2.3.UCITA
Finalmente, a lei sobre transações computadorizadas, projeto muito mais abrangente e ambicioso que os anteriores, representa tentativa de micro-código do comércio eletrônico a ser incluído no Código Comercial Uniforme dos Estados Unidos, e contrasta em alguns pontos com o UETA e E-SIGN.
A primeira questão que se levanta é que o UCITA adota o princípio básico de que um contrato pode ser celebrado por dois robôs [89] e sua definição de agente eletrônico inclui linguagem que exige que os atos de um agente ocorram sem a supervisão de um indivíduo no momento da ação ou resposta à mensagem ou performance [90].
Além disso, nos molde do UETA, possui uma regra de atribuição, quando estabelece que uma autenticação eletrônica – equivalente à assinatura eletrônica do UETA – ou um registro eletrônico é atribuível a determinada pessoa se resulta de ato dessa pessoa ou de seu agente eletrônico.
Não obstante as similitudes entre as regulações, o UCITA é mais detalhado quando estabelece as regras para a caracterização do elemento volitivo dedutível de atos de um robô e sua capacidade de manifestar consentimento ou aceitar uma oferta. A lei modelo é clara quando incorpora a norma de que uma pessoa é responsável pelos atos de seu agente eletrônico:
A pessoa que utiliza um agente eletrônico que tenha selecionado para realizar uma autenticação, performance, ou acordo, incluindo a manifestação de consentimento, está vinculada às operações do agente eletrônico, mesmo que nenhum indivíduo conheça ou supervisione as operações do agente ou os resultados delas [91].
Em comentário, o projeto explica que por "selecionado" se entende qualquer escolha consciente de empregar um agente eletrônico, tenha ele sido criado pelo usuário ou por outra pessoa, desde que o agente esteja operando dentro de seu propósito inicial [92].
