3. Os algoritmos
3.1. Clássicos e aprendizes: pretensões e possibilidades
Com esse novo jeito de ser e comportar-se, os algoritmos estão por toda parte e fazendo todas as ameaças.
O exemplo clássico de algoritmo é o de receita de bolo39.Seguindo-se a receita com perfeição, faz-se exatamente aquele bolo. Isso está mudando. Programar um computador (fazer um algoritmo) era fazer uma receita de bolo que ele fosse capaz de entender e executar. Abre o arquivo tal, lê o primeiro registro, soma e divide, move do lugar A para o lugar B da memória, agora grava no disco X. Repete tudo até alcançar a condição Z. Pronto. Isso é, classicamente, programar. Os algoritmos que aprendem parecem exigir uma revisão do conceito.
Algoritmos aprendizes poderiam observar alguém na cozinha e abstrair da observação a receita do bolo. Isso ainda é uma metáfora.
Mas já podem andar por aí com muitos motoristas, em distintos veículos, e aprender a dirigir. Isso não é metáfora. Os veículos com direção assistida multiplicam-se no mercado.
E podem examinar como um juiz decide os casos e aprender a decidir da mesma maneira? Isso não suscita mais dúvidas do ponto de vista da viabilidade técnica em certos casos.
A evolução é um fato e o campo do não algoritmizável está sendo esmagado. Os carros sem motoristas - que também matam pessoas, como todos os carros - suscitam dilemas que vão da prancheta dos desenvolvedores (dilemas técnicos e morais), passam pelas cadeiras dos filósofos (dilemas existenciais e éticos), lançam preocupações nas esferas de poder e econômicas (ocupação, emprego) e deságuam, como tudo o mais, nas bancas de advogados e nas escrivaninhas dos juízes.
Os aprendizes são gerados por humanos mas estão dotados de capacidades especiais de observação e construção de próprias e adicionais estruturas operativas (autopoieticamente?40). Maturana e Varela estão entre os muitos assombrados. Seres tecnológicos autopoiéticos? Como diz Maturana, não há um suposto ontológico ou um princípio explicativo por trás da determinação estrutural, mas uma abstração das regularidades da experiência do observador.41
Com esse novo jeito de ser e comportar-se, os algoritmos estão por toda parte e fazendo todas as ameaças. Quem deve responder a elas? Muitas áreas, claro, inclusive o Direito. Vindos de plagas estranhas e não afeitos às limitações epistemológicas – Bachelard diria obstáculos epistemológicos - e normativas, tão caras aos juristas, os algoritmos têm chegado, sem qualquer sutileza, espezinhando leis e costumes, alterando relações, nulificando conceitos e confrontando expectativas e crenças. No exercício de papéis milenares de humanos, eles transitam em vãos ainda escuros, não iluminados por luzes teóricas e jurídicas. Se deixar, bagunçam tudo. E os aprendizes são bem mais desenvoltos e pretensiosos.
Estão aptos a emular aquele milagre de que Piaget fala ao criticar Wallon no tocante à aprendizagem: “ [...] la tesis de Wallon no da suficiente importancia a la estructuración progresiva de las operaciones [...]“42. Isso deveria ser um fenômeno exclusivamente humano: a autoestruturação progressiva das operações. Parece que já não é mais. Na esteira da sapiência premonitória de Luhmann, são auto-organizadores pois constroem estruturas operativas virtuais ao operar.
3.2. Os senhores dos mercados também desdenharam os algoritmos
Os cientistas da área financeira também demoraram a perceber o impacto que físicos e matemáticos, com suas fórmulas misteriosas, provocariam nos mercados financeiros. Quando a revista Forbes, em 1979, falou dos quants, havia grande desconfiança no ar. Quants são analistas e investigadores de bases de dados capazes de criar softwares, coordenar a implementação de projetos e entender as regras por trás dos jogos financeiros. Eles “ [...] trouxeram para Wall Street e para a mesa de operações do mercado financeiro os sofisticados modelos matemáticos e computacionais da academia.”43 Não se tratava da academia tradicional a que estavam acostumados os teóricos do mundo financeiro. Os novos modelos vinham de salas e corredores pelos quais circulavam os desvairados dos mundos da física e da matemática, como Princeton (Einstein) e Harvard.
A Renaissance Technologies é uma empresa dona de um fundo financeiro – o Medallion - cujo desempenho superou, nas últimas décadas, os fundos das figuras carimbadas do mercado, inclusive George Soros e seu imbatível fundo Quantum e Warren Buffet, da Berkshire Hathaway. Mas o que mais impressionou foi a passagem do Medallion, quase incólume, pelos percalços da gravíssima crise dos mercados de 2007 e 200844.
Mero jogo de mercado? Certamente não. A Renaissance é de Jim Simons, o coinventor da aclamada Teoria de Chern-Simons, da área da matemática e base da Teoria das Cordas, a teoria de ponta da física atual. “Um terço dos empregados [da Renaissance] têm doutorado – não em finanças, mas como Simons, em áreas como Física, Matemática e Estatística. De acordo com o matemático do MIT, Isadore Singer, a Renaissance é o melhor departamento de Física e Matemática do mundo [...] “45. Segundo Weatherall, a Renaissance não contrata qualquer pessoa contaminada pelas práticas tradicionais de Wall Street. Doutores em finanças não são aceitos. Na visão deste autor, Simons venceu porque evitou os especialistas em finanças.
Pode-se dizer: Ah, mas o mundo do Direito é diferente! Não há como negar isso, notadamente nos limites em que é tomado para este trabalho (o e-processo). Mas quais são as diferenças que realmente importam e quais a similitudes? Onde e como as visões teórico-computacionais, desenvolvidas desde a chegada dos computadores e do software, podem contribuir para a evolução do processo, para o aperfeiçoamento do sistema jurídico-funcional desenhado para adjudicar o Direito?
Em minhas palestras, costumo exibir um mapa das ciências da complexidade46 para tentar demonstrar o tamanho dos esforços científicos que estão pressionando o Direito e tornando evidente a necessidade de incorporá-los com pungente revisão da teia jurídico-teórica elaborada antes da revolução dos bits. A resposta, em geral, vinha sendo de olhar descrente e desinteressado. Mas isso tem mudado muito rapidamente. Afinal, até quando os juristas vão desdenhar ou desconsiderar as ofertas das ciências da complexidade?
Os monstros pavorosos dos algoritmos, de que fala Gunther Teubner, notadamente os da última geração, os aprendizes, estão ocupando espaços demais para não serem percebidos. Os teóricos do Direito terão de arregaçar as mangas e enfrentar o redesenho de visões e conceitos para incorporá-los pois, nos fenômenos da vida, eles já estão completamente emaranhados47. Ou os juristas vão deixar que eles tomem conta dos espaços do Direito, como fizeram nos mercados?
O exemplo de Simons, que abandonou os expertos da área e entregou-se às fórmulas mágicas produzidas em outras searas, merece um olhar mais atento e investigativo do que curioso.
3.3. Revolução algorítmica I: a corrida dos algoritmos para a liberdade
“Na verdade, atualmente as pessoas escrevem muitos programas que os computadores não conseguem aprender. Porém, o mais surpreendente é que os computadores aprendem habilidades que as pessoas não podem escrever”.48
Inicialmente, os computadores recebiam fisicamente os algoritmos. Os circuitos incorporavam os algoritmos, eram ditos circuitos dedicados. Uma máquina para cada função. Os algoritmos eram prisioneiros dos circuitos.
Os algoritmos iniciaram, então, sua trajetória libertária. A programação passou a ser feita com a troca de pinos em painéis imensos, como faziam as antigas telefonistas. Uma máquina para muitas funções iniciou a generalização do hardware e a especificação do software onde residiam os algoritmos. Rodar a folha de pagamento exigia que os pinos fossem colocados em certa posição (carregar o programa de folha). Finalizada a folha, para rodar o contas a receber, os pinos tinham de ser reposicionados (carregar o sistema de contas a receber). Claro que isso tinha de mudar e não demorou.
Em pouco tempo, os programas passaram a ser escritos, registrados em cartões perfurados e o computador ganhou a habilidade de carregá-los (lê-los para memória) a partir dali49. Era difícil escrevê-los em assembly 50, mas a linguagem simbólica, mesmo difícil, jogou os pinos no lixo. E o software começou a merecer o nome: quase um espírito que habitava as entranhas da máquina metálica para orientá-la na execução de uma tarefa. Um fluxo de energia, tal como a vida. A máquina ficou genérica e a especificidade das soluções migrou exclusivamente para o programa.
A linguagem complicada – o assembly e assemelhados - era um obstáculo que logo foi superado também. As linguagens de terceira geração permitiam que se escrevesse quase como um discurso natural: se A é igual a B, move A para C.
A próxima dificuldade foi gerada pela complexificação dos programas: muitos, imensos e complexos. Desenvolvidos sem qualquer técnica, os programas tornavam-se emaranhados de comandos de difícil manejo pelo autor e por outros programadores. Documentação, anotações etc. fizeram o caminho até algumas técnicas de organização dos códigos dos algoritmos. A programação estruturada teve seu auge, sob os auspícios de linguagens que davam suporte ao chamamento centralizado de funções.
Na década de 80, um esforço feito em paralelo, desde a década de 60, em torno da teoria dos objetos, afirmou-se no mercado: a tecnologia denominada OOP (object-oriented programming). As linguagens começaram a incorporar as bases operativas dessa técnica e pareciam ter ganhado vida. Mas, no fundo, o fazer por conta própria aludia a coisas corriqueiras e repetitivas do programa.
3.4. Revolução algorítmica II: aprendizes em vez de programadores
Vamos chamar de algoritmos clássicos aos programas escritos por programador nos detalhes importantes de cada negócio.
Programar classicamente sempre foi dominar a arte da previsão. O programador era o deus capaz de antecipar-se a cada aspecto contingencial futuro a ser enfrentado pelo programa. Como adverte Domingos, “se os programadores são pequenos deuses, o monstro da complexidade é o próprio demônio.”51 E arremata que, pouco a pouco, o demônio está vencendo a guerra.
Ora, a complexificação do mundo não para. E os desafios foram aparecendo. Como fazer um programa para dirigir um veículo? Como dar conta de examinar bilhões de informações e extrair, dali, determinados conhecimentos?52 Como correlacionar diferentes e imprevisíveis reações das pessoas, nas redes sociais, para tirar ilações relevantes para A ou B? Como antecipar-se, num diálogo, às milhões de variantes de fala do interlocutor? Como extrair dos dados conjunções que também levam ao câncer, embora os humanos ainda não tenham se apercebido delas? Como separar um email de spam de outro, semelhante, que não é? Como extrair de milhares de juízes a forma como interpretam dados e leis para decidir?
A programação tradicional é um exercício de previsão transformado em código. É rígida e exclusivista. Cada programa funda seu mundo (o do programador) onde habita e sabe se comportar. O que não está no programa não está no mundo é a versão tecnológica do adágio jurídico o que não está nos autos não está no mundo.
Nos últimos anos, finalmente, numa atitude de rebelde liberação evolutiva, estão se afirmando os aprendizes. A Engenharia do Conhecimento trabalha muito com os algoritmos clássicos e fez e faz coisas fantásticas. Alimentada por avanços das lógicas ditas heterodoxas53 (fuzzy, paraconsistente, paracompleta), alcançou os limites da possibilidade de emulação de muitos cérebros humanos especializados trabalhando. Com as manobras lógicas diluiu-se o risco do erro. Mas ela nunca descurou da vertente dos aprendizes.
Afinal, como livrar-se do domínio e das limitações do programador? A resposta é: com os aprendizes! Nenhum bebê nasce sabendo tudo. Mas vem dotado, segundo Kant54, de uma série de habilidades genéricas que lhe permitem construir modos de reação frente a situações inusitadas. Tem de aprender, é claro. E os algoritmos aprendizes (machine learning) inspiram-se nessa mesma ideia, embora cada tribo, como Pedro Domingos denomina os principais grupos dedicados ao assunto, tenha um aprendiz predileto55.
Pode-se dizer, grosso modo, que um aprendiz é um motor de inferência – um teorema, uma fórmula matemática, um modelo – que, a partir do zero e debruçando-se sobre dados (de qualquer tipo), pode extrair dali padrões, regularidades, conexões sistemáticas que implicam conhecimento. Os aprendizes são imbatíveis principalmente quando os dados envolvem não só os inputs mas também os outputs. E podem estabelecer conexões nos dois sentidos, para frente ou para trás. Sempre que tal configuração de entradas está presente, o resultado é aquele. Ou, regressivamente, vão em busca de conjuntos de dados que explicam determinados resultados. Entre inputs e outputs não tem um programa clássico. Tem um aprendiz.
3.5. Os aprendizes e o Direito
Os aprendizes podem servir ao Direito? Eis aí o desafio novo que se põe à tecnologia, se ela pretende entrar no jurídico. A tecnologia jurídica, como Ferraz Jr.56 denomina o Direito, é não trivial e alberga um inimigo crasso da lógica: a contradição. O if then else, mesmo diluído conforme a proposta das lógicas não heterodoxas, não se concilia com a contradição. A proposta deste artigo é que se dê o passo que os aprendizes parecem permitir, se forem postados numa posição adequada. Um das posições, certamente, é ao lado do juiz, não para o substituir, mas para apoiá-lo.
Se o Direito é convivência em contradição57 e se ele funciona, então é preciso automatizar isso e não outra coisa. Há quem discorde, sabe-se. E mesmo o Direito tem reconhecido a necessidade de fixar limites às interpretações (súmulas vinculantes, repercussão geral etc). Mas isso diz respeito às leis, às premissas interpretativas, não aos fatos. O silogismo é a síntese de ambos, num movimento que desnuda a impossibilidade eterna do mundo humano sem contradições.
Mentes tecnológicas querem aplanar tais absurdezas uniformizando tudo, linearizando o não retificável. Elas admiram ordens formalizáveis, totalizantes, imperiais, transformáveis exclusivamente em estruturas if then else. Como se fosse possível equiparar homem e máquina. Gödel provou, com seu famoso teorema, “ [...] que o homem não é uma máquina e que as máquinas não pensam”58, embora haja muita controvérsia a respeito. A antiga advertência do gênio pai da cibernética, Norbert Wiener, deve ser sempre mantida presente: “É interessante refletir em que toda ferramenta tem uma genealogia e que descende das ferramentas com que ela própria foi construída.”59
Os aprendizes, se adequadamente utilizados e corretamente postados na cadeia procedimental, podem superar suas limitações genealógicas e ser imbatíveis em certos papeis.
3.6. Evidências da ascensão dos algoritmos no e-processo
“ [...] cada vez mais sistemas artificiais aumentam seu poder de operação indo na direção dos sistemas autopoiéticos [...] “ 60 .
No início dos anos 2000, já se previam coisas assombrosas na área tecnológica das NTRIC. A tecnologia já invadira muitas áreas e, na esteira de promessas de liberdade máxima no virtual, enganara muita gente. Um Lanier61 desencantado confessa, atualmente, as frustrações sobre as utopias do início da internet.
Quando saiu a Lei 11.419/2006, previam-se transformações profundas no processo. Como dizem os analistas de sistemas, desde sempre, seriam feitas muitas subotimizações62. Não se sabia exatamente quando, onde e de que maneira seriam feitas, mas era evidente a necessidade de traçar, desde logo, uma demarcação protetiva da autonomia do jurídico. Destravar amarras seculares do processo pela via tecnológica, no sentido de otimizá-lo, era ótimo. Entregar o ramo processual de adjudicação do Direito aos tecnólogos seria o caos? Expus a ideia no princípio da subinstrumentalidade da tecnologia (ou da dupla instrumentalidade): a tecnologia é instrumento a serviço do instrumento. Hoje, a noção é seguramente extrapolável63.
Na época, comportados algoritmos clássicos faziam apenas o que determinados centros de decisão comandavam via regras de negócio (RN)64 sob a crença de, por essa via, preservar os fundamentos jurídicos envolvidos.
Nas entrelinhas da lei 11.419/2006 e dos atos normativos subsequentes, viu-se surgir um sujeito poderoso denominado, no art. 8º, de Sistema Eletrônico de Processamento de Ações Judiciais (SEPAJ).
As técnicas de automação ainda estavam longe da situação atual em que a automação quer se automatizar a si mesma. Em 2006, era preciso abrir-se para a automação (princípio da máxima automação65, de 2008) sem abrir mão do controle do espaço jurídico (autonomia da ciência jurídica). Fizeram-se esforços, cometeram-se erros, mas as promessas de aceleração processual não foram cumpridas conforme o desejo da Constituição Federal66.
Alguns perguntarão: mas se absorveu a tecnologia, não se absorveu? O e-processo e seu estágio atual demonstram a timidez dessa absorção. A reticularidade nunca foi encarada seriamente67, a automação é mínima, a imaginalização continua presente e o suporte ao juiz inexiste. Pode-se dizer, sem grande medo de errar, que está quase tudo por fazer. Faz-se o antigo processo de papel, mas sem a papelada. A mesma lógica se movimenta sob o domínio de um algoritmo controlador de tudo e de todos. A fenomenologia que cerca esse processo fechado, mas tecnologizado, demonstra isso. Não é um algoritmo espetacular, diferente ou inovador. É um algoritmo clássico, normal, um programa limitado e contido, mas que ocupa o cerne do procedimento na atualidade.
Sua presença se fez notar, aos pouquinhos, nas salas de audiência – Deixa eu ver se é possível! -, nos balcões das varas, introduzidos não tão sutilmente em conversas dos atendentes – Desculpe, mas o sistema não permite! -, em discussões de juízes sobre como enganar o intrometido – Utiliza o desvio tal! – em altas e distantes conversas de assessores das bases com os dos centros decisórios na capital do país, para conseguir fazer o que o sistema não deixava fazer – Este sistema não cumpre ordem judicial!. Enfim, a presença, às vezes ótima, às vezes incômoda, foi se manifestando lentamente na vida dos muitos operadores. Como diz Rochlin, de repente todo mundo teve de se ajustar às imposições do sistema: “[...] eu aprendi a adaptar meu comportamento para ajustar-me com o menu eletrônico, para me conformar às especificações de uma máquina.”68 [tradução livre]
Normas posteriores a 2006 renderam-se ao intruso. A resolução CSJT 136 menciona o sistema 73 vezes e reduz os juízes a usuários internos dele. Sabe-se que usuário é alguém que usa, não alguém que controla ou determina.
Em artigo de 2013, com Alexandre Golin Krammes, sintetizamos as discussões correntes sobre atos jurídico-processuais. O sistema estava, autorizadamente, praticando atos jurídico-processuais (e-atos). Ora, se havia e-atos, havia um e-sujeito. O artigo69 sugere a revisão da teoria dos atos processuais e aponta o desajuste conceitual a partir da obra de Fredie Didier Jr.70 A questão apenas recrudesceu e os aprendizes pioram o quadro.
Enfim, seja com algoritmos da velha geração, seja com os novos, a ascensão dos agentes automatizados é o fator mais revolucionário do processo judicial das últimas décadas.
O SEPAJ – que definitivamente é um e-sujeito e um agente automatizado que revolucionou o processo - começou no balcão, recebendo petições e fornecendo protocolo, cuidou do fluxo e das certificações básicas, envolveu-se mais ativamente nas tarefas organizativas, ajudou no cálculo de pena, e-conectou-se com bancos para facilitar pagamentos e recolhimentos e, agora, com um exército de aprendizes, esboça a pretensão de substituir os juízes. Ascensão rápida e ambiciosa desse ente e-sujeito cuja presença não pode mais ser negada. Portanto, a tecnologia tecnológica está batendo às portas da tecnologia jurídica ( a ciência do Direito, segundo Ferraz Jr.71) e pressionando.
Nas abordagens atuais, apresenta uma fragilidade séria para envolver-se no jurídico: é trivial. Mas, como pretendo demonstrar, por uma manobra de posicionamento, os aprendizes podem replicar a não trivialidade do jurídico onde ela parece inescapável e até necessária.
3.7. Gunther Teubner: a personificação dos algoritmos
Automação da automação: os juristas precisam definir se isso cabe no Direito ou como se harmoniza com o Direito.
Teubner abre artigo72 de dezembro de 2017 dizendo que os “ […] predadores perigosos que penetram na área do direito civil são algoritmos não controláveis do mundo digital, robôs, agentes gerais de software.” [tradução livre]
A ocorrência dessa percepção tardia e preocupada do fenômeno era bem previsível. E os horizontes decantados pelos experts são ainda mais assustadores. Para Mark Cuban, "o que está acontecendo agora com a inteligência artificial é que começaremos a automatizar a automação [...] a Inteligência artificial não vai precisar de você ou eu para fazer isso, ela será capaz de descobrir como automatizar [tarefas] nos próximos 10 a 15 anos.”73 [tradução livre] Automação da automação? Isso traz à baila a já antiga dúvida de Niklas Luhmann74 sobre a automação: se feita por algoritmos, ocorrerá ela do jeito que interessa aos humanos?
Mas o que fica mais evidente é que, enquanto o Direito e os juristas estão às voltas com o trato da questão da automação feita por humanos, a automação já está dando o próximo passo dessa caminhada: o da auto-automação ou o da independência em relação aos humanos. Os juristas precisam definir se isso cabe no Direito ou como se harmoniza com o Direito.
Não cabe aqui um exame detalhado das reflexões e preocupações de Gunther Teubner. Mas o herdeiro teórico de Luhmann trata de questões cruciais para o Direito, induzidas pela chegada dos agentes automatizados. Apresento, a seguir, um comentário de alcance semântico que consta da nota de rodapé número 1 do artigo e, na sequência, dou uma corrida rápida pelo sumário para transmitir uma visão panorâmica dos tópicos tratados. Todos os textos transcritos são do artigo e foram traduzidos livremente.
Questão semântica: a nota de rodapé número 1.
Na nota de rodapé número 1, do artigo, Teubner comenta vários possíveis conceitos operacionais para algoritmos que cumprem atividades típicas de pessoas.
E-person, diz ele, talvez “ [...] se aproxime demais da importância de uma pessoa legal completa“. Mas é interessante o uso que Teubner faz, no caso, do sufixo e- na construção do termo para a designação. O problema que aponta não reside no sufixo mas em person.
Computador “ [...] se aproxima muito do componente de hardware.”
Robô, para Teubner, é muito limitado, pois em geral lembra software mais encarnação.
Algoritmo pode até parecer correto, “[...] mas isso geralmente se refere apenas à fórmula matemática e não faz justiça à sua materialidade subjacente e à dinâmica de sua interação com o mundo real."
Agente Eletrônico tem um alcance denotativo quase perfeito porque agente “[...] enfatiza o elemento de ação e contém ecos de substituto e assistente. Mas isso leva em conta apenas sinais eletrônicos, mas não sinais biológicos ou sinais luminosos."
-
Agente Digital parece a expressão mais adequada para Teubner. Mas logo deixa claro que não a entende completa pois, ao longo da leitura do texto, pede que se considere o termo agentes de software autônomos porque “ [...] ele já prevaleceu no uso lingüístico muito provavelmente”. Embora pareça se render ao acréscimo de autônomo por força onomasiológica (o uso corrente da palavra para a designação do fato), é preciso entender que a questão da autonomia da ação tem alcance semasiológico (significação normativa) marcante, notadamente para os fins buscados no artigo.
No âmbito da Engenharia do Conhecimento, usa-se o termo agente automatizado75 cuja extensão envolve também os agentes de software, sobre os quais, no e-processo, escreve-se longamente em capítulo da obra Engenharia e gestão do judiciário brasileiro76.
Paranorama geral do artigo de Teubner
Teubner mira em outras searas, não na teoria do e-processo. No entanto, a sugestão de personificação jurídica dessas novas entidades capazes de produzir atos, criando-se as condições para a imputação de responsabilidade, por exemplo, segue na direção sugerida há anos de situar o e-sujeito na malha teórica do procedimento/processo. Os agentes de software autônomos precisam ganhar um status privado, no caso da ótica teubneriana (Direito Civil). O e-sujeito processual deve ganhar um status compatível com o espaço em que atua: o e-processo. Talvez a questão da imputação de responsabilidade não seja tão aguda e crucial, mas há outros aspectos preocupantes como aqueles mencionados por Jaron Lanier77 e Yuval Harari78 nas últimas TED talks: há áreas em que a geração de sedes do poder, via tecnologia, são altamente preocupantes.
Para o cientista alemão Gunther Teubner, há lacunas concretas e visíveis de responsabilidade em face de déficits dogmático-normativos. Isso, certamente, decorre do descompasso entre o andar prático-empírico da tecnologia, muito acelerado, e a lerdeza clássico-jurídica para perceber os movimentos da realidade79 e ajustar-se.
Teubner traz à baila a imagem do homo ex machina, naturalmente amedrontador para os humanos. E pergunta: diante de agentes autônomos perigosos, a subjetividade jurídica total deve ser atribuída? Seria importante “graduar” a autonomização dessas entidades, estabelecer critérios legais para autonomizar? Isso supõe, naturalmente, um controle da incorporação das possibilidades tecnológicas na linha preconizada pelo princípio da subinstrumentalidade da tecnologia80.
Antropomorfização e comunicação com agentes automatizados são tratados especificamente por Teubner, além da sensível questão das decisões autônomas desses agentes81. No item III do artigo, o jurista aborda diretamente as questões legais frente aos riscos da autonomia dos agentes digitais de software: contratos digitais, responsabilidade contratual e extracontratual além da responsabilidade por perigo ou por assistência digital.
Finalmente, Teubner aborda a questão da responsabilidade do que chama de híbridos (homens e máquinas), sua equiparação a entidades jurídicas especiais e, ainda, das dificuldades provocadas pela atuação desses agentes automatizados em rede, quando os atos, lícitos ou ilícitos, advêm de uma multiplicidade de agentes.
Como se vê, não são poucos os desafios colocados ao Direito, aos juristas e aos legisladores, notadamente pela transdisciplinaridade característica desses novos entes que precisam ganhar um status jurídico.