O machine learning e o máximo apoio ao juiz

Resumo: Este artigo está escrito para juristas e traz ao menos uma indicação relevante para os tecnólogos. A e-contemporaneidade será marcada pelos algoritmos que aprendem (aprendizes). Eles já podem apoiar maximamente o juiz, se postados como observadores de segunda ordem (Luhmann) para aprender. Para cada juiz um aprendiz é a proposta que respeita o modelo constitucional processual. A pesquisa bibliográfica comprova a presença dos algoritmos, como verdadeiros actantes (Latour, Law, Callon) nos cenários jurídicos. E desvela os debates acadêmico (Teubner) e jurisprudencial sobre os modos de lidar com tais entes tecnológicos. O processo judicial tem incorporado as inovações técnicas desde sempre (escrita, datilografia, computadores, internet). Agora tem de adotar os aprendizes, expertos em mineração de textos, para apoiar maximamente os julgadores (foco do trabalho) e demais operadores. Instiga-se, também, uma revisita à teoria dos sujeitos e dos atos processuais. Espera-se contribuir para: (1) a percepção e o entendimento do fenômeno evolutivo - qualitativo e paradigmático – dos algoritmos; (2) facilitar a aceitação de sua presença nos cenários jurídicos e (3) fomentar a disposição e os estudos para incorporá-los de forma adequada na teoria e na prática do processo. O método utilizado é o indutivo, mas com liberdades hipotético-dedutivas preditivas.

Palavras-chave: Aprendizes. machine learning. e-contemporaneidade. e-processo. Observação de segunda ordem.

Sumário: Introdução. 1. Conceitos operacionais. 2. Cenários. 2.1. Contextualização: mundo, aprendizes, e-processo. 2.2. e-contemporaneidade. 2.3 Os e-contemporâneos. 2.4. O impossível está muito pequeno. 2.5. Os aprendizes finalmente aprenderam a aprender. 2.6. e-processo. 3. Os algoritmos. 3.1. Clássicos e aprendizes: pretensões e possibilidades. 3.2. Os senhores dos mercados também desdenharam os algoritmos. 3.3. Revolução algorítmica I: a corrida dos algoritmos para a liberdade. 3.4. Revolução algorítmica II: aprendizes em vez de programadores. 3.5. Os aprendizes e o Direito. 3.6. Evidências da ascensão dos algoritmos no e-processo. 3.7. Gunther Teubner: a personificação dos algoritmos. 4. Teoria do observador de Niklas Luhmann. 4.1. Fontes. 4.2. Escopo da teoria do observador para Luhmann. 4.3 Características gerais da teoria do observador .4.4. Observação de segunda ordem e a capacidade de lidar com a complexidade. 5. Aprendizes: finalmente a tecnologia chega ao juiz?. 5.1. Para cada juiz, um aprendiz. Megadados (big data) e microdados (small data). 5.2. O princípio da linearização nodal momentânea dos sistemas decisórios. 5.3. Os aprendizes no ataque ao gargalo da linearização.5.4. Não há novidade prática, apenas tecnológica. Considerações finais. Referências bibliográficas.

---

Introdução

Não é necessário entender de fórmulas matemáticas, indispensáveis para os tecnólogos e a IA. Os juristas precisam apenas captar as possibilidades abertas por elas.

Os avanços técnicos dos algoritmos que aprendem (aprendizes ou algoritmos de machine learning) são a sensação do momento. As conquistas nas áreas de inteligência artificial, da engenharia de software e de conhecimento, da linguística computacional, da mineração de textos, da eletrônica, da comunicação e das relações e, claro, do hardware, estão viabilizando softwares com habilidades extraordinárias em comparação com os que atualmente são utilizados (tradicionais).

Esse avanço tecnológico colocará actantes cada vez mais estranhos no âmbito do e-processo, tornará imperativa a percepção de suas presenças e a aceitação de seus papeis no procedimento e forçará, quando necessário, que se dê algum tipo de personalidade a tais novos agentes (e-sujeitos), quanto praticam atos jurídicos (e-atos) na cadeia do procedimento.

A nova geração algorítmica – doravante apenas aprendizes - permite atuar pela observação de segunda ordem (second order cybernetics) e pode simular uma autocomplexificação estrutural operativa que nenhum programador poderia preparar. Os aprendizes estão permitindo recriar quase tudo: negócios, a própria tecnologia, a política (veja-se a Analytics) e a guerra. E vão recriar o processo judicial, certamente. Para o bem ou para o mal, o que dependerá dos juristas. Não é necessário entender de fórmulas matemáticas, indispensáveis para os tecnólogos e a IA. Os juristas precisam captar as possibilidades abertas por elas.

O objetivo imediato do trabalho é (1) realçar o salto tecnológico em curso, qualitativo e paradigmático, nas técnicas de algoritmização e outras, que permitiram a emergência do sonho de alcançar um algoritmo mestre capaz de aprender qualquer coisa e (2) apontar a viabilidade de usá-los, no estágio atual, para impulsionar o princípio do máximo apoio ao juiz. À luz da teoria da observação de segunda ordem, de Niklas Luhmann, os aprendizes podem ser usados para ajudar o juiz sem violar o jurídico.

Mediatamente, sugiro uma revisão da TGP para contemplar os agentes automatizados. Alguns deles precisam receber certa personificação, o que mexe na teoria dos sujeitos processuais porque esses actantes ou agentes de software já praticam autonomamente atos jurídicos (e-atos) no procedimento judicial.

Com esses objetivos, após evidenciar/caracterizar os novos aprendizes, colherei de Luhmann as noções básicas da teoria da observação de segunda ordem e dos ganhos que permite, nos sistemas sociais, para o manejo da complexidade. Que tipo de aprendiz pode ser útil nos papeis cruciais do e-processo? Há espaços do procedimento onde eles não podem ser usados? Este trabalho instiga tais reflexões e sugere se postem os aprendizes no apoio ao juiz.

Trabalhei indutivamente, mas sob inspiração hipotético-dedutiva e preditiva. Pela extensão do artigo, julguei confortável repetir, em alguns pontos, ideias básicas para o entendimento do item específico, principalmente em releituras.

---

1. Conceitos operacionais

A novidade da temática para muitos juristas recomenda, na esteira das orientações de César Pasold2, se adiantem alguns conceitos operacionais. A intenção não é a precisão técnica conceitual, mas noções básicas para viabilizar o início do diálogo. Outros conceitos aparecem ao longo do texto.

• Actante 3 : termo amplamente utilizado no âmbito da teoria ator-rede (TAR), por Latour, Callon e Law, para tratar da ampliação do conceito de sujeito da tradição filosófico-sociológica, numa manobra assemelhada à de Luhmann que, no lugar do sujeito, coloca o sistema. Tudo que tem agência, inclusive um quebra-molas, por exemplo, é um actante, pois altera o comportamento das pessoas. E um homem é um actante diferente do mesmo homem com um revólver. Um algoritmo é um actante porque tem agência: capacidade de agir autonomamente, conformando comportamentos. “A dimensão artefatual chama a atenção para a participação dos objetos técnicos na gênese dos processos cognitivos [...] “, diz Fernanda Bruno4.

• Aprendiz: algoritmo capaz de aprender, ou seja, de observar e construir, para si, estruturas operativas novas, não escritas por programadores como nos algoritmos tradicionais. São resultado dos avanços do chamado aprendizado de máquina (machine learning), um ramo da Inteligência Artificial que, segundo Pedro Domingos5, cientista e professor da Universidade de Washington, em Seattle, apartou-se da Engenharia do Conhecimento pela adoção de novas abordagens para avançar no aprendizado.

• Jurista: “ [...] grupo especializado, com um papel social peculiar: os juristas, que desenvolvem uma linguagem própria, com critérios seus, formas probatórias, justificações independentes. Começa, com isso, uma separação entre o exercício político, econômico, religioso do poder e o exercício argumentativo: nasce e se desenvolve a arte de conhecer, elaborar e trabalhar o direito.” 6

• Linguística computacional: técnicas pelas quais se tentam formas de os computadores compreenderem ou reproduzirem uma linguagem natural7.

• NTRIC: Novas Tecnologias das Relações, da Informação e da Comunicação, expressão usada por Raquel Roca8 que capta bem o efeito das e-interações como novo e fundamental elemento do fenômeno comunicativo atual.

• SEPAJ: acrônimo de Sistemas Eletrônicos de Processamento de Ações Judiciais, nome usado pelo legislador (art. 8º da Lei 11419/2006) para designar os sistemas eletrônicos centrais do e-processo. Atualmente utilizam-se o e-Proc, o PJe, o SAJ etc.

• Simular autocodificação: os aprendizes não geram estruturas de código como as escritas por humanos. Seus métodos de obtenção dos resultados são diferentes. Os autores costumam se referir a algoritmos que se constroem a si mesmos e isso induz em erro. Já há aprendizes que ajudam humanos a fazer códigos do jeito humano, o que só piora a confusão.

---

2. Cenários

2.1. Contextualização: mundo, aprendizes, e-processo

“ [...] não é o encerrado entre nossas paredes, mas o mundo todo, que os deuses nos deram como albergue e pátria [...] “ 9

As sociedades estão passando por intensa mutação com impacto direto nas ordens jurídicas. Na origem de várias transformações, está um ente tecnológico cujas pretensões assustam. Na atualidade, é impossível viver sem algum patrulhamento, controle, supervisão, apoio ou afago de um algoritmo. “Así es el mundo que viene: tecnológico, global, social, hiperconectado, exponencial, competitivo, equilibrado, polarizado, meritocrático, multicultural, líquido, en constante cambio…”10 para cada novo algoritmo que nasce.

Nesse cenário imenso e viscoso, faço um recorte e tomo como pano de fundo das reflexões o e-processo, feito com o SEPAJ, um algoritmo central, clássico, incumbido de antigos papeis cometidos exclusivamente a humanos. Não há e-processo sem ele.

Do SEPAJ e de seus novos aliados, mais evoluídos, advêm e advirão inumeráveis e-atos, ou seja, atos jurídicos praticados por algoritmos11. Não se trata mais, apenas, de controlar acesso, exibir documentos, fazer a ordenação do fluxo mediante decisões simples da pré-complexidade. Uma abordagem algorítmica clássica dá conta delas.

O poder de aprender (simular a autoconstrução de estruturas operativas) dos aprendizes os habilita para tarefas muito mais complexas, como, para alguns, o próprio ato de julgar. Postados como observadores de outros atores (outros observadores), por exemplo, num nível adequado e com os poderes das NTRIC, os aprendizes habilitam-se para operar em patamares inalcançáveis pelos algoritmos clássicos. Podem assumir, no processo, papéis novos que os algoritmos dos SEPAJ, os seus primos mais velhos, nem imaginam possível. Apoiar maximamente os juízes é um deles, o que pode revolucionar o e-processo. Em vez de os juízes ajustarem-se ao SEPAJ, este vai ajustar-se a eles.

Essa transformação levanta um desafio transdisciplinar12 onde soluções simplistas não cabem: rearranjar a teoria do processo. Outro artigo se ocupará disso. As lucubrações feitas aqui permitem extrapolações, mutatis mutandis, para outros âmbitos e preparam o caminho. Gunther Teubner13, por exemplo, muito preocupado, aponta a necessidade delas para dar conta de “ […] algoritmos predadores perigosos que penetram na área do direito civil”. Os deuses nos deram, mesmo, como diz Cícero, muito mais que o delimitado pelas nossas paredes.

2.2. E-contemporaneidade14

Diga-me o que clicas e eu te direi quem és!

Vive-se na e-contemporaneidade15, a idade da hiperconectividade, da hipercomplexidade, da tecnologização máxima, do big-data, onde ser é estar e-conectado, onde conectar-se é condição do ser-aí, em que a e-interação16 evidencia transformações sociais profundas, enfim, a idade na qual Shakespeare envelheceu de vez: ser ou não ser não é mais a questão. A dita 4ª revolução industrial17 é o fenômeno de cunho tecnológico - uma conjunção de fatores tecnológicos - indutor da emergência dessa nova realidade social ampla: a e-contemporaneidade. Este é o mundo em que estamos imersos.

Talvez a evolução dos aprendizes venha a ser a pedra de toque dessa nova fase. Diga-me o que clicas e eu te direi quem és parece a lógica que rege o mundo e-contemporâneo em que estar ou não conectado é a questão real. Das coisas (IoT18) às pessoas, a conexão torna tudo um grande sistema.

Na e-contemporaneidade, sob análise sistemática, adequada e histórica, desnuda-se o homem por trás dos cliques e seu modo de estar no mundo. Nunca a pessoa foi, tão literalmente, um feixe de relações do qual algoritmos, captando gostos, desejos, esperanças e dissabores, retiram elementos para orientar a ação predadora ou dominadora, sobre o mundo, dos que se valem deles.

A carência de raízes históricas e práticas para entender o novo real é evidente. As ciências da informação e da comunicação avançaram até as promessas de aprendizes semi-deuses que tudo sabem de nós. Na outra ponta – a do encaixe jurídico dessas novas coisas no edifício jurídico-teórico – está-se apenas na fase do assombro.

2.3 Os e-contemporâneos

“[...] embora nunca tenhamos adquirido tanto saber nem tanto poder, também é verdade que o acréscimo de saber e de poder não tem sido acompanhado de sabedoria.” 19

No cenário de casa do espanto descrito, os e-contemporâneos podem ser distribuídos de várias maneiras, conforme se posicionem frente às inovações.

Os e-contemporâneos desesperados tendem a apenas gritar pelo pedal do freio: “como paro essas coisas?”. Ora, essa carruagem não tem freio. Não há como matar os técnicos. Jogar uma bomba no Vale do Silício é impossível.

Os e-contemporâneos cansados apegam-se a antigas noções e arquétipos com os quais tentam, forçadamente, alguma estabilização para ganhar um fôlego. Mas não há camisa de força antiga que contenha os novos monstros.

Os escatológicos, como sempre, apelam para as ameaças, os temores, as visões de fim dos tempos, do Armagedom, da humanidade em frangalhos, destruída pela própria capacidade de aprender, inventar e evoluir. Afinal, em algum momento, a evolução será involução, na busca de novo big bang.

Os ufanistas representam o grupo da crença incondicionada no avanço da tecnologia. A bomba atômica foi apenas um desvio da curva, já controlado. E tudo que é tecnológico é bom. São quase tecnofanáticos, moucos e cegos aos ruídos e trovões tecnológicos. Para eles interessa apenas que os computadores vençam, sem se importar em como isso afetará as percepções humanas dos seus papeis e posições no mundo.20

Os conscientes, permita-se classificá-los assim, anseiam pela tecnologia mas a observam como tecnologia, como um instrumento muito bem-vindo se a adoção provoca otimizações na vida em geral ou na área particular para a qual foi desenvolvida. Eles põem a razão vital à frente da razão instrumental.

2.4. O impossível está muito pequeno

Afinal, googlar (pesquisar no Google) é muito chato, uma dependência insuportável.

O assombro dos e-contemporâneos desesperados não é por acaso. Há coisas acontecendo muito além do imaginável há exíguos 5 anos. Como se poderia imaginar isso?, pergunta-se a maioria. A e-contemporaneidade é surpreendente, líquida (Sigmund Bauman) e fugidia. Escorre pelos dedos.

A aceleração tecnológica não é linear, é exponencial. Desde os primórdios da humanidade, até há pouco mais de um século, o cavalo reinava nos transportes. Foram milhares de anos de exploração do animal. Aí, dentro de limites bem imagináveis (pouca surpresa, portanto), vieram os trens, os navios a vapor, os cavalos mecânicos. Na seqüência, em pouquíssimas décadas, ocorreu o primeiro pequeno choque à imaginação: o avião, o jato e o pouso na lua fascinaram a todos. Agora, todos os dias, coisas inimagináveis acontecem. Das bizarrices da física quântica às viagens espaciais, das investidas na cadeia do DNA aos aprendizes, a roda da inventividade acelerou-se. Este é o mundo de ilimitação do possível. O impossível está muito pequeno.

Na e-contemporaneidade, Ray Kurzweil21 anima-se a prometer cérebros que, via e-conexões físicas (ondas, claro!), são expandidos por algoritmos instalados nas nuvens. Instalados nas nuvens? Não é mais necessário explicar isso. Por aí, em algum lugar, em emaranhados invisíveis de redes e sub-redes, há uma inteligência em funcionamento permanente e um conhecimento em dialético e eterno crescer.

Kurzweil vislumbra o conhecimento e a capacidade de processamento do mundo, em sua totalidade, disponíveis, imediata e diretamente, ao cerne algorítmico cerebral e natural humano. Uma máquina híbrida de pensar. Quem não a quer? Afinal, googlar (pesquisar no Google) é muito chato, uma dependência insuportável. As pessoas apenas e simplesmente saberão! Ou todo saber será, sempre e apenas, um humilde até há pouco eu sabia? Os novos Sócrates dirão: só sei que eu sabia?

Segundo o autor de Como criar uma mente, “trezentos milhões de processadores de padrões pode parecer um número grande, e de fato foi o suficiente para permitir que o Homo sapiens desenvolvesse a linguagem verbal e escrita, todas as nossas ferramentas e tantas outras criações.”22 E é este pequeno número de processadores que precisa ser acrescido de tudo que habita nas nuvens?

Na e-contemporaneidade, os algoritmos clássicos estão eles mesmos assombrados. Os irmãos mais evoluídos estão revolucionando tudo, descolando-se das limitações tradicionais do programar e adotando novos modos de encarar a solução dos problemas.

No âmbito dos sistemas sociais – organizações e sociedades, notadamente! - a capacidade de lidar com a hipercomplexidade só pode ser alcançada pela observação da observação, como percebeu Luhmann. Agora, na seara técnica da algoritmização, faz-se também, de maneira crescente e rápida, a introdução de condições técnicas e fáticas de observar esquemas de observação e internalizar (construir) para si (em si?) estruturas operativas que emulam tais esquemas de observação de primeira ordem.

2.5. Os aprendizes finalmente aprenderam a aprender

A mineração de dados permitiu deixar de lado os especialistas e obter os conhecimentos a partir dos textos.

Os aprendizes, agora, permitem automatizar coisas que a Engenharia do Conhecimento (EC) e sua tradicional inteligência artificial (IA) não conseguem? Pedro Domingos afirma que sim. E levanta uma polêmica que não deve impressionar os juristas.

Sete décadas atrás, Alan Turing abriu, com uma pergunta singela, o debate que permanece vivo e acalorado: “Eu proponho considerar a questão: ‘podem as máquinas pensar?’”23 [tradução livre]. E propôs o famoso teste da imitação24. Se o algoritmo pensa ou não, continua uma questão aberta. Searle pode ser apontado como paradigma da resistência: a reprodução de processos mentais num computador não significa que se implante uma mente na máquina.25 Mas o Google Duplex26, recentemente lançado, é apontado pelos especialistas como a última passagem exitosa pelo teste do jogo da imitação proposto pelo matemático inglês. É uma façanha dos aprendizes de última geração e, com mente ou não, o algoritmo deixa muita gente boquiaberta quando o atendente humano, no diálogo, pede: - pode aguardar um momentinho? – e ele responde, com naturalidade: - ãmrãm! – assentindo com a espera. O duplex aprendeu, não foi programado.

Na verdade, a aprendizagem de máquina ocupa espaços nas obras da EC há décadas. Ondas sucessivas de entusiasmo e de pessimismo sucederam-se como numa corrida de obstáculos. Quando se imaginava a reta de chegada, vinha novo obstáculo. Técnicas promissoras esbarravam em diferentes dificuldades, como apontavam, por exemplo, Monard e Baranauskas na reverenciada obra Sistemas Inteligentes, de 2005, ao tratar da lógica de segunda ordem: “é conveniente salientar que esta linguagem de representação é tão rica e flexível que seu uso é, em muitos casos, computacionalmente inviável.”27 As inviabilidades estão minguando.

Uma corrida pelo índice de Sistemas inteligentes evidencia as frustrações e esperanças de então. Todos os capítulos da parte I têm um penúltimo item Perspectivas futuras. Nesse tópico, do capítulo 13 - mineração de textos, estão informações que todos os juristas atuais precisam conhecer. Elas são a expressão técnica das limitações e sonhos, da época, acerca dos quais se fez muito avanço nos anos subsequentes. Texto e juiz tem tudo a ver. E os aprendizes parecem ter aprendido a ser bons mineradores, finalmente. Arrancar coisas de um juiz é difícil, mas suas sentenças e os respectivos processos estão todos disponíveis.

Ebecken, Lopes e Costa, autores do capítulo 13, punham sérios desafios a vencer, na área da mineração de textos: “a riqueza dos textos, a complexidade dos problemas relativos à linguagem e o esparsamento dos dados [...] “28. Como demonstra John Searle29, a linguagem é um tipo muito complexo de ação humana. Harari a põe na base da revolução cognitiva, o que permitiu ao Homo sapiens liberar-se das amarras do DNA30, o que nos distingue dos bichos. Por isso, extrair os sentidos dos textos dificultou o caminho da IA. Até a última guinada técnica, os métodos adotados para a mineração mostravam-se claramente inadequados.

E os autores citados diziam, ainda, com certo ceticismo: “a abordagem sofre também do conhecido problema de Inteligência Artificial: como extrair conhecimento de especialistas da área e convertê-lo em um formato utilizável pela máquina.” 31 Era a realidade da época. Mas longe de entregar os pontos, afirmavam que a área de pesquisa tendia “ [...] a crescer em virtude principalmente da enorme quantidade de textos produzida pela web, e pelo grande interesse que essa disponibilidade acarreta de modo geral.” 32 Nisso estavam certos.

As conquistas da área fizeram-se pela mudança de abordagem – que Pedro Domingos afirma existir e que está na base da disputa mencionada – e pelo avanço geral das NTRIC, com ênfase para as tecnologias das relações.

Habermas parece captar, de forma surpreendente, na teoria sistêmica de Luhmann, a necessidade da manobra revolucionária feita pelos cientistas tecnólogos. Embora Luhmann se referisse à relação de dois sistemas psíquicos, vale a aplicação para a relação sistema psíquico e aprendiz. Habermas começa dizendo que a estratégia de Luhmann é clara e parte da percepção de que “[...] se a operação do símbolo linguístico se esgota na articulação, na abstração e na generalização de processos da consciência e de contextos de sentido pré-linguísticos, a comunicação realizada com os meios da linguagem não pode ser explicada com base nas condições de possibilidade especificamente linguísticas.” 33 [grifo meu]

Desse modo, fica claro que a linguagem não tem o caráter sistêmico-estrutural necessário para possibilitar se estabeleça “ [...] a relação interna entre compreensão de sentido, significado idêntico e validade intersubjetiva [...] “ e, então, “ [...] não é mais possível explicar, pelas vias da análise da linguagem, nem a compreensão das expressões de significado idêntico, nem o consenso (ou o dissenso) sobre a validade das manifestações linguísticas [...]”34. Ora, esse foi o caminho aparentemente abandonado. Uma imagem linguística do mundo parece algo impossível. Daí, diz Habermas, fica claro que na ótica luhmanniana, “os aspectos da intersubjetividade linguisticamente gerada precisam ser derivados, como artefatos autoproduzidos, das reações recíprocas dos sistemas elaboradores de sentido.”35 [negrito meu] O reconhecimento da insuficiência da análise linguística para a mineração de textos e a autoprodução de artefatos viabilizada pelos aprendizes produziram o salto agora sentido na IA.

A mineração de dados, com nova abordagem e renovadas ferramentas, permite deixar de lado os especialistas e obter seus conhecimentos a partir dos textos. Concretizou-se a previsão de Ebecken, Lopes e Costa : “ [...] a extração de informações em textos passou a ser possível e o imenso e crescente mundo dos textos está começando a ser explorado.”36 Agora já está sendo utilizado efetivamente em muitas áreas.

2.6. E-processo

Algoritmos estranhos, evoluídos, batem à porta.

E-processo é o método de adjudicação do Direito da e-contemporaneidade, impactado drasticamente pela tecnologia: um processo que opera com um ferramental tecnológico-algorítmico que vinha se expandindo a cada dia e que está dando um salto evolutivo potencialmente revolucionário.

No e-processo atual, os absolutos senhores operadores juízes (sujeitos psíquicos, humanos) tornaram-se, já, meros usuários internos (Res. CSJT 136, art. 3º, IX) de um algoritmo. Ver autos, examinar peças, atuar num processo somente é possível com a mediação dele, o e-sujeito. Mas apenas papeis menores lhe foram entregues.

O tempo do inimaginável está chegando. Decisões difíceis terão de ser tomadas: entregar ou não aos algoritmos papeis julgados por muitos como não delegáveis? Não havia preocupação a respeito até agora. Afinal, não havia viabilidade das delegações em áreas sensíveis. Mas a caixa de pandora está sendo aberta e algoritmos estranhos, evoluídos, batem à porta. Como afirmado por Maximiliano Carvalho, “ [...] o processo eletrônico pode (e deve) evoluir para conter elementos de inteligência artificial (uso de metadados e algoritmos).”37

O e-processo vai transformar-se, dos papeis dos sujeitos às possibilidades de autoprocessamento. Um e-sujeito reticular, maximamente e-conectado (conexão sem mediação humana) transformará tudo que sempre se imaginou sobre o método de adjudicação do Direito. Usando-se a expressão feliz do estudioso José Eduardo de Resende Chaves Jr.38, finalmente o processo de cabeça de papel vai dar seu salto para a e-contemporaneidade pelas mãos dos aprendizes.

---

3. Os algoritmos

3.1. Clássicos e aprendizes: pretensões e possibilidades

Com esse novo jeito de ser e comportar-se, os algoritmos estão por toda parte e fazendo todas as ameaças.

O exemplo clássico de algoritmo é o de receita de bolo39.Seguindo-se a receita com perfeição, faz-se exatamente aquele bolo. Isso está mudando. Programar um computador (fazer um algoritmo) era fazer uma receita de bolo que ele fosse capaz de entender e executar. Abre o arquivo tal, lê o primeiro registro, soma e divide, move do lugar A para o lugar B da memória, agora grava no disco X. Repete tudo até alcançar a condição Z. Pronto. Isso é, classicamente, programar. Os algoritmos que aprendem parecem exigir uma revisão do conceito.

Algoritmos aprendizes poderiam observar alguém na cozinha e abstrair da observação a receita do bolo. Isso ainda é uma metáfora.

Mas já podem andar por aí com muitos motoristas, em distintos veículos, e aprender a dirigir. Isso não é metáfora. Os veículos com direção assistida multiplicam-se no mercado.

E podem examinar como um juiz decide os casos e aprender a decidir da mesma maneira? Isso não suscita mais dúvidas do ponto de vista da viabilidade técnica em certos casos.

A evolução é um fato e o campo do não algoritmizável está sendo esmagado. Os carros sem motoristas - que também matam pessoas, como todos os carros - suscitam dilemas que vão da prancheta dos desenvolvedores (dilemas técnicos e morais), passam pelas cadeiras dos filósofos (dilemas existenciais e éticos), lançam preocupações nas esferas de poder e econômicas (ocupação, emprego) e deságuam, como tudo o mais, nas bancas de advogados e nas escrivaninhas dos juízes.

Os aprendizes são gerados por humanos mas estão dotados de capacidades especiais de observação e construção de próprias e adicionais estruturas operativas (autopoieticamente?40). Maturana e Varela estão entre os muitos assombrados. Seres tecnológicos autopoiéticos? Como diz Maturana, não há um suposto ontológico ou um princípio explicativo por trás da determinação estrutural, mas uma abstração das regularidades da experiência do observador.41

Com esse novo jeito de ser e comportar-se, os algoritmos estão por toda parte e fazendo todas as ameaças. Quem deve responder a elas? Muitas áreas, claro, inclusive o Direito. Vindos de plagas estranhas e não afeitos às limitações epistemológicas – Bachelard diria obstáculos epistemológicos - e normativas, tão caras aos juristas, os algoritmos têm chegado, sem qualquer sutileza, espezinhando leis e costumes, alterando relações, nulificando conceitos e confrontando expectativas e crenças. No exercício de papéis milenares de humanos, eles transitam em vãos ainda escuros, não iluminados por luzes teóricas e jurídicas. Se deixar, bagunçam tudo. E os aprendizes são bem mais desenvoltos e pretensiosos.

Estão aptos a emular aquele milagre de que Piaget fala ao criticar Wallon no tocante à aprendizagem: “ [...] la tesis de Wallon no da suficiente importancia a la estructuración progresiva de las operaciones [...]“42. Isso deveria ser um fenômeno exclusivamente humano: a autoestruturação progressiva das operações. Parece que já não é mais. Na esteira da sapiência premonitória de Luhmann, são auto-organizadores pois constroem estruturas operativas virtuais ao operar.

3.2. Os senhores dos mercados também desdenharam os algoritmos

Os cientistas da área financeira também demoraram a perceber o impacto que físicos e matemáticos, com suas fórmulas misteriosas, provocariam nos mercados financeiros. Quando a revista Forbes, em 1979, falou dos quants, havia grande desconfiança no ar. Quants são analistas e investigadores de bases de dados capazes de criar softwares, coordenar a implementação de projetos e entender as regras por trás dos jogos financeiros. Eles “ [...] trouxeram para Wall Street e para a mesa de operações do mercado financeiro os sofisticados modelos matemáticos e computacionais da academia.”43 Não se tratava da academia tradicional a que estavam acostumados os teóricos do mundo financeiro. Os novos modelos vinham de salas e corredores pelos quais circulavam os desvairados dos mundos da física e da matemática, como Princeton (Einstein) e Harvard.

A Renaissance Technologies é uma empresa dona de um fundo financeiro – o Medallion - cujo desempenho superou, nas últimas décadas, os fundos das figuras carimbadas do mercado, inclusive George Soros e seu imbatível fundo Quantum e Warren Buffet, da Berkshire Hathaway. Mas o que mais impressionou foi a passagem do Medallion, quase incólume, pelos percalços da gravíssima crise dos mercados de 2007 e 200844.

Mero jogo de mercado? Certamente não. A Renaissance é de Jim Simons, o coinventor da aclamada Teoria de Chern-Simons, da área da matemática e base da Teoria das Cordas, a teoria de ponta da física atual. “Um terço dos empregados [da Renaissance] têm doutorado – não em finanças, mas como Simons, em áreas como Física, Matemática e Estatística. De acordo com o matemático do MIT, Isadore Singer, a Renaissance é o melhor departamento de Física e Matemática do mundo [...] “45. Segundo Weatherall, a Renaissance não contrata qualquer pessoa contaminada pelas práticas tradicionais de Wall Street. Doutores em finanças não são aceitos. Na visão deste autor, Simons venceu porque evitou os especialistas em finanças.

Pode-se dizer: Ah, mas o mundo do Direito é diferente! Não há como negar isso, notadamente nos limites em que é tomado para este trabalho (o e-processo). Mas quais são as diferenças que realmente importam e quais a similitudes? Onde e como as visões teórico-computacionais, desenvolvidas desde a chegada dos computadores e do software, podem contribuir para a evolução do processo, para o aperfeiçoamento do sistema jurídico-funcional desenhado para adjudicar o Direito?

Em minhas palestras, costumo exibir um mapa das ciências da complexidade46 para tentar demonstrar o tamanho dos esforços científicos que estão pressionando o Direito e tornando evidente a necessidade de incorporá-los com pungente revisão da teia jurídico-teórica elaborada antes da revolução dos bits. A resposta, em geral, vinha sendo de olhar descrente e desinteressado. Mas isso tem mudado muito rapidamente. Afinal, até quando os juristas vão desdenhar ou desconsiderar as ofertas das ciências da complexidade?

Os monstros pavorosos dos algoritmos, de que fala Gunther Teubner, notadamente os da última geração, os aprendizes, estão ocupando espaços demais para não serem percebidos. Os teóricos do Direito terão de arregaçar as mangas e enfrentar o redesenho de visões e conceitos para incorporá-los pois, nos fenômenos da vida, eles já estão completamente emaranhados47. Ou os juristas vão deixar que eles tomem conta dos espaços do Direito, como fizeram nos mercados?

O exemplo de Simons, que abandonou os expertos da área e entregou-se às fórmulas mágicas produzidas em outras searas, merece um olhar mais atento e investigativo do que curioso.

3.3. Revolução algorítmica I: a corrida dos algoritmos para a liberdade

“Na verdade, atualmente as pessoas escrevem muitos programas que os computadores não conseguem aprender. Porém, o mais surpreendente é que os computadores aprendem habilidades que as pessoas não podem escrever”.48

Inicialmente, os computadores recebiam fisicamente os algoritmos. Os circuitos incorporavam os algoritmos, eram ditos circuitos dedicados. Uma máquina para cada função. Os algoritmos eram prisioneiros dos circuitos.

Os algoritmos iniciaram, então, sua trajetória libertária. A programação passou a ser feita com a troca de pinos em painéis imensos, como faziam as antigas telefonistas. Uma máquina para muitas funções iniciou a generalização do hardware e a especificação do software onde residiam os algoritmos. Rodar a folha de pagamento exigia que os pinos fossem colocados em certa posição (carregar o programa de folha). Finalizada a folha, para rodar o contas a receber, os pinos tinham de ser reposicionados (carregar o sistema de contas a receber). Claro que isso tinha de mudar e não demorou.

Em pouco tempo, os programas passaram a ser escritos, registrados em cartões perfurados e o computador ganhou a habilidade de carregá-los (lê-los para memória) a partir dali49. Era difícil escrevê-los em assembly 50, mas a linguagem simbólica, mesmo difícil, jogou os pinos no lixo. E o software começou a merecer o nome: quase um espírito que habitava as entranhas da máquina metálica para orientá-la na execução de uma tarefa. Um fluxo de energia, tal como a vida. A máquina ficou genérica e a especificidade das soluções migrou exclusivamente para o programa.

A linguagem complicada – o assembly e assemelhados - era um obstáculo que logo foi superado também. As linguagens de terceira geração permitiam que se escrevesse quase como um discurso natural: se A é igual a B, move A para C.

A próxima dificuldade foi gerada pela complexificação dos programas: muitos, imensos e complexos. Desenvolvidos sem qualquer técnica, os programas tornavam-se emaranhados de comandos de difícil manejo pelo autor e por outros programadores. Documentação, anotações etc. fizeram o caminho até algumas técnicas de organização dos códigos dos algoritmos. A programação estruturada teve seu auge, sob os auspícios de linguagens que davam suporte ao chamamento centralizado de funções.

Na década de 80, um esforço feito em paralelo, desde a década de 60, em torno da teoria dos objetos, afirmou-se no mercado: a tecnologia denominada OOP (object-oriented programming). As linguagens começaram a incorporar as bases operativas dessa técnica e pareciam ter ganhado vida. Mas, no fundo, o fazer por conta própria aludia a coisas corriqueiras e repetitivas do programa.

3.4. Revolução algorítmica II: aprendizes em vez de programadores

Vamos chamar de algoritmos clássicos aos programas escritos por programador nos detalhes importantes de cada negócio.

Programar classicamente sempre foi dominar a arte da previsão. O programador era o deus capaz de antecipar-se a cada aspecto contingencial futuro a ser enfrentado pelo programa. Como adverte Domingos, “se os programadores são pequenos deuses, o monstro da complexidade é o próprio demônio.”51 E arremata que, pouco a pouco, o demônio está vencendo a guerra.

Ora, a complexificação do mundo não para. E os desafios foram aparecendo. Como fazer um programa para dirigir um veículo? Como dar conta de examinar bilhões de informações e extrair, dali, determinados conhecimentos?52 Como correlacionar diferentes e imprevisíveis reações das pessoas, nas redes sociais, para tirar ilações relevantes para A ou B? Como antecipar-se, num diálogo, às milhões de variantes de fala do interlocutor? Como extrair dos dados conjunções que também levam ao câncer, embora os humanos ainda não tenham se apercebido delas? Como separar um email de spam de outro, semelhante, que não é? Como extrair de milhares de juízes a forma como interpretam dados e leis para decidir?

A programação tradicional é um exercício de previsão transformado em código. É rígida e exclusivista. Cada programa funda seu mundo (o do programador) onde habita e sabe se comportar. O que não está no programa não está no mundo é a versão tecnológica do adágio jurídico o que não está nos autos não está no mundo.

Nos últimos anos, finalmente, numa atitude de rebelde liberação evolutiva, estão se afirmando os aprendizes. A Engenharia do Conhecimento trabalha muito com os algoritmos clássicos e fez e faz coisas fantásticas. Alimentada por avanços das lógicas ditas heterodoxas53 (fuzzy, paraconsistente, paracompleta), alcançou os limites da possibilidade de emulação de muitos cérebros humanos especializados trabalhando. Com as manobras lógicas diluiu-se o risco do erro. Mas ela nunca descurou da vertente dos aprendizes.

Afinal, como livrar-se do domínio e das limitações do programador? A resposta é: com os aprendizes! Nenhum bebê nasce sabendo tudo. Mas vem dotado, segundo Kant54, de uma série de habilidades genéricas que lhe permitem construir modos de reação frente a situações inusitadas. Tem de aprender, é claro. E os algoritmos aprendizes (machine learning) inspiram-se nessa mesma ideia, embora cada tribo, como Pedro Domingos denomina os principais grupos dedicados ao assunto, tenha um aprendiz predileto55.

Pode-se dizer, grosso modo, que um aprendiz é um motor de inferência – um teorema, uma fórmula matemática, um modelo – que, a partir do zero e debruçando-se sobre dados (de qualquer tipo), pode extrair dali padrões, regularidades, conexões sistemáticas que implicam conhecimento. Os aprendizes são imbatíveis principalmente quando os dados envolvem não só os inputs mas também os outputs. E podem estabelecer conexões nos dois sentidos, para frente ou para trás. Sempre que tal configuração de entradas está presente, o resultado é aquele. Ou, regressivamente, vão em busca de conjuntos de dados que explicam determinados resultados. Entre inputs e outputs não tem um programa clássico. Tem um aprendiz.

3.5. Os aprendizes e o Direito

Os aprendizes podem servir ao Direito? Eis aí o desafio novo que se põe à tecnologia, se ela pretende entrar no jurídico. A tecnologia jurídica, como Ferraz Jr.56 denomina o Direito, é não trivial e alberga um inimigo crasso da lógica: a contradição. O if then else, mesmo diluído conforme a proposta das lógicas não heterodoxas, não se concilia com a contradição. A proposta deste artigo é que se dê o passo que os aprendizes parecem permitir, se forem postados numa posição adequada. Um das posições, certamente, é ao lado do juiz, não para o substituir, mas para apoiá-lo.

Se o Direito é convivência em contradição57 e se ele funciona, então é preciso automatizar isso e não outra coisa. Há quem discorde, sabe-se. E mesmo o Direito tem reconhecido a necessidade de fixar limites às interpretações (súmulas vinculantes, repercussão geral etc). Mas isso diz respeito às leis, às premissas interpretativas, não aos fatos. O silogismo é a síntese de ambos, num movimento que desnuda a impossibilidade eterna do mundo humano sem contradições.

Mentes tecnológicas querem aplanar tais absurdezas uniformizando tudo, linearizando o não retificável. Elas admiram ordens formalizáveis, totalizantes, imperiais, transformáveis exclusivamente em estruturas if then else. Como se fosse possível equiparar homem e máquina. Gödel provou, com seu famoso teorema, “ [...] que o homem não é uma máquina e que as máquinas não pensam”58, embora haja muita controvérsia a respeito. A antiga advertência do gênio pai da cibernética, Norbert Wiener, deve ser sempre mantida presente: “É interessante refletir em que toda ferramenta tem uma genealogia e que descende das ferramentas com que ela própria foi construída.”59

Os aprendizes, se adequadamente utilizados e corretamente postados na cadeia procedimental, podem superar suas limitações genealógicas e ser imbatíveis em certos papeis.

3.6. Evidências da ascensão dos algoritmos no e-processo

“ [...] cada vez mais sistemas artificiais aumentam seu poder de operação indo na direção dos sistemas autopoiéticos [...] “ 60 .

No início dos anos 2000, já se previam coisas assombrosas na área tecnológica das NTRIC. A tecnologia já invadira muitas áreas e, na esteira de promessas de liberdade máxima no virtual, enganara muita gente. Um Lanier61 desencantado confessa, atualmente, as frustrações sobre as utopias do início da internet.

Quando saiu a Lei 11.419/2006, previam-se transformações profundas no processo. Como dizem os analistas de sistemas, desde sempre, seriam feitas muitas subotimizações62. Não se sabia exatamente quando, onde e de que maneira seriam feitas, mas era evidente a necessidade de traçar, desde logo, uma demarcação protetiva da autonomia do jurídico. Destravar amarras seculares do processo pela via tecnológica, no sentido de otimizá-lo, era ótimo. Entregar o ramo processual de adjudicação do Direito aos tecnólogos seria o caos? Expus a ideia no princípio da subinstrumentalidade da tecnologia (ou da dupla instrumentalidade): a tecnologia é instrumento a serviço do instrumento. Hoje, a noção é seguramente extrapolável63.

Na época, comportados algoritmos clássicos faziam apenas o que determinados centros de decisão comandavam via regras de negócio (RN)64 sob a crença de, por essa via, preservar os fundamentos jurídicos envolvidos.

Nas entrelinhas da lei 11.419/2006 e dos atos normativos subsequentes, viu-se surgir um sujeito poderoso denominado, no art. 8º, de Sistema Eletrônico de Processamento de Ações Judiciais (SEPAJ).

As técnicas de automação ainda estavam longe da situação atual em que a automação quer se automatizar a si mesma. Em 2006, era preciso abrir-se para a automação (princípio da máxima automação65, de 2008) sem abrir mão do controle do espaço jurídico (autonomia da ciência jurídica). Fizeram-se esforços, cometeram-se erros, mas as promessas de aceleração processual não foram cumpridas conforme o desejo da Constituição Federal66.

Alguns perguntarão: mas se absorveu a tecnologia, não se absorveu? O e-processo e seu estágio atual demonstram a timidez dessa absorção. A reticularidade nunca foi encarada seriamente67, a automação é mínima, a imaginalização continua presente e o suporte ao juiz inexiste. Pode-se dizer, sem grande medo de errar, que está quase tudo por fazer. Faz-se o antigo processo de papel, mas sem a papelada. A mesma lógica se movimenta sob o domínio de um algoritmo controlador de tudo e de todos. A fenomenologia que cerca esse processo fechado, mas tecnologizado, demonstra isso. Não é um algoritmo espetacular, diferente ou inovador. É um algoritmo clássico, normal, um programa limitado e contido, mas que ocupa o cerne do procedimento na atualidade.

Sua presença se fez notar, aos pouquinhos, nas salas de audiência – Deixa eu ver se é possível! -, nos balcões das varas, introduzidos não tão sutilmente em conversas dos atendentes – Desculpe, mas o sistema não permite! -, em discussões de juízes sobre como enganar o intrometido – Utiliza o desvio tal! – em altas e distantes conversas de assessores das bases com os dos centros decisórios na capital do país, para conseguir fazer o que o sistema não deixava fazer – Este sistema não cumpre ordem judicial!. Enfim, a presença, às vezes ótima, às vezes incômoda, foi se manifestando lentamente na vida dos muitos operadores. Como diz Rochlin, de repente todo mundo teve de se ajustar às imposições do sistema: “[...] eu aprendi a adaptar meu comportamento para ajustar-me com o menu eletrônico, para me conformar às especificações de uma máquina.”68 [tradução livre]

Normas posteriores a 2006 renderam-se ao intruso. A resolução CSJT 136 menciona o sistema 73 vezes e reduz os juízes a usuários internos dele. Sabe-se que usuário é alguém que usa, não alguém que controla ou determina.

Em artigo de 2013, com Alexandre Golin Krammes, sintetizamos as discussões correntes sobre atos jurídico-processuais. O sistema estava, autorizadamente, praticando atos jurídico-processuais (e-atos). Ora, se havia e-atos, havia um e-sujeito. O artigo69 sugere a revisão da teoria dos atos processuais e aponta o desajuste conceitual a partir da obra de Fredie Didier Jr.70 A questão apenas recrudesceu e os aprendizes pioram o quadro.

Enfim, seja com algoritmos da velha geração, seja com os novos, a ascensão dos agentes automatizados é o fator mais revolucionário do processo judicial das últimas décadas.

O SEPAJ – que definitivamente é um e-sujeito e um agente automatizado que revolucionou o processo - começou no balcão, recebendo petições e fornecendo protocolo, cuidou do fluxo e das certificações básicas, envolveu-se mais ativamente nas tarefas organizativas, ajudou no cálculo de pena, e-conectou-se com bancos para facilitar pagamentos e recolhimentos e, agora, com um exército de aprendizes, esboça a pretensão de substituir os juízes. Ascensão rápida e ambiciosa desse ente e-sujeito cuja presença não pode mais ser negada. Portanto, a tecnologia tecnológica está batendo às portas da tecnologia jurídica ( a ciência do Direito, segundo Ferraz Jr.71) e pressionando.

Nas abordagens atuais, apresenta uma fragilidade séria para envolver-se no jurídico: é trivial. Mas, como pretendo demonstrar, por uma manobra de posicionamento, os aprendizes podem replicar a não trivialidade do jurídico onde ela parece inescapável e até necessária.

3.7. Gunther Teubner: a personificação dos algoritmos

Automação da automação: os juristas precisam definir se isso cabe no Direito ou como se harmoniza com o Direito.

Teubner abre artigo72 de dezembro de 2017 dizendo que os “ […] predadores perigosos que penetram na área do direito civil são algoritmos não controláveis do mundo digital, robôs, agentes gerais de software.” [tradução livre]

A ocorrência dessa percepção tardia e preocupada do fenômeno era bem previsível. E os horizontes decantados pelos experts são ainda mais assustadores. Para Mark Cuban, "o que está acontecendo agora com a inteligência artificial é que começaremos a automatizar a automação [...] a Inteligência artificial não vai precisar de você ou eu para fazer isso, ela será capaz de descobrir como automatizar [tarefas] nos próximos 10 a 15 anos.”73 [tradução livre] Automação da automação? Isso traz à baila a já antiga dúvida de Niklas Luhmann74 sobre a automação: se feita por algoritmos, ocorrerá ela do jeito que interessa aos humanos?

Mas o que fica mais evidente é que, enquanto o Direito e os juristas estão às voltas com o trato da questão da automação feita por humanos, a automação já está dando o próximo passo dessa caminhada: o da auto-automação ou o da independência em relação aos humanos. Os juristas precisam definir se isso cabe no Direito ou como se harmoniza com o Direito.

Não cabe aqui um exame detalhado das reflexões e preocupações de Gunther Teubner. Mas o herdeiro teórico de Luhmann trata de questões cruciais para o Direito, induzidas pela chegada dos agentes automatizados. Apresento, a seguir, um comentário de alcance semântico que consta da nota de rodapé número 1 do artigo e, na sequência, dou uma corrida rápida pelo sumário para transmitir uma visão panorâmica dos tópicos tratados. Todos os textos transcritos são do artigo e foram traduzidos livremente.

Questão semântica: a nota de rodapé número 1.

Na nota de rodapé número 1, do artigo, Teubner comenta vários possíveis conceitos operacionais para algoritmos que cumprem atividades típicas de pessoas.

• E-person, diz ele, talvez “ [...] se aproxime demais da importância de uma pessoa legal completa“. Mas é interessante o uso que Teubner faz, no caso, do sufixo e- na construção do termo para a designação. O problema que aponta não reside no sufixo mas em person.

• Computador “ [...] se aproxima muito do componente de hardware.”

• Robô, para Teubner, é muito limitado, pois em geral lembra software mais encarnação.

• Algoritmo pode até parecer correto, “[...] mas isso geralmente se refere apenas à fórmula matemática e não faz justiça à sua materialidade subjacente e à dinâmica de sua interação com o mundo real."

• Agente Eletrônico tem um alcance denotativo quase perfeito porque agente “[...] enfatiza o elemento de ação e contém ecos de substituto e assistente. Mas isso leva em conta apenas sinais eletrônicos, mas não sinais biológicos ou sinais luminosos."

• Agente Digital parece a expressão mais adequada para Teubner. Mas logo deixa claro que não a entende completa pois, ao longo da leitura do texto, pede que se considere o termo agentes de software autônomos porque “ [...] ele já prevaleceu no uso lingüístico muito provavelmente”. Embora pareça se render ao acréscimo de autônomo por força onomasiológica (o uso corrente da palavra para a designação do fato), é preciso entender que a questão da autonomia da ação tem alcance semasiológico (significação normativa) marcante, notadamente para os fins buscados no artigo.

No âmbito da Engenharia do Conhecimento, usa-se o termo agente automatizado75 cuja extensão envolve também os agentes de software, sobre os quais, no e-processo, escreve-se longamente em capítulo da obra Engenharia e gestão do judiciário brasileiro76.

Paranorama geral do artigo de Teubner

Teubner mira em outras searas, não na teoria do e-processo. No entanto, a sugestão de personificação jurídica dessas novas entidades capazes de produzir atos, criando-se as condições para a imputação de responsabilidade, por exemplo, segue na direção sugerida há anos de situar o e-sujeito na malha teórica do procedimento/processo. Os agentes de software autônomos precisam ganhar um status privado, no caso da ótica teubneriana (Direito Civil). O e-sujeito processual deve ganhar um status compatível com o espaço em que atua: o e-processo. Talvez a questão da imputação de responsabilidade não seja tão aguda e crucial, mas há outros aspectos preocupantes como aqueles mencionados por Jaron Lanier77 e Yuval Harari78 nas últimas TED talks: há áreas em que a geração de sedes do poder, via tecnologia, são altamente preocupantes.

Para o cientista alemão Gunther Teubner, há lacunas concretas e visíveis de responsabilidade em face de déficits dogmático-normativos. Isso, certamente, decorre do descompasso entre o andar prático-empírico da tecnologia, muito acelerado, e a lerdeza clássico-jurídica para perceber os movimentos da realidade79 e ajustar-se.

Teubner traz à baila a imagem do homo ex machina, naturalmente amedrontador para os humanos. E pergunta: diante de agentes autônomos perigosos, a subjetividade jurídica total deve ser atribuída? Seria importante “graduar” a autonomização dessas entidades, estabelecer critérios legais para autonomizar? Isso supõe, naturalmente, um controle da incorporação das possibilidades tecnológicas na linha preconizada pelo princípio da subinstrumentalidade da tecnologia80.

Antropomorfização e comunicação com agentes automatizados são tratados especificamente por Teubner, além da sensível questão das decisões autônomas desses agentes81. No item III do artigo, o jurista aborda diretamente as questões legais frente aos riscos da autonomia dos agentes digitais de software: contratos digitais, responsabilidade contratual e extracontratual além da responsabilidade por perigo ou por assistência digital.

Finalmente, Teubner aborda a questão da responsabilidade do que chama de híbridos (homens e máquinas), sua equiparação a entidades jurídicas especiais e, ainda, das dificuldades provocadas pela atuação desses agentes automatizados em rede, quando os atos, lícitos ou ilícitos, advêm de uma multiplicidade de agentes.

Como se vê, não são poucos os desafios colocados ao Direito, aos juristas e aos legisladores, notadamente pela transdisciplinaridade característica desses novos entes que precisam ganhar um status jurídico.

---

4. Teoria do observador de Niklas Luhmann

4.1. Fontes

Niklas Luhmann iniciou o desenvolvimento de sua teoria do observador a partir de Sistemas Sociales, de 1984. Mas como informa Javier Torres Nafarrate, nos anos subsequentes o jussociólogo ampliou a noção e definiu outros usos para o conceito. Num passo importante, “Luhmann abordou de maneira muito exaustiva o conceito de observação em Die Wissenschaft der Gesellschaft. Frankfurt, 1990, cap. II."82 A chamada de atenção para a observação de segunda ordem ocorreu com certa naturalidade, a partir das visões da cibernética de segunda ordem de Heinz Von Foerster. Em sua obra final, La sociedad de la sociedad, o estudioso fala em uma observação de terceira ordem83, numa quase generalização recursiva da ideia, muito útil para se pensar nos aprendizes em níveis superiores do Poder Judiciário.

Para os fins deste artigo, exploro a aula VI de Introdução à teoria dos sistemas84 com atenção maior para item VI. A observação de segunda ordem, cujas diretrizes facilitam refletir sobre os aprendizes e sua utilidade no e-processo para impulsionar o princípio do máximo apoio ao juiz.

A manobra de posicionamento (observação de segunda ordem) parece o caminho para compatibilizar a trivialidade tecnológica dos aprendizes com a não trivialidade jurídico-processual. Leve-se em conta que Luhmann trata do assunto num nível de abstração muito elevado e sob luzes sistêmicas.

4.2. Escopo da teoria do observador para Luhmann

A teoria do observador luhmanniana está voltada para os sistemas sociais em sentido amplo. O homem (sistema psíquico), na perspectiva teórica de Luhmann, está no entorno dos sistemas sociais (sistemas de comunicação), embora um dependa simbioticamente do outro. Não há sistemas de comunicação sem a oferta de dinamicidade pelos sistemas psíquicos. Deles os sistemas sociais abeberam-se de potencialidades autopoiéticas básicas no momento da operação. Essa noção está bem assentada no capítulo Codificação e programação da obra El derecho de la sociedad85, de Luhmann. E a noção é muito bem captada e explicada por Klaus Gunther no ótimo capítulo o conceito jurídico da teoria do sistema 86 de Teoria da argumentação no direito e na moral, justificação e aplicação. Pelas mãos do juiz o direito aprende e ajusta-se no aplicar-se, vencendo a rigidez e a insuficiência dos códigos gerais advindos do legislador. A capacidade de observação dos sistemas psíquicos é peça chave na relação simbiótica com os sistemas de comunicação (sociais).

Ora, os agentes automatizados clássicos são sistemas técnicos aptos a desempenhar os papeis dos sistemas psíquicos na operação dos sistemas sociais (identificar o advogado, receber uma petição, fornecer protocolo etc.). Os aprendizes dão um passo além e permitem avanços para terrenos onde os algoritmos clássicos não permitiam aventuras. Seu traço distintivo é a capacidade de aprender, ou seja, de observar e desenvolver por si mesmos estruturas operativas complexas (simuladas), não programáveis (tarefas não algoritmizáveis por humanos), com as quais habilitam-se para desempenhar papeis, nos sistemas sociais, simulando humanos. Essa é sua qualidade especial e que pode muito bem servir ao e-processo.

Ora, observar e aprender são a base da teoria do observador. Para o jurista, não importam as minúcias técnicas pelas quais se viabilizam tais capacidades (desenvolvimentos matemáticos, lógicos e técnicos). Importa entender o potencial de seu uso nos sistemas sociais funcionais como o e-processo.

4.3 Características gerais da teoria do observador

Para Luhmann, os sociólogos precisavam avançar na análise sistemática do conceito de observador: “Há tempos, fala-se na observação de segunda ordem (second order cybernetics, second semiotics...), embora, aparentemente, com base numa operação vista de maneira muito diversa [...] “87. Às noções de cognição, muito gerais, de Maturana e de Dean e Juliet MacCannel, ele acrescenta: “Gothard Günther se questiona sobre as estruturas lógicas que servem para argumentar e descrever o que ocorre quando um sujeito observa o outro não somente como objeto, mas também como sujeito, como observador.”88

Luhmann via fecundidade na perspectiva inovadora que situa o esquema de observação como objeto. Se a cibernética de segunda ordem se preocupa com operações voltadas à regulação e ao controle, é certo que em outros âmbitos a noção se transforma: “[...] não se pode falar evidentemente em um tema único, e muito menos em uma epistemologia constituída.”89 Era preciso aproveitar a ideia no âmbito sociológico.

O conceito básico de observação tem de ser construído utilizando-se toda a base técnico-teórica que envolve a recursividade: “constituição operativa dos sistemas, encerramento operativo, autopoiesis”. Somente assim se pode entender “ [...] como é possível que uma observação possa se produzir a si mesma, ao produzir a observação.”90

Primordialmente, faz-se necessário compreender o termo observador, de um modo extremamente formal, ou seja, evitar qualquer representação de exclusividade, no sentido de se um observador é uma consciência, um cérebro, ou um sujeito transcendental.91

Nesse nível de abstração e formalidade, o conceito de observador absorve perfeitamente um algoritmo que observa para construir suas estruturas de observação pois, como dito a seguir, “observar é a operação, enquanto observador é um sistema que utiliza as operações de observação de maneira recursiva, como sequências para obter uma diferença em relação ao meio.”92 [grifo meu]

As observações assim procedidas levam a “ [...] indicações que, ao serem cumpridas, estabelecem determinados resultados, que, para cada observador do observador que as realiza com as mesmas indicações, darão os mesmos resultados.”93

Quer dizer, de uma posição de segunda ordem, observando o observador de primeira ordem, podem ser abstraídas as características utilizadas pelo observado para as repetir e, assim, atuando diretamente numa posição de primeira ordem, alcançar os mesmos resultados numa observação. Isso significa autoconstruir estruturas operativas, aprender, dotar-se das potencialidades para atuar diretamente na qualidade de observador de primeira ordem.

Por isso que, num contexto da teoria das operações de sistemas, “ [...] facilita-se a compreensão do observador como um sistema que se possibilita a si mesmo [...]”94 mas sob a égide de um esquema de observação exógeno. Considere-se que o sistema deve diferenciar-se a si mesmo do meio mediante uma estruturação, uma criação de limites pelos quais pode observar algo já que

[...] toda observação pressupõe a instituição das diferenças internas correspondentes [...] Os observadores [...] observam através de um limite que eles próprios traçaram, enquanto outros sistemas podem de qualquer forma observar os observadores, observando, sem poder participar de sua observação.95

A observação de segunda ordem não visa uma interferência na observação do sistema observado. Ao contrário, envolve uma espécie de clonagem do esquema de observação. Instituir as diferenças internas correspondentes, autonomamente traçadas, demonstra a atuação auto-organizadora do sistema observador de segunda ordem, no caso, pela remontagem em si dos esquemas de observação de primeira ordem, os esquemas dos sistemas observados.

Na sequência, no item III da aula IV da Introdução, Luhmann envereda numa análise muito formal da estrutura da observação, da operação do distinguir e abre o item IV com a informação de que as operações do observar e do observador são caracterizadas como uma rede recursiva de operações autopoiéticas. E recomenda expressamente que o "[...] o observador não deve ser concebido como um sistema psicológico, ou uma consciência” porque “ [...] o problemático é que sempre que se pensa em um observador, faz-se referência a um sistema consciente."96 O teórico germânico foge, assim, da armadilha da consciência e escancara as portas para o uso de sistemas técnicos que implementem a capacidade de observar, como os aprendizes. Não é necessária consciência. É necessária e útil a capacidade de replicar, sobre dados, os esquemas de observação dos sistemas observados.

Ultrapassar a barreira da consciência, como proposto, permite teorizar com maior naturalidade, por exemplo, o e-sujeito, assim caracterizado (ou denominado) pelo aproveitamento transdisciplinar da noção tão cara ao jurídico (sujeito) do que resulta um ente diferenciado e híbrido.

Para Luhmann, os sistemas sociais (interações, organizações, sociedades) observam os sistemas psíquicos e estes àqueles, tornando-se natural incluir, nesse nível de mútua observação e interação, os sistemas técnicos habilitados a observar.

Com longas considerações, exploráveis no âmbito de uma sistematização da teoria do e-sujeito, Luhmann97 (1) se pergunta “por que um observador deve ser um sujeito?”; (2) ataca as visões teórico-filosóficas do sujeito na modernidade98; (3) associa a noção de sujeito à de autorreferência que, na tradição da filosofia, estaria reservada à consciência dos sujeitos99, forçando um confronto com “ [...] os objetos aos quais, em cada caso, não pode conferir consciência” e (4) deságua, então, na sustentação da contestada afirmação de que os conceitos de observação e sujeito são incompatíveis. Refere-se, é claro, ao conceito de sujeito de bases filosóficas clássicas ao qual renuncia expressamente, conforme a marcante observação de Habermas sobre a manobra luhmanniana: “Dessa forma, a razão centrada no sujeito é substituída pela racionalidade sistêmica.”100

No lugar do sujeito, repito, Luhmann coloca o conceito mais amplo de sistema, desconectando-o inteiramente da ideia, também filosófico-humanista, de indivíduo: "[...] torna-se imperioso tomar uma decisão pragmática e renunciar ao termo sujeito, ainda que com isso haja necessidade de tomar decisões de maior densidade. [...] O observador é um sistema [...]” e para um teórico de sistemas “[...] é relativamente fácil distinguir que um sistema pode ser observado a partir do meio (na medida em que nele [no meio] se organize uma capacidade de observação correspondente) [...] “101.

Nesse cenário, cabe indagar se nessas lucubrações do jusfilósofo não se esconde um traço distintivo dos algoritmos aprendizes. Seriam tais algoritmos metaobservadores das observações das consciências? Seria essa uma forma de driblar, tecnologicamente, a ausência de consciência dos sistemas técnicos? Tais ilações se alinhariam às conclusões de Klaus Günther pelas quais fundamenta a classificação do sistema funcional Direito como sistema autopoiético?102

4.4. Observação de segunda ordem e a capacidade de lidar com a complexidade

Quem se debruça, em atitude de análise, sobre dados e fatos, é um observador de primeira ordem. Observador e objeto observado conectam-se diretamente e a geração de informação a partir dos dados (significações e consequências extraídas dos dados) é resultado do esquema de observação adotado pelo observador. No caso, do observador de primeira ordem.

A observação de segunda ordem é coisa diversa e Luhmann a considera como uma das maiores fontes de desenvolvimento de capacidades para tratar a complexidade.

O modo mais simples de abordar o conteúdo programático do conceito de observação de segunda ordem é pensar que se trata de uma observação que se realiza sobre um observador. A exigência do conceito consiste em delimitar que não se observa a pessoa enquanto tal, mas somente a forma pela qual ela observa. Observação de segunda ordem significa focalizar, para observá-las, as distinções empregadas por um observador.103

Uma observação de segunda ordem é, também, uma observação de primeira ordem, segundo o plano em que se coloca o observador. Mas o objeto observado é a forma pela qual o sistema observado faz suas próprias observações.

O ponto a partir do qual se observa como o outro observa o mundo permite fixar “ [...] qual esquema de diferença é utilizado por aquele a quem se observa”, mas atente-se que, já aí, há uma seleção: é o observador de segunda ordem quem separa a observação (observada) de outras observações.104 Nessa seleção das observações, provoca-se uma grande redução de complexidade, afirma Luhmann. O complexo é simplificado, cartesianamente desbastado, para consideração. O mundo esfumaça-se e a atenção se volta ao que o outro observa e ao como observa. Mas, afirma Luhmann, “a partir desse posicionamento, é possível tornar a recuperar o mundo, no sentido de recuperar os esquemas de diferença com os quais o outro o observou”, ou seja, com a redução de complexidade inicial se produz, ao final, um grande aumento da capacidade de trato da complexidade: “agora, deve-se contar com uma complexidade progressivamente crescente: a do observador de primeira ordem (esta observação, e não outra); e a do de segunda ordem (essa observação, e não outras)”105.

Esse é o traço marcante da observação de segunda ordem: ela é uma observação de primeira ordem voltada ao ganho de complexidade. “Este aumento de complexidade se efetua na medida em que se renuncia à confirmação final de validez e das garantias ontológicas, e na medida em que já não se pode apelar para as formas essenciais dos conteúdos do mundo."106 Renuncia-se, assim, a uma visão própria e fundamentada do real – se é válido ou não, se guarda conformidade com certas raízes ontológicas ou não – e concentra-se a atenção no esquema formal de observação, internalizando-o. Em outras palavras, não se questiona o esquema de observação, como faria um Toulmin preocupado com as fundamentações de um esquema lógico-silogístico107. Contrariando Humes e Kelsen, assume-se que de dados108 deduzem-se normas.

Luhmann destaca, então, uma segunda dimensão da observação de segunda ordem: ela consiste “[...] em ser inerente ao ganho de poder observar o que o observador não pode observar (o ponto cego do observador), “[...] o interesse em ver o que os outros não podem ver."109 Exemplifica a afirmação com Marx (os capitalistas são cegos quanto aos riscos inexoráveis de ruína do sistema) e Freud (o inconsciente é o ponto cego da consciência, só visível por alguém postado acima, numa posição de segunda ordem). Abeberando-se de Foerster, na obra Observing Systems, Luhmann afirma que “ [...] não só não se vê o que não se vê, como o não ver é condição de possibilidade do ver.”110

Todos os sistemas de função da sociedade baseiam-se, fundamentalmente, na observação da observação.

A pedagogia sofreu uma revolução quando percebeu que uma criança não é um adulto em miniatura, mas tem seu próprio esquema de observação do mundo. Essa constatação permitiu se desenvolvessem os esforços didáticos em consonância com o esquema de observação do educando.

A política orienta-se, desde o século XIX, pela observação da opinião pública, que substitui a observação dos indivíduos particulares.111 Ultimamente, tem havido tentativas de capilarizar essa observação graças às redes sociais. Algoritmos observam os esquemas de observação/percepção/reação dos observados, quase em nível individual, para orientar práticas políticas. Nas últimas eleições americanas, segundo se difunde, as mensagens eram customizadas por cidade, bairro, quarteirão e, às vezes, individualizadas se o destinatário fosse um formador de opinião. Mas isso não é a regra.

"O sistema econômico se orienta sob o modo de observação de segunda ordem, na medida em que está permanentemente guiado pelos preços do mercado [...] " e "a arte também [...]."112

Portanto, os sistemas, em muitos casos, precisam funcionar num esquema de observação de segunda ordem e, portanto, dependem de uma base constitutiva de contingência113: “sempre espreita o inesperado. No nível de observação de segunda ordem, esse procedimento de reação ao inesperado já não é questionado, mas faz parte constitutiva do modo de proceder da sociedade moderna."114 O nexo causal situação-reação, fixado e difundido pela observação da observação, atua sem apelos a reflexões. O meio da inteligência da sociedade está orientado para essa forma de proceder da observação de segunda ordem.

Aparte os produtos específicos que os intelectuais proporcionam aos sistemas de funções - pesquisa, acumulação de dados, desenvolvimento tecnológico -, eles são os que demonstram capacidade para falar sobre as coisas: Mannheim pensou em uma inteligência flutuante, evidentemente como metáfora. Chama atenção, no contexto da observação de segunda ordem, que os intelectuais se encarreguem de analisar preferencialmente os outros intelectuais: Habermas que se ocupou de Derrida e de Nietzsche; Parsons que reconstruiu Weber, e os críticos que afirmam que Parsons não o compreendeu. E tudo isso feito exclusivamente ao nível do discurso: descrições das descrições e observações das observações."115[grifo meu]

Para este estudo, a afirmação fundamentada e exemplificada de que os sistemas sociais funcionais operam na base da observação de segunda ordem é relevante ao menos em dois sentidos: (1) sistemas técnicos de apoio aos sistemas sociais funcionais devem, podendo, herdar essa característica de constituir estruturas operativas a partir da observação de outros observadores e (2) não haverá violação à regra básica de ganho de capacidade para o manejo da complexidade, pela via da observação de segunda ordem, se se atentar para a distinção fundamental de sistemas técnicos (triviais, causais) e sistemas sociais (não triviais, não causais).

Em relação ao Direito e ao processo, a observação de segunda ordem é o caminho para usar os aprendizes e, também, põe o limite de até onde ir com eles? Acredita-se que sim.

Pode-se pensar na inteligência flutuante, de Manheim, referida por Luhmann na transcrição acima, como a habilidade de ajustar-se a distintos esquemas de observação? No nível do discurso (descrição da descrição, observação da observação), a trivialidade constitui-se numa característica relevante? Em quais espaços do processo não se pode abdicar da prisão da causalidade (operativamente fechado mas causalmente aberto)? Essa distinção parece servir para os esforços de traçar uma linha divisória entre o automaticamente algoritmizável (dos algoritmos aprendizes) e aquilo que não convém se entregue aos algoritmos ou ao menos aos aprendizes. Linha, aliás, cujo traçado será brevemente exigido no âmbito do Direito.

Há âmbitos do procedimento (certas atividades) em que, quem interpenetra116 para construir a estrutura operativa do processo tem de afastar-se da pretensão de confirmação final de validez e das garantias ontológicas117, restringindo-se à aplicação causal de um esquema de observação de primeira ordem que replica e ao qual se submete.

Luhmann não vivenciou o estágio atual da tecnologia, dos big data, da ciência dos dados e dos algoritmos aprendizes. Morreu em meados da década de 90, quando a internet engatinhava e a e-interação118 aguardava avanços das comunicações, das máquinas e dos algoritmos. Os sites estáticos, unidirecionais, deixavam vislumbrar muito pouco dos cenários que atualmente obnubilam a humanidade. No âmbito da lógica, esforços desesperados eram feitos em busca de recursos para a tecnologia emular, com maior proximidade, o desempenho humano (lógicas paracompletas, lógicas paraconsistentes anotadas).

Mas a forte formação sistêmica (tudo é sistema) permitiu ao jussociólogo pressentir, visionariamente, que a pesquisa, a acumulação de dados e o desenvolvimento tecnológico se conjugariam, em algum momento, no futuro, para enriquecer o modo de ser natural dos sistemas sociais de função: a observação da observação como instrumento para ascender na escala do domínio da complexidade. Os algoritmos que aprendem parecem ter potencial para concretizar tais visões. E a percepção do e-sujeito avulta com mais força no horizonte.

---

5. Aprendizes: finalmente a tecnologia chega ao juiz?

5.1. Para cada juiz, um aprendiz. Megadados (big data) e microdados (small data).

O princípio do máximo apoio ao juiz, de 2008, finalmente pode ser impulsionado. Um aprendiz, ao lado de cada juiz, como observador de segunda ordem, permitirá a absorção da forma de observar a ser adotada quando postado na posição de primeira ordem. Bem se vê, isso não depende de qualquer intervenção em sua especificação técnica ou na forma de manejá-lo. Uma restrição no nível dos dados é suficiente. Nem significa um programa para cada juiz, se não se desejar isso.

A sensação do momento são os big data (megadados). Mas cada juiz é um microuniverso de entendimentos e o aprendiz pode aprender seu jeito de observar e não outros: esta observação e não outras, no linguajar de Luhmann. Os small data em vez dos big data, o sistema solar em vez da galáxia.

Esse novo ferramental tecnológico permitirá, sem dúvida, que atos e estruturas sejam automatizados e desapareçam do rol de tarefas dos magistrados, deixando-lhes espaço e tempo para tarefas mais complexas em que características tipicamente humanas sejam necessárias119.

5.2. O princípio da linearização nodal momentânea dos sistemas decisórios

Toda rede procedimental decisória tem seus momentos de linearização.

Considere-se o enfoque de Lévy, que toma o hipertexto como paradigma reticular, e de seus seis princípios conformadores das redes. Ao lado do princípio da metamorfose (“a rede de significações que constitui o conhecimento está em permanente transformação”120) é preciso admitir outro para as redes de sistemas decisórios: o princípio da linearização nodal. Toda rede decisória tem, obrigatoriamente, seus momentos de linearização121. O corolário é uma fixidez das significações.

Na área corporativa, o “gargalo de produção” é um fenômeno típico dos processos produtivos e um desafio continuado aos administradores. No âmbito do e-processo, já se falou muito sobre o juiz como gargalo do procedimento. A tecnologia empurrou o andor e lá na frente estava ele, o juiz, segurando a vazão.

Se o juiz é, ele mesmo, um nó da malha reticular (um desses momentos de linearização filamentosa inescapável), é também certo que, neste nó, opera um normalizador122 quase-trivial da informação. Entra em cena o corolário da fixidez. Os inputs podem chegar a outros nodos, verdadeiros equivalentes funcionais (o colega da vara ao lado), e produzir coisas diferentes. Mas neste específico nodo há um ditador das saídas: para essas entradas, estas saídas e não outras. Os softwares que prometem previsões sobre o resultado de processos fundam-se nesse princípio, embora trabalhem probabilisticamente porque a não trivialidade sempre está presente com a humanidade.

Portanto, pode-se tomar como axioma que a rede procedimental tem seus momentos (nodos) de quase-trivialidade individual (causalidade quase-inexorável, na visão de Foerster) e solipsista. Nesses nodos inevitáveis, nulifica-se a ideia de rede, de ganho reticular, dos múltiplos caminhos etc. Os “fortes efeitos concretos” decorrentes da racionalidade da rede, de que fala Chavez Jr.123, desaparecem episodicamente no curso procedimental reticular. Além disso, nesses nodos de linearização, o fluxo submete-se a um algoritmo imperial, racionalmente humano, cujo modus operandi é supremo (corolário da fixidez). Conclusos ao juiz exprime o envio do fluxo para esse quase-previsível provedor de saídas. Os muitos quase são necessários e exprimem a permanente presença da possibilidade de um comportamento não trivial, não causal, de uma revisão de posicionamento. Mas a previsibilidade é a regra.

5.3. Os aprendizes no ataque ao gargalo da linearização

A ampliação dos quadros de assistência e assessoria foi a abordagem gerencial em resposta à aceleração das entradas, para amenizar o problema do gargalo do decisor.

Agora, o aprendiz pode entrar firmemente nesse jogo. Uma das marcas distintivas dos algoritmos que aprendem é a capacidade de observar para replicar, como o algoritmo do self-driving car aprende pelo mesmo mecanismo, ou seja, os aprendizes podem situar-se como observadores de segunda ordem para abstrair elementos do esquema de observação aplicado pelo observador de primeira ordem (como o sistema observado observa e reage!) e construir suas próprias estruturas de observação/reação, numa espécie de clonagem das estruturas operativas.

A atividade do aprendiz, na proximidade do juiz, é aprender e repetir. Não se trata da velha disputa em torno do de fatos não se deduzem normas. Em termos clássicos e nos limites propostos por Hume e contabilizados por Kelsen, isso não é programável. É impossível algoritmizar a realidade expressa tão vetustamente pelo adágio cada cabeça uma sentença. Assim como não é possível construir com algoritmo clássico uma interlocutora de diálogo como a do Google Duplex. Só com machine learning a interlocutora pode se estruturar a si mesma.

Portanto, a máquina virtual de aprendizado é vocacionada exatamente para, como observadora de segunda ordem, aprender o esquema de observação. Como observadora de primeira ordem, aplicar o esquema de observação aprendido. Apenas ele, sem invencionices. As mesmas relações, sob rígido esquema de causalidade, sem investigar razões, bases ontológicas, perístases ou dessemelhanças. Isso fica para o humano, por cujas mãos o Direito aprende, ganha seu caráter autopoiético e estabelece novas relações (normas) para uso do aprendiz.

5.4. Não há novidade prática, apenas tecnológica

Os aprendizes são ferramentas tecnológicas que permitem replicar tecnologicamente o que acontece todos os dias nos gabinetes dos julgadores. Um assistente está incumbido de, desde uma perspectiva de primeira ordem (mirando os dados), extrair conclusões segundo um esquema de análise e observação do magistrado a que assiste.

Isso se evidencia com força quando um assistente (sistema psíquico) é deslocado para assessorar outro magistrado ou, ainda e mais agudamente, quando as circunstâncias o levam à situação de auxiliar dois magistrados concomitantemente. Os sistemas de apoio (seja um sistema psíquico, seja um gabinete) orientam-se por distintos esquemas de observação de primeira ordem (dos magistrados a que atendem).

A complexificação estrutural do sistema psíquico é evidente pois, como já transcrito, passa a contar “[...] com uma complexidade progressivamente crescente: a do observador de primeira ordem (esta observação, e não outra); e a do de segunda ordem (essa observação, e não outras)”124. O observador de primeira ordem fez suas seleções e especificou seu esquema de observação. Nele não coabita qualquer esquema alternativo de observação, apenas aquele (esta forma de observação e não outra!).

O observador de segunda ordem (o assessor), entretanto, deve selecionar o esquema de observação a aplicar no caso em exame (essa forma de observação e não outras!), o que denota a complexificação progressiva crescente a que o observador de segunda ordem está submetido. Para cada observador de primeira ordem a que assiste (juiz), o assessor deve replicar o esquema de observação adequado porque nele coabitam diferentes esquemas. Esta forma de observação e não as outras! O observador de segunda ordem tem competência mais ampla para o manejo da complexidade e alberga contradições às quais não dá atenção, submetendo-se rigorosamente à seleção do modus observandi do decisor do caso concreto analisado.

Como se vê, o trânsito por distintos gabinetes de assessoria leva ao acionamento de diferentes estruturas operativas. O que se afirma de um sistema psíquico, vale também para a organização (o gabinete, o sistema social funcional) pois a troca do observador de primeira ordem (outro juiz ou desembargador) põe em atuação a observação da observação num processo de surpreendente complexificação estrutural (ganho de capacidade de trato do contingente).

Portanto, a previsão de 2008 – “da tarefa trivial de formatar originalmente a sentença, até o fornecimento de informações relevantes para a decisão, um SEPAJ pode ser o parceiro fiel do juiz”125 - parece que ganhou forma nova e revolucionária de concretização. Os aprendizes podem ajudar a fazer isso. Se cada cabeça uma sentença, então a solução pode ser para cada juiz um aprendiz! Classicamente, é impossível algoritmizar isso. Mas, como disse várias vezes ao longo do artigo, os aprendizes nos levam a palcos onde é impossível bailar com os algoritmos tradicionais.

---

Considerações finais

O e-processo representa a promessa de um Poder Judiciário apto a dar respostas processuais, em prazo razoável, na complexa realidade da e-contemporaneidade. Há 12 anos, sob a vigência da Lei 11.419/2006, tem-se feito esforços para sua concretização. Apesar das acelerações obtidas na marcha processual, o ato de decidir continua sendo um desafio e uma fonte de frustrações.

O decantado caráter reticular do e-processo, tão capaz de enriquecer o método de adjudicação do Direito e de promover-lhe a aceleração, esbarra num princípio básico dos processos decisórios: toda rede procedimental decisória tem seus pontos de linearização. Nesses nodos da rede, nulifica-se o ganho reticular se rendimentos adicionais não forem obtidos pela aceleração operacional do mecanismo linear. Esse é o fenômeno marcante evidenciado pelo e-processo com os SEPAJ atuais.

Dos princípios do ciberprocesso - máxima automação, imaginalização mínima, extraoperabilidade126 e máximo apoio ao juiz – três podem ser tocados fortemente pelos últimos avanços da área de inteligência artificial com os aprendizes. Para este artigo, importam especialmente dois princípios. Os algoritmos que aprendem (machine learning) podem ser usados consistentemente, no espaço jurídico-processual, para elevar os níveis de automação e, principalmente, para apoiar muito diretamente o juiz. Para cada juiz um aprendiz é a frase que sintetiza bem a proposta deste trabalho. Os aprendizes permitem atacar o gargalo da linearização.

A teoria da observação de segunda ordem, de Niklas Luhmann, lastreia em termos práticos e teóricos a adoção da tecnologia dos aprendizes na cadeia procedimental do e-processo. Tudo sem ferimento aos princípios tradicionais do processo e aos valores básicos da área. A adoção dos aprendizes, na forma proposta, permite (1) destravar o e-processo, (2) caminhar para patamares superiores de celeridade processual sem destruir o caráter autopoiético do processo e (3) finalmente estabelecer bases tecnológico-procedimentais para o Poder Judiciário buscar conciliar-se com as exigências da e-contemporaneidade.

Uma teoria do e-sujeito é o desafio que se põe para a continuidade das pesquisas, de modo a facilitar o enquadramento dos algoritmos, clássicos ou aprendizes, na teia teórico-científica do processo (TGP) e também do Direito. Não se tratará, aí, de apenas acelerar, mas de atualizar e inovar o processo e sua teoria.

---

Referências bibliográficas

ARANHA, Maria L. de A.; MARTINS, Maria H. P. Temas de filosofia. 2.ed. São Paulo:Moderna, 1998. 256p.

ATIENZA, Manuel. As razões do direito. Teorias da argumentação jurídica. 2.ed. São Paulo:Landy, 2002. 352p.

BRANDÃO, Cláudio (Org.) Princípios do processo em meio reticular-eletrônico: fenomenologia, normatividade e aplicação prática. São Paulo: LTr, 2017. 165p.

BRASIL. Constituição 1988. Constituição da República Federativa do Brasil. Disponível em: https://www.presidencia.gov.br/ccivil_03/constituicao/ nova-consti/main.htm. Acesso em: 6 jan. 2005.

BRUNO, Fernanda. Prefácio. In:__. FERREIRA, Arthur A. L. et al.(Org.) Teoria ator-rede e psicologia.

CARDINAUX, Nancy S.; KUNZ, Ana E. M. Investigar en derecho. Buenos Aires:UBA, 2004. 220p.

CARVALHO, Maximiliano. Autos físicos vs. Quantum processual (de Newton a Planck: ensaio sobre a energia escura que acelera a virtualização da Justiça do Trabalho. In:__. BRANDÃO, Cláudio. Princípios do processo em meio reticular..., p. 53-68.

CASTELLANI, Brian. Mapa das ciências da complexidade. Disponível em: https://www.art-sciencefactory.com/complexity-map_feb09.html. Acesso em: 10 jan. 2017

CHAVES JR, José E. de R. Processo em meio reticular-eletrônico: constitucionalismo dialógico e democracia hiper-real no contexto dos megadados. In:_. Princípios do processo em meio reticular..., p. 11-12.

__________. Elementos para uma teoria do processo em meio reticular-eletrônico. In:__ ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro..., p. 427-456.

CÍCERO, Marco T. Da república. São Paulo:Escala, ano não disponível. 96p.

COELHO, Fábio Ulhoa. Roteiro de lógica jurídica. 3.ed. São Paulo:Max Limonad, 2000. 122p.

CUBAN, Mark. Disponível em: https://www.cnbc.com/2018/02/20/mark-cuban-philosophy-degree-will-be-worth-more-than-computer-science.html?utm_content=buffer40e24&utm_medium=social&utm_source=facebook.com&utm_campaign=buffer. Acesso em: 28 mar. 2018

DANIELS, Alan; YEATES, Donald. Systems analysis. Palo Alto:SRA, 1969. 258p.

DENNETT, Daniel C. Podem as máquinas pensar? Disponível em: https://www.nyu.edu/gsas/dept/philo/courses/mindsandmachines/Papers/dennettcanmach.pdf. Acesso em: 15 jan. 2016.

DIDIER JR, Fredie. Curso de Direito Processual Civil. 12.ed. Vol.1. São Paulo:Jus-Podivm, 2010. v.1. p. 264-265.

DOMINGOS, Pedro. O algoritmo mestre. São Paulo:Novatec, 2017. 341p.

EBECKEN, Nelson F. F. et al. Mineração de textos. In: __ REZENDE, Solange Oliveira. (ORG) Sistemas inteligentes.

FERRAZ JR, Tercio Sampaio. A ciência do direito. 2.ed. São Paulo:Atlas, 1980. 111p.

__________. Introdução ao estudo do direito. Técnica, decisão, dominação. São Paulo:Atlas, 1990. 3ª. Tiragem. 335p.

FERREIRA, Arthur A. L. et al. (Org.) Teoria ator-rede e psicologia. Rio de Janeiro: NAU, 2010. 256p.

GIRARDELLI, Maria de Fátima. Qual é a diferença entre muldisciplinaridade, interdisciplinaridade e transdisciplinaridade? Disponível em: https://cafecomletrinhas.blogspot.com.br/2007/07/qual-diferena-entre-multidisciplinarida.html. Acesso em: 10 abr. 2017.

Google duplex demo from Google IO 2018. Disponível em: https://www.youtube.com/watch?v=bd1mEm2Fy08.

GÜNTHER, Klaus. Teoria da argumentação no direito e na moral: justificação e aplicação. São Paulo:Landy Editora, 2004. 423p.

HABERMAS, Jürgen. O discurso filosófico da modernidade. Trad. Luiz Sérgio Repa; Rodnei Nascimento. São Paulo:Martins Fontes, 2000. 540p.

HARARI, Yuval N. Nacionalismo e globalismo. Disponível em: https://www.youtube.com/watch?v=szt7f5NmE9E&feature=youtu.be. Acesso em: 30 abr. 2018.

_________. Sapiens. Uma breve história da humanidade. 19.ed. Porto Alegre/RS: L&PM, 2017. 464p.

LANIER, Jaron. How we need to temake te Internet. Disponível em: https://www.ted.com/talks/jaron_lanier_how_we_need_to_remake_the_internet/transcript. Acesso em: 15 abr.2018.

LATOUR, Bruno. Reagregando o social. Uma introdução à teoria ator-rede. Salvador:Eduíba, 2012; Bauru:Edusc, 2012. 400p.

LUHMANN, Niklas. El derecho de la sociedad. (Das recht der gesellschaft). Formatação eletrônica. Versão 5.0, de 13/01/2003. Disponível em: https://forodelderecho.blogcindario.com/2008/04/el-derecho-de-la-sociedad-niklas.html. Acesso em: 10 nov. 2011.

__________. Introdução à teoria dos sistemas. Trad. de Ana Cristina Arantes. 2. Ed. Petrópolis:Vozes, 2010. 414p.

__________. La sociedade de la sociedade. (Die gesellschaft der gesellschaft). Trad. Javier Torres Nafarrate. Ciudad de México:Herder, 2006. 955p.

__________. Sistemas Sociales. Lineamientos para uma teoria general. Trad. Silvia Pappe y Brunhilde Erker. Rubí (Barcelona):Anthropos, 1998. 445p.

KRAMMES, Alexandre Golin. Workflow em processos judiciais eletrônicos. São Paulo:LTr, 2010. 117p.

KURZWEIL, Ray. Como criar uma mente: os segredos do pensamento humano. São Paulo:Aleph, 2014. 399p.

__________. Preparem-se para o pensamento híbrido. Palestra TED. Disponível em: https://www.ted.com/talks/ray_kurzweil_get_ready_for_hybrid_thinking?language=pt-br. Acesso em: 15 set. 2017.

MACHADO, Nilson José. Epistemologia e didática. 7.ed. São Paulo:Cortez, 2011. 303p.

MATHIVET, Virginie. Inteligencia artificial para desarrolladores. Conceptos e implementación em Java. Barcelona:Ediciones ENI, 2017. 478p.

MATURANA, Humberto. VARELA, Francisco. De máquinas e seres vivos. Autopoiese: a organização do vivo. Porto Alegre:Artes Médicas, 1997. 138p.

MONARD, Maria C.; BARANAUSKAS, José A. Indução de regras e árvores de decisão. In:__ REZENDE, Solange Oliveira. (ORG) Sistemas inteligentes.

PASOLD, Cesar L. Prática da pesquisa jurídica: idéias e ferramentas úteis para o pesquisador do direito. 7.ed. Florianópolis:OABC Editora, 2002. 243p.

PERASSO, Valeria. O que é a 4ª revolução industrial – e como ela deve afetar nossas vidas. Disponível em: https://www.bbc.com/portuguese/geral-37658309. Acesso em: 10 jan. 2017.

PIAGET, Jean. El nacimiento de la inteligência em el niño. Barcelona:Crítica, 2000. 399p.

REZENDE, Solange Oliveira. (ORG) Sistemas inteligentes. Fundamentos e aplicações. Barueri/SP:Manole, 2005. 525p.

ROCA, Raquel. Knowmads. Los trabajadores del futuro. 3.ed. Madrid:LID, 2016. 229p.

ROCHLIN, Gene I. Trapped in the net. Princeton:Princeton University Press, 1997. 293p.

ROVER, Aires José. (org.) Engenharia e gestão do judiciário brasileiro. Estudos sobre e-justiça. Erechim:Deviant, 2016, 860p.

_________. Governo eletrônico e inclusão digital. Florianópolis:Fundação Boiteux, 2009. 144p.

_________. O princípio da conexão em rede: perturbações estruturais no processo judicial eletrônico. In:_. Princípios do processo em meio reticular-eletrônico, p. 77-86.

SAGAL, Paul T. Mente, homem e máquina. Trad. de Desidério Murcho. Lisboa:Gradiva, 1996. 92p.

SEARLE, John R. Mind, brains and programs. Disponível em: https://citeseerx.ist.psu.edu/viewdoc/download;jsessionid=5322AF285B05EC8E53E67A%20B168D086AD?doi=10.1.1.83.5248&rep=rep1&type=pdf&ei=N3CgTY2zOcaltweWgdn%200Ag&usg=AFQjCNEPvV8Ag3nymDPLcOX5wcpyID9BJA (versão preliminar). Acesso em: 4 abr. 2016. Há uma tradução de Cléa Regina de Oliveira Ribeiro disponível em: https://www.fflch.usp.br/df/opessoa/Searle-Port-2.pdf.

_________ Mind, language and society. Philosofy in the real world. New York:Basic Books, 1998. 175p.

SEWALD JR., Egon; ROVER, Aires J. O processo judicial eletrônico como Sistema sócio-tecnológico. In:__ ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro.

SOUZA, Iara Maria de; SALES JÚNIOR, Dário Ribeiro de. Apresentação. In:__ LATOUR, Bruno. Reagregando o social. Uma introdução à teoria ator-rede. Salvador:Eduíba, 2012; Bauru:Edusc, 2012. 400p.

TAVARES-PEREIRA, S. O processo eletrônico e o princípio da dupla instrumentalidade. Disponível em: <https://duplainstrumentalidade.blogspot.com.br. Acesso em: 16 mar. 2009.

__________ Que é isto, a eNorma? Elementos para a teoria geral do eDireito. In:__. Princípios do processo em meio reticular-eletrônico, p. 23-52.

__________ Processo eletrônico, máxima automação, extraoperabilidade, imaginalização mínima e máximo apoio ao juiz: ciberprocesso. Revista trabalhista direito e processo, São Paulo, n. 30, p.168-187, abr.mai.jun. 2009.

TAVARES-PEREIRA, S.; KRAMMES, Alexandre G. Processo judicial eletrônico e agentes automatizados. In: ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro: estudos sobre e-justiça. Erechim:Ed. Deviant, 2016. 860p. p. 487-524.

TEUBNER, Gunther. Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten. (Sujeitos de directo digitais? Sobre o status privado dos agentes de software autônomos.) Disponível em: https://www.jura.uni-frankfurt.de/69768539/TeubnerDigitale-RechtssubjekteAcP-18Dez17.pdf. Acesso em: 15 fev. 2018.

TURING, A. M. Computing machinery and intelligence. Disponível em: https://www.loebner.net/Prizef/TuringArticle.html. Acesso em: 15 jan. 2016.

WAKI, Kleber S. O processo eletrônico: a influência do sistema e de suas conexões no direito processual. In:__. Princípios do processo em meio reticular-eletrônico, p. 87-99.

WEATHERALL, James Owen. A física de Wall Street. Rio de Janeiro: Elsevier, 2015. 284p.

WIENER, Norbert. Cibernética e sociedade. O uso humano de sêres humanos. 4 ed. São Paulo:Cultrix, 1954, 190p.

---

Notas

2 PASOLD, Cesar L. Prática da pesquisa jurídica: idéias e ferramentas úteis para o pesquisador do direito. 7.ed. Florianópolis:OABC Editora, 2002. p. 27 e seguintes.

3 LATOUR, Bruno. Reagregando o social. Uma introdução à teoria ator-rede. Salvador:Eduíba, 2012; Bauru:Edusc, 2012. p. 86.

4 BRUNO, Fernanda. Prefácio. In:__. FERREIRA, Arthur A. L. et al.(Org.) Teoria ator-rede e psicologia. Rio de Janeiro: NAU, 2010. p. 9.

5 DOMINGOS, Pedro. O algoritmo mestre. São Paulo:Novatec, 2017. p.16. Recomendo fortemente a leitura desta obra pelos juristas interessados na questão da incorporação da tecnologia pelo Direito.

6 No sentido de Ferraz Jr.: FERRAZ JR, Tércio Sampaio. Introdução ao estudo do direito. Técnica, decisão, dominação. São Paulo:Atlas, 1990. 3ª tiragem. p. 55.

7 WEATHERALL, James Owen. A física de Wall Street. Rio de Janeiro: Elsevier, 2015. p. 121. Os aprendizes, com novas abordagens, permitiram avanços imensos nessa área.

8 NTRIC: ROCA, Raquel. Knowmads. Los trabajadores del futuro. 3.ed. Madrid:LID, 2016.

9 CÍCERO, Marco T. Da república. São Paulo:Escala, ano não disponível. p. 23.

10 ROCA, Raquel. Knowmads..., p. 29.

11 “Para o jurista, o mesmo agente automatizado é um sujeito emergente, misterioso, não humano, capaz de praticar atos (atos?), coisa até agora vista como exclusividade do homem.” TAVARES-PEREIRA, S.; KRAMMES, A. G. Processo judicial eletrônico e agentes automatizados. In:__ ROVER, Aires José. (org.) Engenharia e gestão do judiciário brasileiro. Estudos sobre e-justiça. Erechim:Deviant, 2016, p. 515.

12 “Na transdisciplinaridade, a cooperação entre as várias matérias é tanta, que não dá mais para separá-las: acaba surgindo uma nova ‘macrodisciplina’". Noção também aplicável ao ser sócio-técnico. GIRARDELLI, Maria de Fátima. Qual é a diferença entre muldisciplinaridade, interdisciplinaridade e transdisciplinaridade? Disponível em: https://cafecomletrinhas.blogspot.com.br/2007/07/qual-diferena-entre-multidisciplinarida.html. Acesso em: 10 abr. 2017.

13 TEUBNER, Günther. Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten. (Sujeitos de direito digitais? Sobre o status privado dos agentes de software autônomos.) Disponível em: https://www.jura.uni-frankfurt.de/69768539/TeubnerDigitale-RechtssubjekteAcP-18Dez17.pdf. Acesso em: 15 fev. 2018.

14 Era pós-moderna, pós-contemporânea, era da informação, era dos algoritmos? A característica marcante do presente estágio da contemporaneidade está captada e expressa pelo “e-“ que tem sido intensamente utilizado pelos estudiosos para fundar conceitos operacionais novos frente à ascensão das teorias da informação, da comunicação, das relações, da informática, da eletrônica (de onde se colheu o sufixo e-). E-gov, e-processo, e-norma, e-residente, e-justiça são ejemplos. Gunther Teubner, recentemente, lançou artigo em que fala em e-person. Tenho sustentado a necessidade de contemplar e teorizar o e-sujeito no âmbito do e-processo segundo uma formulação que aduzirei em outro artigo. Enfim, por isso sugiro designar essa fase da contemporaneidade como e-contemporaneidade.

15 A partir deste artigo, abandono a escrita dos termos antecedidos de apenas o e: eProcesso, eAutos etc. Passo a adotar o padrão mais difundido nos escritos em geral: e-gov, e-processo etc. Com hífen, portanto.

16 Luhmann divide os sistemas sociais em interações, organizações e sociedades. Na atualidade, as e-interações (interações mediadas pelos dispositivos eletrônicos de comunicação) parecem ultrapassar o número das interações. O impacto delas, nos outros sistemas sociais – organizações e sociedades -, é evidente. O sistema político é o exemplo clássico dessa difusão das e-interações.

17 Para uma visão rápida da chamada 4ª revolução industrial, ver PERASSO, Valeria. O que é a 4ª revolução industrial – e como ela deve afetar nossas vidas. Disponível em: https://www.bbc.com/portuguese/geral-37658309. Acesso em: 10 jan. 2017.

18 Internet of things.

19 ARANHA, Maria L. de A.; MARTINS, Maria H. P. Temas de filosofía. 2.ed. São Paulo:Moderna, 1998. p. 43.

20 ROCHLIN, Gene I. Trapped in the net. Princeton:Princeton University Press, 1997. p. 211.

21 KURZWEIL, Ray. Preparem-se para o pensamento híbrido. Palestra TED. Disponível em: https://www.ted.com/talks/ray_kurzweil_get_ready_for_hybrid_thinking?language=pt-br. Acesso em: 15 set. 2017.

22 KURZWEIL, Ray. Como criar uma mente: os segredos do pensamento humano. São Paulo:Aleph, 2014. p. 61.

23 “I propose to considerer the question: ‘Can machines Think?’”. TURING, A. M. Computing machinery and intelligence. Disponível em: https://www.loebner.net/Prizef/TuringArticle.html. Acesso em: 15 jan. 2016.

24 Alain Turing e seu famoso jogo da imitação previa que, em 50 anos, máquinas imitariam os humanos com perfeição. A respeito desse teste, recomenda-se ler um ainda desconfiado: DENNETT, Daniel C. Podem as máquinas pensar? Disponível em: https://www.nyu.edu/gsas/dept/philo/courses/mindsandmachines/Papers/dennettcanmach.pdf. Acesso em: 15 jan. 2016, p. 33.

25 SEARLE, John R. Mind, brains and programs. Disponível em: https://citeseerx.ist.psu.edu/viewdoc/download;jsessionid=5322AF285B05EC8E53E67A%20B168D086AD?doi=10.1.1.83.5248&rep=rep1&type=pdf&ei=N3CgTY2zOcaltweWgdn%200Ag&usg=AFQjCNEPvV8Ag3nymDPLcOX5wcpyID9BJA (versão preliminar). Acesso em: 4 abr. 2016. Há uma tradução de Cléa Regina de Oliveira Ribeiro disponível em: https://www.fflch.usp.br/df/opessoa/Searle-Port-2.pdf.

26 Assistir à demonstração de Google duplex demo from Google IO 2018. Disponível em: https://www.youtube.com/watch?v=bd1mEm2Fy08.

27 MONARD, Maria C.; BARANAUSKAS, José A. Indução de regras e árvores de decisão. In:__ REZENDE, Solange Oliveira. (ORG) Sistemas inteligentes. Fundamentos e aplicações. Barueri/SP:Manole, 2005, p. 119. Esta obra é técnica e de difícil alcance para os juristas, podendo ser compulsada para fins conceituais. As mesmas técnicas e dificuldades podem ser constatadas na recentíssima obra MATHIVET, Virginie. Inteligencia artificial para desarrolladores. Conceptos e implementación en Java. Barcelona:Ediciones ENI, 2017. 478p. Embora seja obra para tecnólogos, é útil compulsá-la para verificar a repetição dos temas: lógicas não heterodoxas, algoritmos genéticos, redes neurais, aprendizagem de máquina, problemas e formas de manejo etc.

28 EBECKEN, Nelson F. F et al. Mineração de textos. In: __ REZENDE, Solange Oliveira. (ORG) Sistemas inteligentes…, p. 369.

29 SEARLE, John R. Mind, language and society. Philosofy in the real world. New York:Basic Books, 1998. p. 135-161.

30 HARARI, Yuval Noah. Sapiens. Uma breve história da humanidade. 19.ed. Porto Alegre, RS: L&PM, 2017. p. 41-42. “O comportamento de outros animais sociais é determinado [...] por seus genes. [...] os sapiens têm sido capazes de mudar seu comportamento rapidamente, transmitindo novos comportamentos a gerações futuras sem necessidade de qualquer mudança genética ou ambiental.”

31 EBECKEN, Nelson F. F et al..Mineração de textos..., p. 369.

32 EBECKEN, Nelson F. F et al. Mineração de textos..., p. 369.

33 HABERMAS, Jürgen. O discurso filosófico da modernidade. Trad. Luiz Sérgio Repa; Rodnei Nascimento. São Paulo:Martins Fontes, 2000. p. 527-528.

34 HABERMAS, Jürgen. O discurso filosófico da modernidade..., p. 528.

35 HABERMAS, Jürgen. O discurso filosófico da modernidade..., p. 528.

36 EBECKEN, Nelson F. F et al. Mineração de textos..., p. 337.

37 CARVALHO, Maximiliano. Autos físicos vs. quantum procesual (de Newton a Planck: ensaio sobre a energía escura que acelera a virtualização da Justiça do Trabalho. In:__. BRANDÃO, Cláudio (Org.). Princípios do proceso em meio reticular-eletrônico: fenomenología, normatividade e aplicação prática. São Paulo: LTr, 2017. p. 58.

38 Chaves Jr. propõe dividir os SEPAJ em gerações, segundo se vão agregando os avanços da tecnologia. E acentua o condicionamento da lógica do sistema pelo estágio tecnológico em que se encontra: “Digitalizar significa decalcar para o processo eletrônico a lógica viciada do processo de papel, da escritura.” CHAVES JR, José E. de R. Processo em meio reticular-eletrônico: constitucionalismo dialógico e democracia hiper-real no contexto dos megadados. In:__. BRANDÃO, Cláudio (Org.). Princípios do proceso em meio reticular-eletrônico p. 11-12.

39 Pedro Domingos discorda dessa ideia, pois trabalha com uma definição formal, completa e rígida de algoritmo. Para os fins deste trabalho, a analogia é útil.

40 Luhmann customiza, para fins teórico-sociais, o conceito original de sistemas autopoiéticos moleculares, de Humberto Maturana e Francisco Varela. Nessa afirmação talvez caiba, com mais precisão, auto-organização, conforme Luhmann a distingue da autopoiese: “Auto-organização e autopoiesis são dois conceitos que devem manter-se claramente separados.” (LUHMANN, Niklas. Introdução à teoria dos sistemas. Trad. de Ana Cristina Arantes. 2. ed. Petrópolis:Vozes, 2010, p. 112.) Maturana não destaca a diferença e absorve o aspecto organizativo na compreensão do conceito de autopoiese como se pode ver no magnífico Vinte anos depois com que Maturana abre a obra De máquinas e seres vivos. MATURANA, Humberto. VARELA, Francisco. De máquinas e seres vivos. Autopoiese: a organização do vivo. Porto Alegre:Artes Médicas, 1997. p. 9-34.

41 MATURANA, Humberto. VARELA, Francisco. De máquinas e seres vivos..., p. 25.

42 PIAGET, Jean. El nacimiento de la inteligência em el niño. Barcelona:Crítica, 2000. p. 11.

43 WEATHERALL, James Owen. A física de Wall Street..., p. 1.

44 Para uma visão detalhada e interessante dessa transição dos traders de elite, tradicionais, para os do novo mundo financeiro, veja-se: WEATHERALL, James Owen. A física de Wall Street..., pp. 1-31.

45 WEATHERALL, James Owen. A física de Wall Street..., p. 2.

46 Para uma visão geral, acessar o mapa das Ciências da Complexidade de Brian Castellani. Disponível em: https://www.art-sciencefactory.com/complexity-map_feb09.html. Acesso em: 10 jan. 2017. Destacam-se algumas dessas ciências: Teoria dos sistemas dinâmicos, Ciência dos Sistemas, Teoria Geral dos Sistemas, Cibernética, Teoria dos sistemas sociais, Inteligência Artificial, Modelagem Computacional, Robótica, Mineração de Dados. Dos nomes, destacam-se: Bertalanffy (Teoria Geral dos Sistemas), Ashby, Bateson, Wiener (pai da Cibernética), Luhmann, Morin.

47 ROCHLIN, Gene I. Trapped in the net…, p. 3.

48 DOMINGOS, Pedro. O algoritmo mestre..., p. 29.

49 O esquema era um pouquinho mais complicado – código-fonte, código-objeto, linkedição, executável – mas isso não interessa aqui.

50 Linguagem de montagem: uma linguagem simbólica, baseada em mnemônicos, para exprimir o programa em linguagem objeto ou de máquina. Com ela, pode-se escrever os programas e, depois, o próprio computador, sob comando de um programa chamado Assembler (montador), gera a versão executável do programa.

51 DOMINGOS, Pedro. O algoritmo mestre..., p. 29.

52 “ [...] os aprendizes transformam dados em algoritmos. E quanto mais dados eles têm, mais intrincados são os algoritmos.” DOMINGOS, Pedro. O algoritmo mestre..., p. 17.

53 Elas “ [...] organizam o pensamento a partir de princípios diversos dos da lógica tradicional [...] lógica é definida como qualquer classe de cânones de inferência baseada em sistema de categorias.” COELHO, Fábio Ulhoa. Roteiro de lógica jurídica. 3.ed. São Paulo:Max Limonad, 2000. p. 105.

54 Kant avançou em relação à categorização aristotélica. Considerava que “ [...] o pensamento produz os objetos, sendo as categorias formas ou funções a priori da consciência. Não eram categorias de predicados mas categorias de juízo.” ( MACHADO, Nilson José. Epistemologia e didática. 7.ed. São Paulo:Cortez, 2011. p. 211.) Nascia com ele o fatídico if then. Das categorias relacionais de Kant, a hipotética “se S, então P” ou a disjuntiva: “P ou Q”, estão nos fundamentos de toda a lógica computacional.

55 “Cada uma das cinco tribos de machine learning tem seu próprio algoritmo mestre, um aprendiz de uso geral [...] “. DOMINGOS, Pedro. O algoritmo mestre..., p. 19.

56 “ [...] o direito como um fenômeno decisório, um instrumento de poder e a ciência jurídica como uma tecnologia.” FERRAZ JR, Tércio Sampaio. Introdução ao estudo do direito..., p. 26.

57 Numa perspectiva de ser/dever ser, não no sentido da teoria das antinomias, conforme a expõe Ferraz Jr. FERRAZ JR, Tércio Sampaio. Introdução ao estudo do direito... , p. 184-192.

58 SAGAL, Paul T. Mente, homem e máquina. Trad. de Desidério Murcho. Lisboa:Gradiva, 1996. p. 29.

59 WIENER, Norbert. Cibernética e sociedade. O uso humano de sêres humanos. 4 ed. São Paulo:Cultrix, 1954, p. 136.

60 ROVER, Aires J. O principio da conexão em rede: perturbações estruturais no proceso judicial eletrônico. In:__. BRANDÃO, Cláudio (Org.) Princípios do proceso em meio reticular-eletrônico, p. 86.

61 LANIER, Jaron. How we need to temake te Internet. Disponível em: https://www.ted.com/talks/jaron_lanier_how_we_need_to_remake_the_internet/transcript. Acesso em: 15 abr.2018. Vale a pena ver Jaron Lanier, o mago sonhador do futuro da internet, arrepender-se das diretrizes traçadas para a evolução da malha da comunicação. Sua desilusão com o software livre é marcante.

62 Segundo Alan Daniels e Donald Yeates, “[...] in the real world only suboptimizations are performed.” DANIELS, Alan; YEATES, Donald. Systems analysis. Palo Alto:SRA, 1971. p.242.

63 “Sempre que, mesmo contribuindo para o aperfeiçoamento do ato processual, a tecnologia representar risco para os direitos constitucionalmente consagrados e protegidos das pessoas, não deverá ser adotada ou, ao menos, deverá ser adotada com reservas.” TAVARES-PEREIRA, S. O princípio da dupla instrumentalidade. Disponível em: https://duplainstrumentalidade.blogspot.com.br/p/artigos.html. Acesso em: 29 mar. 2018.

64 Aliás, ao sistematizar a teoria da e-norma, expus sua construção pela via da algoritmização clássica. Já andavam por aí os aprendizes. Mas continuo entendendo que a algoritmização clássica tem de ser seriamente considerada para o Direito e para os e-sujeitos. TAVARES-PEREIRA, S. Que é isto, a eNorma? Elementos para a teoria geral do eDireito. In:_____. Princípios do processo em meio reticular-eletrônico, p. 23-52.

65 TAVARES-PEREIRA, S. Processo eletrônico, máxima automação, extraoperabilidade, imaginalização mínima e máximo apoio ao juiz: ciberprocesso. Revista trabalhista direito e processo, São Paulo, n. 30, p.168-187, abr.mai.jun. 2009.

66 “LXXVIII - a todos, no âmbito judicial e administrativo, são assegurados a razoável duração do processo e os meios que garantam a celeridade de sua tramitação.” BRASIL. Constituição 1988. Constituição da República Federativa do Brasil. Disponível em https://www.planalto.gov.br/ccivil_03/ constituicao/Constituiçao.htm. Acesso em 26 set. 2008.

67 Conforme a recomendação do Princípio da extraoperabilidade: a reticularização da inteligência.

68 “ [...] I have learned to adapt my behavior to comply with the electronic menu, to conform to the especifications of a machine.” ROCHLIN, Gene I. Trapped in the net…, p. 3.

69 TAVARES-PEREIRA, S.; KRAMMES, Alexandre Golin. Processo judicial eletrônico: agentes automatizados e seus atos. Norma tecnológica e ato tecnológico (eNorma e eAto). Revista trabalhista direito e processo , São Paulo, n. 46, abr.maio.jun. 2013, p.113-140.

70 Após algumas considerações sobre as distintas correntes teóricas acerca do tema, Didier assume posição e afirma que um ato jurídico “[...] ganha o qualificativo de processual quando é tomado como fattispecie (suporte fático) de uma norma jurídica processual. Todo ato humano que uma norma processual tenha como apto a produzir efeitos jurídicos em uma relação jurídica processual [...]”.[grifo no original] DIDIER JR, Fredie. Curso de Direito Processual Civil. 12.ed. Vol.1. São Paulo:Jus-Podivm, 2010. v.1. p. 264-265.

71 FERRAZ JR, Tércio Sampaio. A ciência do direito. 2.ed. São Paulo:Atlas, 1980. p. 46. “As questões ‘dogmáticas’ são tipicamente tecnológicas [...] têm uma função diretiva explícita.”

72 TEUBNER, Günther. Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer Softwareagenten.

73 CUBAN, Mark. Disponível em: https://www.cnbc.com/2018/02/20/mark-cuban-philosophy-degree-will-be-worth-more-than-computer-science.html?utm_content=buffer40e24&utm_medium=social&utm_source=facebook.com&utm_campaign=buffer. Acesso em: 28 mar. 2018.

74 LUHMANN, Niklas. La sociedad de la sociedad. (Die gesellschaft der gesellschaft). Trad. Javier Torres Nafarrate. Ciudad de México:Herder, 2006, p. 235.

75 Os agentes automatizados são entidades tecnológicas: “Para a operacionalização do workflow o foco não está nos cargos, mas nas responsabilidades que serão assumidas por pessoa ou agente automatizado que faz parte do processo”. KRAMMES, Alexandre Golin. Workflow em processos judiciais eletrônicos. São Paulo:LTr, 2010. p. 47.

76 TAVARES-PEREIRA, S.; KRAMMES, Alexandre G. Processo judicial eletrônico e agentes automatizados. In: ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro..., p. 487-524.

77 LANIER, Jaron. How we need to remake the internet. Preocupado com a centralidade de sedes de controle, Lanier diz: “Não chamo mais essas coisas de redes sociais. São impérios de modificação de comportamento. Esta é uma tragédia global [...] “.

78 HARARI, Yuval N. Nacionalismo e globalismo. Disponível em: https://www.youtube.com/watch?v=szt7f5NmE9E&feature=youtu.be. Acesso em: 30 abr. 2018. Próximo ao pensamento de Lanier, Harari fala das soluções glocais, um misto de globalidade e localidade, um desmonte das centralizações totalizantes que a tecnología viabiliza.

79 Na verdade, Teubner sugere que, dotados de marcadores de ruído autoconscientes, muitos autores legais mantêm os predadores digitais à distância.

80 TAVARES-PEREIRA, S. O princípio da subinstrumentalidade da tecnologia. Disponível em: https://duplainstrumentalidade.blogspot.com.br. Acesso em: 29 mar. 2018. Artigo desenvolvido em 2007.

81 No item sobre antropomorfização, na p. 8 do artigo, Teubner faz uma observação extremamente importante: “Tudo isso justifica, como em geral se afirma, que o computador seja equiparado aos humanos? Para não incorrer numa falsa antropomorfização, deve-se entender a habilidade digital para agir, primeiro, em sua natureza. É necessário traçar um paralelo com a capacidade de outros atores não humanos que as organizações formais instituíram como entidades legais.” Essa diferença de natureza do actante – conforme o linguajar de Bruno Latour –, que precisa ser reconhecida e considerada, seria um elemento crucial a ser considerado nas deliberações sobre até onde se pode ir com a automação? Por outro lado, a analogia com a personificação das pessoas jurídicas gera certo desconforto. Parece mesmo imprópria. Isso porque tais entes jurídicos têm seus órgãos “atuando via humanos” e, no caso dos agentes de software, é o contrário. Os humanos são substituídos pelos agentes automatizados.

82 NAFARRATE, Javier Torres In:__ LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 152, nota de rodapé 1. O nome da obra referida (Die Wissenschaft der Gesellschaft = ciência da sociedade) demonstra s largueza do escopo luhmanniano.

83 “Observar este tipo de hechos requiere de una posición de tercer orden, la qual, sin embargo, no se distingue en los principios de una observación de segundo orden, sino sólo por su grado de reflexión. No se trata sólo de un fenómeno en cadena (que A observa cómo B y C observan, o que Habermas escribe cómo Hegel describe a Kant), sino de una reflexión de las condiciones de posibilidad de la observación de segundo orden y de las consecuencias que se siguen para lo que todavía pudiera considerarse mundo-en-común o sociedad que posibilita las descripciones.” LUHMANN, Niklas. La sociedad de la sociedad…, p. 885.

84 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 152-177.

85 LUHMANN, Niklas. El derecho de la sociedad. (Das recht der gesellschaft). Formatação eletrônica. Versão 5.0, de 13/01/2003. Disponível em: https://forodelderecho.blogcindario.com/2008/04/el-derecho-de-la-sociedad-niklas.html. Acesso em: 10 nov. 2011.

86 GÜNTHER, Klaus. Teoria da argumentação no direito e na moral..., p. 371 e seguintes.

87 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 152.

88 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 153.

89 LUHMANN, Niklas. Introdução à teoria dos sistemas…, p. 153.

90 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 153.

91 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 154.

92 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 154.

93 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 155.

94 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 156.

95 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 157.

96 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 160-161.

97 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 161-165.

98 "[...] a tradição humanista que se baseou na teoria do sujeito de Fichte levou o discurso a identificar sujeito com indivíduo." LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 165.

99 Para Luhmann, os sistemas sociais são autorreferentes e, portanto, a autorreferência das consciências - dos individuais (sistemas psíquicos) -, não pode ser confundida com a autorreferência dos sistemas sociais.

100 HABERMAS, Jürgen. O discurso filosófico da modernidade..., p. 533.

101 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 163.

102 GÜNTHER, Klaus. Teoria da argumentação no direito e na moral: justificação e aplicação. São Paulo:Landy Editora, 2004. p. 382-390.

103 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 168.

104 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 168.

105 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 168/169.

106 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 169/170.

107 Manuel Atienza demonstra, no capítulo 4 de As razões do Direito, a busca de Toulmin pelas bases de força dos argumentos, falando em garantias, respaldo, apoio fraco ou forte à conclusão pelos qualificadores modais etc, porque “enquanto na matemática (e na lógica dedutiva) a passagem para a conclusão ocorre de maneira necessária, na vida prática isso não costuma acontecer [...] “. ATIENZA, Manuel. As razões do direito. Teorias da argumentação jurídica. 2.ed. São Paulo:Landy, 2002. p. 142.

108 Dados tomados numa dimensão ampla, de inputs e outputs.

109 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 170.

110 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 171.

111 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 172.

112 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 172-173.

113 Em certos âmbitos tecnológicos se denomina de bases de conhecimento.

114 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 173.

115 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 174.

116 O conceito de interpenetração, oriundo de Parsons, é extensamente trabalhado em LUHMANN, Niklas. Sistemas Sociales. Lineamientos para uma teoria general. Trad. Silvia Pappe y Brunhilde Erker. Rubí (Barcelona):Anthropos, 1998. p. 199-235.

117 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 169/170.

118 “A internet revela-se como um ambiente que permite grande interação”. SEWALD JR., Egon; ROVER, Aires J. O processo judicial eletrônico como sistema sócio-tecnológico. In:__ ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro, p. 565.

119 Conforme a antevisão de ROVER, Aires José. (org.) Governo eletrônico e inclusão digital. Florianópolis:Fundação Boiteux, 2009, p. 22.

120 MACHADO, Nilson José. Epistemología e didática…, p. 139.

121 Quando as contribuições se singularizam e a malha operativa vem, por penetração, de um único fornecedor: o decisor. O fim da instrução processual e a passagem para a fase decisória marca bem um desses momentos da rede procedimental.

122 Que submete a norma, padronizador por uma específica forma de ver as coisas.

123 CHAVEZ JR., Eduardo de R. C. Elementos para uma teoria do processo em meio reticular-eletrônico. In:__ ROVER, Aires J. (Org) Engenharia e gestão do judiciário brasileiro, p. 433.

124 LUHMANN, Niklas. Introdução à teoria dos sistemas..., p. 168/169.

125 TAVARES-PEREIRA, S. Processo eletrônico, máxima automação, extraoperabilidade, imaginalização mínima e máximo apoio ao juiz: ciberprocesso. Disponível em: https://ciberprocesso.blogspot.com.br/p/8-o-principio-da-prioridade-funcao.html. Acesso em: 20 abr. 2018.

126 Kleber Waki captou bem, do princípio da extraoperabilidade, uma noção fundamental: “ [...] a necessidade de considerarmos, na construção do processo eletrônico: um agente automatizado [...] que possa atuar de forma inteligente [...] “. De fato, a extraoperabilidade situa-se no nível da reticularização da inteligência, no que se distingue da mera troca de dado/informação com o mundo, foco da interoperabilidade. A extraoperabilidade terá um papel relevante na teorização do e-sujeito. WAKI, Kleber S. O processo eletrônico: a influência do sistema e de suas conexões no direito processual. In:__. Princípios do processo em meio reticular-eletrônico, p. 96.