DIREITO PROCESSUAL e tecnologia

2022

Organização DIERLE NUNES ISADORA WERNECK

PAULO HENRIQUE DOS SANTOS LUCON

DIREITO PROCESSUALe tecnologiaOs impactos da virada tecnológica no âmbito mundial

Nunes et al-Dir Proc e Tecnologia-1ed.indd 3Nunes et al-Dir Proc e Tecnologia-1ed.indd 3 02/09/2021 11:59:2902/09/2021 11:59:29

Cap. 1 • ACESSO à JuSTIçA E VIRADA TECNOLógICA NO SISTEMA DE JuSTIçA BRASILEIRO

15

Parte

I •

Pano

rama N

acion

al

1

Acesso à justiça e virada tecnológica no sistema de justiça brasileiro:

gestão tecnológica de disputas e o alinhamento de expectativas para uma transformação com

foco no cidadão – novos designs, arquitetura de escolhas e tratamento adequado de disputas1

Dierle Nunes2

Camilla Paolinelli3

Escaneie o código QR para acessar a versão traduzida deste artigo.

Scan the QR Code for the English version of this paper.

1 Este texto é resultado do grupo de pesquisa “Processualismo Constitucional democrático e reformas processuais”, vinculado à Pontifícia Universidade Católica de Minas Gerais e Universidade Federal de Minas Gerais e cadastrado no Diretório Nacional de Grupos de Pesquisa do CNPQ (http://dgp.cnpq.br/dgp/espelhogrupo/3844899706730420). O grupo é membro fundador da “ProcNet – Rede Internacional de Pesquisa sobre Justiça Civil e Pro-cesso contemporâneo” (http://laprocon.ufes.br/grupos-de-pesquisa-integrantes-da-rede).

2 Doutor em Direito pela Pontifícia Universidade Católica de Minas Gerais/ Universitá de-gli Studi di Roma “La Sapienza”. Mestre em Direito Processual pela PUC Minas. Professor permanente do PPGD da PUC Minas e colaborador na UFMG. Secretário Adjunto do Ins-tituto Brasileiro de Direito Processual. Membro honorário da Associação Iberoamericana de Direito e Inteligência Artificial. Membro da Internacional Association Procedural Law, do Instituto Iberoamericano de derecho procesal e do Instituto Panamericano de Derecho Procesal. Diretor Executivo do Instituto de Direito Processual – IDPro. Membro da Comissão de juristas que assessorou no Código de Processo Civil de 2015 na Câmara dos Deputados. Diretor do Instituto Direito e Inteligência Artificial – IDEA. Advogado: [email protected].

3 Doutoranda e mestre em Direito Processual pela PUC Minas. Coordenadora do curso de direito da PUC Minas - Serro, professora de cursos de graduação e especialização da mes-ma instituição. Coidealizadora do projeto #leiamulheresnodireito. Advogada. Membro da ACADEPRO e da Comissão de Processo da OAB/MG. E-mail: [email protected].


DIREITO PROCESSUAL E TECNOLOGIA: Os impactos da virada tecnológica no âmbito mundial

16

Para palestras sobre o tema, utilize o QR-Code acima

Sumário: 1. Considerações iniciais: alinhando expectativas – a virada tecnológica em busca do e-acesso à justiça democrático. 2. Investigando o cenário brasileiro: o avanço da implementação das etapas da virada tecnológica no sistema de justiça nacional – digitalização e automação a caminho da transformação. 3. Os ru-mos da transformação: como os dados minerados no sistema de justiça brasileiro podem auxiliar na construção de novos designs de gestão de disputas. 4. Encontrando a arquitetura de escolhas ideal para o sistema brasileiro: cidadania digital, assimetria infor-macional e autorrepresentação – é possível construir um mode-lo de ODR em tribunais on-line compatível com a Constituição de 1988? 5. Considerações finais: um convite para novos designers e as direções para novas formas de gestão adequada de conflitos no sistema de justiça civil nacional. Referências bibliográficas.

1. CONSIDERAÇÕES INICIAIS: ALINHANDO EXPECTATIVAS – A VIRADA TECNOLÓGICA EM BUSCA DO E-ACESSO À JUSTIÇA DEMOCRÁTICOO sistema jurídico brasileiro sofreu, ao longo das últimas décadas,

uma série de rupturas paradigmáticas que induziram a modificações nos fundamentos, propósitos e na própria racionalidade de atuação de pro-fissionais do direito e de suas instituições4.

Boa parte dessas mudanças foram estimuladas por diretrizes de go-vernança instituídas pelo Banco Mundial, inspiradas pelo Consenso de Washington, que compeliram o Brasil a adotar, desde a década de 1990, um conjunto de medidas político-institucionais. Foram promovidas re-formas na estrutura estatal e no sistema público de justiça, com a finali-dade de promover “maior desenvolvimento” para atrair financiamentos internacionais para o país.

4 NUNES, Dierle. Virada Tecnológica no Direito Processual e etapas do emprego da tecno-logia no direito processual: seria possível adaptar o procedimento pela tecnologia?, p.17. In NUNES, Dierle; et al (orgs). Inteligência Artificial e Direito Processual: os impactos da virada tecnológica no direito processual. 2ª ed. Salvador: Juspodivm, 2021.



17

Parte

I •

Pano

rama N

acion

al

Neste contexto, o foco no direcionamento e na sistematização de estratégias processuais amigáveis ao mercado acabou por impulsionar uma supervalorização da vertente de eficiência decisória, fortemente influenciada pela rapidez e pela performance como metavalores predo-minantes: formas de oferecer a previsibilidade e a segurança necessárias para a implementação de uma política “desenvolvimentista” no país.

Com este propósito, o discurso reformista do rule of law5 consolidou uma série de modificações legislativas que culminaram não apenas na inclusão do microssistema de criação e aplicação de padrões decisórios “vinculantes” no texto do Código de Processo Civil brasileiro de 2015 (CPC/15), como na tonificação das técnicas de autocomposição e da ideologia da harmonia6. Passamos a fomentar a criação de “portas” alter-nativas ao sistema de justiça estatal (arbitragem, mediação, conciliação e aumento do número procedimentos administrativos), a incrementar o uso de medidas coercitivas atípicas na execução, a estimular a adoção de medidas desjudicializadoras, especialmente por meio dos cartórios (inventários, divórcios, usucapiões etc.) e a reforçar a consensualidade e a convencionalidade como promessas para “desafogar” o judiciário7.

A partir da progressiva implementação do processo judicial eletrô-nico (PJe), iniciada em 20068, e, mais recentemente, com o processo de inserção de tecnologia no Judiciário coordenado nacionalmente pelo Conselho Nacional de Justiça (CNJ), estamos assistindo ao desenvolvi-mento de diversas ferramentas tecnológicas para servir de apoio a ser-vidores e a magistrados. Evoluímos para a introdução (ainda incipiente) de sistemas de Online Dispute Resolution (ODR) acoplados ao sistema público de justiça e tem-se cogitando, até mesmo, a criação de algorit-mos de Inteligência Artificial com finalidade decisória9 que podem ser-vir de apoio na tomada de decisões judiciais.

5 OLIVEIRA, Fabiana Luci de; CUNHA, Luciana Cross. Os indicadores sobre o Judiciário Brasi-leiro: limitações, desafios e uso da tecnologia. Revista de Direito GV, v.16, n.1, 2020, versão on-line. Disponível em: <https://doi.org/10.1590/2317-6172201948>. Acesso em: 26 nov. 2020.

6 Cf. NADER, Laura. Harmonia coerciva: A economia política dos modelos jurídicos. 2011. Disponível em: <https://acervo.racismoambiental.net.br/2011/05/09/harmonia-coerciva--a-economia-politica-dos-modelos-juridicos/>. Acesso em: 08 dez.2020.

7 Para uma análise panorâmica dos modelos reformistas: Cf. NUNES, Dierle. Processo juris-dicional democrático. Curitiba: Juruá, 2008; NUNES, Dierle; TEIXEIRA, Ludmila. Acesso à justiça democrático. Brasília: Gazeta, 2013.

8 Disponível em: <Lei nº 11.419 (planalto.gov.br)>. Acesso em: 14 mar. 2021. 9 NUNES, Dierle; MARQUES, Ana Luiza. Decisão judicial e inteligência artificial: é possível

a automação da fundamentação? In NUNES, Dierle; et al (orgs). Inteligência Artificial e Direito Processual: os impactos da virada tecnológica no direito processual. 2ª ed. Salva-



18

Estamos avançando, a passos largos, na automação de funções, como as repetitivas, e caminhamos para a adoção de novas formas de dimensionamento de conflitos mediante emprego de tecnologia. Estra-tégias também têm sido traçadas para a consolidação de métodos de que possam delegar a tarefa de resolução de conflitos para fora do sistema público de justiça (fortalecimento de ODRs extrajudiciais).

Nesse sentido, vale destacar que os esforços para construção de “al-ternativas” ao Judiciário nacional não são novos. Especialmente no final da década de 1970, com o delineamento das denominadas “ondas reno-vatórias”, a partir do movimento Florença de acesso à justiça, vários paí-ses incorporam orientações no sentido de tornar a solução dos conflitos menos morosa, menos dispendiosa, mais simples e acessível. Em 1976, Frank Sander em discurso na The Pound Conference pontuou que os tri-bunais “eram lentos, custavam muito, e, às vezes, eram inacessíveis aos litigantes que mais precisavam”10.

Sander descrevia, já àquela época, a necessidade de os tribunais ado-tarem uma abordagem multiportas que fosse apta a fornecer várias vias para a resolução de disputas, incluindo arbitragem, mediação e nego-ciação11. Desde então, em todo o mundo (e não é diferente por aqui), perduram os dilemas em torno de como as ADRs (Alternative Dispute Resolution) podem viabilizar ou corrigir realidades nas quais se verifi-cam acentuados desequilíbrios de poder e marginalização12.

Na cena atual do sistema de justiça nacional, os dados que indicam para a presença de mais de 77,1 milhões de processos13 em curso são ci-tados, com frequência, como argumentos que demonstram a incapacidade

dor: Juspodivm, 2021. PAOLINELLI, Camilla M.; VIANA, Antônio Aurélio. Acesso à justiça sem justiça. CONJUR – Revista Consultor Jurídico, 5 de novembro de 2020. Disponível em: <ConJur – Viana e Paolinelli: O acesso à Justiça sem justiça>. Acesso 28 nov.2020. Nesse sentido: Cf. ROSA, Alexandre Moraes, BOEING, Daniel. Ensinando o robô a julgar. Florianó-polis: EMais, 2020. GRECO, Luis. Poder de julgar sem responsabilidade de julgador: impos-sibilidade jurídica do juiz robô. São Paulo: Marcial Pons, 2020.

10 CARREL, Alyson. Reimagining Settlement with Multi-Party Computation. Journal of Tech-nology and Intellectual Property, may 19, 2020. Disponível em: <Reimagining Settlement with Multi-Party Computation – Journal of Technology and Intellectual Property (nor-thwestern.edu)>. Acesso em: 26 nov.2020.

11 SANDER, Frank E. A. Varieties of dispute processing. In Pound Conference: perspectives on justice in the future. Minnesota: West Publishing Co., 1979.

12 WING, Leah. Ethical Principles for Online Dispute Resolution. International Journal on On-line Dispute Resolution, 2016. p. 18.

13 CONSELHO NACIONAL DE JUSTIÇA. Justiça em Números 2020: ano-base 2019. Brasília: CNJ, 2020. Disponível em: <https://www.cnj.jus.br/wp-content/uploads/2020/08/WEB-V3--Justiça-em-Números-2020-atualizado-em-25-08-2020.pdf>. Acesso em 01 dez.2020.



19

Parte

I •

Pano

rama N

acion

al

de gestão eficiente de conflitos por parte do judiciário, sedenta por encon-trar soluções que possam “corrigir” os gargalos. Tais números são, recor-rentemente, citados como sinônimos da “crise” e da explosão de litígios, encorajando o discurso de que o sistema carece de remédios urgentes.

Concomitante a isso, diretrizes de governança internacional do Banco Mundial14 continuam a exigir que o país forneça um ambiente jurisdicional seguro, saudável e estável para investimentos, o que sig-nifica reduzir o número de demandas, diminuir os custos, encaminhar procedimentos mais céleres e simplificados.

Significa dizer, neste contexto, que o país lida, de um lado, com uma enorme pressão do capital para adotar tônicas reformistas que, por vezes, não se preocupam em dar tratamento adequado aos conflitos, forjando ferramentas que acabam por privilegiar “aqueles que têm”; e, de outro, com tentativas de ofertar políticas para a implementação de espaços de diálogo e promoção da cidadania.

Um exemplo ilustrativo deste antagonismo pode ser extraído da falta de análise dos dados empíricos a respeito da política de “acordos” gestados pelo sistema de justiça civil por aqui. Tal fato induz a um des-conhecimento quase que absoluto quanto às verdadeiras causas dos con-flitos, impossibilitando sua gestão do ponto de vista macro e microes-tratégico. Essa nota também está presente nos casos já judicializados e sem resolução amigável. Nestes, o judiciário brasileiro não tem se valido dos dados que coleta, por meio de seus sistemas eletrônicos, para iden-tificar gargalos e tratar melhor as demandas. É inegável, contudo, que o tratamento destes dados é viável em inúmeras hipóteses e pode viabilizar desenhos de novas abordagens preventivas voltadas a dimensionar os conflitos, sem ter de barrar seu ingresso na perspectiva tradicional.

No tocante à agenda da “autocomposição”, cumpre lembrar que, des-de a resolução 125 do CNJ, publicada em 2010, há uma tentativa por parte do Conselho Nacional de Justiça (CNJ), de instituir política públi-ca de tratamento adequado dos problemas jurídicos e dos conflitos de interesses. A ideia foi de organizar, em âmbito nacional, não somente os

14 BANCO MUNDIAL. Brazil Making Justice Count Measuring and Improving Judicial Perfor-mance in Brazil. Report, n. 32789-BR. Washington D.C.: Poverty Reduction and Economic Management Unit – Latin America and the Caribbean Region. 30 dez. 2004. Disponível em: <http://documents.worldbank.org/curated/en/625351468017065986/pdf/327890REPLACEM10AS0PREVIOUS0RECORD1.pdf>. Acesso em: 24 jan. 2021; BANCO CENTRAL DO BRASIL. Notas técnicas do Banco Central do Brasil, n. 35, maio/2003. Disponível em: <http://www.bcb.gov.br/pec/notastecnicas/port/default.asp>, p.16. Acesso em: 24 jan. 2021.



20

serviços prestados nos processos judiciais, como também os que possam sê-lo mediante outros mecanismos de solução de conflitos, em especial dos consensuais, como a mediação e a conciliação15.

A mencionada política acabou por promover a implantação de CE-JUSCs (Centros de justiça, conciliação e cidadania) em todo o país e di-recionou alterações normativas no CPC/15 que tornaram obrigatória a realização de audiências preliminares de conciliação nos procedimentos comuns, incentivando os tribunais locais a criarem bancos de mediadores e conciliadores para oferta de decisões autocompositivas para os conflitos.

Segundo dados do Justiça em Números 2020, no fim de 2019, havia na Justiça Estadual 1.284 CEJUSCs em funcionamento. No Estado de Mi-nas Gerais, naquele ano, haviam 166 CEJUSCs instalados nas Comarcas. Ocorre que os referidos centros laboram com taxas baixíssimas de acordos (incluindo a fase pré-processual) que giram em torno 15,4%. A nível na-cional, este índice chega a alarmantes 12,5%16, em visível contraste com os números que são comumente divulgados por plataformas extrajudiciais que também laboram com a soluções não adjudicatórias para conflitos17.

Pelo que se percebe a partir da análise das justificativas das norma-tivas do CNJ e da própria exposição de motivos do CPC/1518, apesar das preocupações brasileiras, teoricamente, terem girado em torno de uma perspectiva de métodos adequados, o que, a princípio, iria ao encontro de uma perspectiva redistributiva ao acesso; a política de “acordos a qualquer custo”, na prática, talvez tenha sido cooptada por

15 CONSELHO NACIONAL DE JUSTIÇA. Resolução 125 de 29 de novembro de 2010. Disponí-vel em: <https://atos.cnj.jus.br/atos/detalhar/156>. Acesso: 29 jan. 2021.

16 CONSELHO NACIONAL DE JUSTIÇA. Justiça em números 2020. Brasília: CNJ, 2020, p.171-177. Disponível em: <https://www.cnj.jus.br/wp-content/uploads/2020/08/WEB-V3-Justi-ça-em-Números-2020-atualizado-em-25-08-2020.pdf>. Acesso em: 10 fev. 2021.

17 “O sistema eBay permitiu uma experiência massiva, totalmente voluntária e sem prece-dentes na resolução de disputas humanas. Dessa forma, o grande volume de disputas não era um bug, mas um recurso. PayPal e eBay lidaram com mais de 60 milhões de disputas em 2012, mais do que todos os casos civis em tribunais estaduais e federais juntos. E, ao contrário das disposições judiciais, todos os resultados dessas disputas estavam dispo-níveis para estudo e ajuste do processo. Usando os dados para rastrear a satisfação do cliente e o comportamento futuro, Rule e sua equipe do eBay foram capazes de ajustar o sistema continuamente para maximizar as liquidações, minimizar o envolvimento huma-no do lado da empresa e aumentar a satisfação e o envolvimento do cliente.” (Tradução livre. BARTON, Benjamin H.; BIBAS, Stephanos. Rebooting Justice: More Technology, Fewer Lawyers, and the Future of Law. New York: Encounter Books, 2017, cap.8).

18 Cf. resolução 125, CNJ. Disponível em:<https://atos.cnj.jus.br/atos/detalhar/156>. Acesso em 15 mar. 2021. E exposição de motivos do CPC/15, disponível em: <https://www2.sena-do.leg.br/bdsf/bitstream/handle/id/512422/001041135.pdf>. Acesso em 15 mar. 2021.



21

Parte

I •

Pano

rama N

acion

al

diretrizes retóricas de eficiência neoliberal e, aparentemente, não sur-tiu o efeito desejado19.

Nessa via, Marc Galanter alerta que a tomada de decisão no pro-cesso de adjudicação parece ter sido engolida por “processos de nego-ciação”. Isso porque as negociações de rotina, ainda que presididas por juízes, não refletem, por vezes, padrões legais, mas as posições estraté-gicas de repeat players20. As pressões institucionais são focalizadas em medidas de desempenho dos juízes e em seu controle sobre o número de casos. Magistrados passaram a ser tratados como “gerentes do caso”, pauta que é endossada pelo discurso de que é necessário imprimir cele-ridade para reduzir custos e tempo. A definição de “metas”, no sentido empregado recorrentemente no país21, retira o foco da decisão adequada para o conflito (embasada na participação ativa das partes interessadas), direcionando-o à discricionariedade gerencial dos magistrados (juízes decidem como gerenciar seus casos com base em argumentos de custo e tempo, com menor controle das partes22).

De outro lado, também se acresceram a essas iniciativas, outras idea-lizadas pelo CPC/15 que seriam, como dissemos, em tese, aptas para

19 De acordo com Galanter: “O Judiciário adotou os Meios Alternativos de Solução de Conflitos vinculados (ou “anexados”, como dizem) aos foros judiciais como forma de reduzir o cres-cente número de processos e redirecionar casos que entendem não serem merecedores da sua atenção. Adicionalmente, o Judiciário tem sido amplamente favorável às iniciativas das partes privadas de enclausurar causas a fóruns alternativos de resolução de controvérsias, alguns independentes, outros não. Uma firme dieta anabólica de apoio governamental e empresarial tornou os Meios Alternativos de Solução de Conflitos não apenas amplamente maior que seus irmãos, mas cada vez mais distante deles. Como o feroz debate sobre a legitimidade e os efeitos da arbitragem mandatória e as preocupações acerca das media-ções impostas pelos tribunais demonstraram, os Meios Alternativos não desfrutam mais da presunção de que facilitam o Acesso à Justiça. Ao invés, tornaram-se objeto de suspeita e, em alguns casos, rivais diretos de programas de Acesso à Justiça”. (GALANTER, Marc. “Aces-so à justiça em um mundo de capacidade social em expansão”. Tradução: João Eberhardt Francisco, Maria Cecília de Araújo Asperti e Susana Henriques da Costa. Revista Brasileira de Sociologia do Direito. Porto Alegre: ABraSD, v. 2, n. 1, p. 37-49, jan./jun., 2015.)

20 GALANTER, Marc. The Vanishing Trial: an examination of trials and related matters in fe-deral and state courts. Journal of Empirical Legal Studies, volume I, issue 3, 459-570, no-vember 2004, p.527.

21 Diferentemente ao nosso uso da palavra meta, como explicam Amsler et al: “ao projetar ou redesenhar um sistema, é importante determinar e articular as metas e valores do sistema desde o início do processo de design.” (p. 25) sendo que “as metas frequentemente identifi-cadas para DSDs incluem o seguinte: A) Prevenção de conflitos, gestão de conflitos, resolu-ção de disputas; B) eficiência, economia de recursos; C) Relacionamentos; D) Segurança; E) Operação de sistema; F) Reconhecimento público; G)Resultados substantivos; H) Reputação; I)Compliance; J)Satisfação; K) Melhoria organizacional.” (AMSLER et al, op. cit., p. 26-28).

22 GALANTER, ibidem, The Vanishing..., p.519-520.



22

“desafogar” o sistema: técnicas de padronização decisória, julgamento por amostragem, medidas desjudicializadoras e reforço das técnicas de negocia-ção sobre as regras do procedimento. Tais mecanismos tendem a favorecer os interesses dos grandes litigantes que gozam de vantagens estratégicas23 – “acesso à informação, poder de barganha, advocacia especializada, acesso facilitado às cortes – podendo definir no julgamento de um caso individual o entendimento a ser aplicado em uma vasta gama de casos individuais24”.

Nessa linha, a agenda legislativa brasileira parece ter privilegiado aqueles que têm fácil acesso às Cortes superiores, deixando de lado es-colhas redistributivas para que possam fornecer acesso “os que não têm”, como afirmam Gabbay, Silva, Asperti e Costa25.

Mais recentemente, estamos assistindo ao crescimento do movi-mento de implantação de tecnologia no sistema de justiça brasileiro. Este movimento vem ganhando força desde resolução 185/2013, responsável pela regulamentação do PJE, e, especialmente, a partir das diretrizes da Portaria nº 25/2019 que instituiu o Laboratório de Inovação do Processo Judicial em meio eletrônico – Inova PJE e o Centro de Inteligência Arti-ficial aplicada ao PJE26.

As iniciativas do CNJ e resoluções em direção à implementação de tecnologia no sistema de justiça nacional se aceleraram tremendamente no ano de 2020, pós pandemia da COVID-19 e início da gestão Fux no

23 GALANTER, Marc. Why the haves come out ahead? Speculations on the limits of legal change. Law and Society Review, v. 9, n. 1, p. 95-160, 1974. Disponível em: https://doi.org/10.2307/3053023.

24 GABBAY, Daniela Monteiro; SILVA, Paulo Eduardo Alves da; ASPERTI, Maria Cecília de Araúho; COSTA, Susana Henriques da. Why the ‘Haves’ Come Out Ahead in Brazil? Revisi-ting Speculations Concerning Repeat Players and One-Shooters in the Brazilian Litigation Setting (January 15, 2016). FGV Direito SP Research Paper Series, n. 141. Disponível em: https://doi.org/10.2139/ssrn.2716242, p.17.

25 GABBAY, SILVA, ASPERTI e COSTA, op. cit. 26 Informação extraída do sítio: <https://www.cnj.jus.br/judiciario-ganha-agilidade-com-uso-

-de-inteligencia-artificial/>. Acesso em: 18 dez. 2020. Todas as propostas também foram acompanhadas de uma reformulação do PJE com a versão 2.1, que permite agregar novas tecnologias e soluções à plataforma. O Inova PJE trabalha com o sistema Sinapse, algoritmo desenvolvido pelo Tribunal de Justiça de Rondônia para classificar tipos de movimentação de processo judicial. A partir da assinatura do termo de cooperação nº042/2018 com o CNJ, o TJRO assumiu o compromisso de realizar o desenvolvimento conjunto do Sinapses, bem como o desenvolvimento e uso colaborativo dos modelos de IA servidos pelo Tribunal ao Sistema PJe. Hoje, como destacado e também esclarecido pela na resolução 332, o Sinapses é uma solução computacional mantida pelo CNJ com o objetivo de hospedar, treinar, audi-tar e distribuir modelos de IA em colaboração com os tribunais do país.



23

Parte

I •

Pano

rama N

acion

al

Conselho Nacional de Justiça. E continuam evoluindo em progressão geométrica.

As resoluções 33127, 33228, 33429, 33530, 34531, 35432, 35833 e 37234,

27 Cria a Base Nacional de Dados do Poder Judiciário – DataJud que é responsável pelo arma-zenamento centralizado dos dados e metadados processuais relativos a todos os processos físicos ou eletrônicos, públicos ou sigilosos dos os tribunais indicados nos incisos II a VII do art. 92 da Constituição Federal Brasileira. Para mais sobre o DataJud, ver: <https://www.cnj.jus.br/pesquisas-judiciarias/datajud/>. A ideia do CNJ é de que, através da mineração de pro-cessos e de uma atuação colaborativa com os tribunais, possa-se promover a estruturação de dados, o compartilhamento / unificação dos modelos de IA adotados e desenvolvidos pelos diferentes Estados / regiões, através do projeto SINAPSES, possibilitando a adoção de solu-ções padronizadas para os Tribunais. Tudo isso em atenção à racionalização e aos ganhos de produtividade que modem advir com a utilização de modelos uniformes. Acesso: 28 jan.2021.

28 Instituiu diretrizes éticas e de governança para assegurar transparência, previsibilidade e possibilidade de auditabilidade dos modelos de IA utilizados no judiciário brasileiro. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3429>. Acesso 15 mar. 2021.

29 Institui o Comitê Consultivo de Dados Abertos e Proteção de Dados no âmbito do Poder Judiciário, para, por meio de estudos técnicos e apresentação de propostas, auxiliar o Conselho Nacional de Justiça no desenvolvimento e na implementação de política de da-dos abertos compatível com a proteção de dados pessoais no âmbito do Poder Judiciário. Isso porque, é a crescente utilização da Internet e o emprego de modelos computacionais estruturados para o acesso e o processamento de dados disponibilizados pelos órgãos do Poder Judiciário, há inegáveis os benefícios do acesso ao conteúdo de pronunciamentos judiciais, em formato legível por máquina, para a difusão do conhecimento do Direito e contribuição à segurança jurídica, bem como a necessidade de se proteger dados pes-soais. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3489>. Acesso em 29 jan. 2021.

30 Institui política pública para a governança e a gestão de processo judicial eletrônico. Integra os tribunais do país com a criação da Plataforma Digital do Poder Judiciário Brasileiro – PDPJ-Br. Mantém o sistema PJe como sistema de Processo Eletrônico prioritário do Conselho Nacional de Justiça, considerando a necessidade de se convergir esforços para a adoção de soluções desenvolvidas e compartilhadas pelos próprios tribunais brasileiros, sem a dependência de fornecedores privados, atentando-se para requisitos de segurança e de interoperabilidade e racionalização dos gastos com elaboração e aquisição de softwares e permitindo o empre-go desses valores financeiros e de pessoal em atividades mais dirigidas à finalidade do ju-diciário. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3496>. Acesso em: 29 jan. 2021.

31 Dispõe sobre o “Juízo 100% Digital” e dá outras providências. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3512>. Acesso em: 29 jan. 2021.

32 Dispõe sobre o cumprimento digital de ato processual e de ordem judicial, regulamentan-do a realização de audiências e sessões por videoconferência e telepresenciais e a comu-nicação de atos processuais por meio eletrônico nas unidades jurisdicionais de primeira e segunda instâncias da Justiça dos Estados, Federal, Trabalhista, Militar e Eleitoral, bem como nos Tribunais Superiores, à exceção do Supremo Tribunal Federal. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3579>. Acesso em: 29 jan. 2021.

33 Por meio da mencionada resolução, o Judiciário brasileiro começará a projetar sistemas informatizados de ODRs para a resolução de conflitos, voltados à tentativa de conciliação e mediação (SIREC), no formato de Tribunais online. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3604>. Acesso em: 29 jan. 2021.

34 Regulamenta a criação de plataforma de videoconferência denominada “Balcão Virtu-al”, determinando que os tribunais brasileiros, com exceção do Supremo Tribunal Fe-



24

além da portaria 27135, todas publicadas no ano de 2020 pelo CNJ pro-curam promover o acesso à chamada justiça digital, “com incremen-to da governança, da transparência e eficiência do Poder Judiciário, além de efetiva aproximação com o cidadão e redução de despesas36”.

Dentre os objetivos da política de virada tecnológica do sistema de justiça brasileiro para promoção do e-acesso à justiça, o CNJ destaca:

a criação do juízo 100% digital; ampliação da audiência telepresen-cial; projeto cumprimento eletrônico de ordem judicial (extinção da carta precatória); implementação do domicílio digital (intimação PF e PJ); sistema nacional de penhora online (cartórios RGI); incentivo à política de mediação digital extrajudicial e extraprocessual (on-line dispute resolution); interposição de recursos especiais e extraordinários em plataforma digital única, instalada em nuvem, integrada aos siste-mas judiciários locais, com coleta e gestão eficiente de dados e meta-dados (MJE); implementação do portal único do advogado (aplicativo de consulta processual para desktop e smartphone no âmbito do STF e do Poder Judiciário); Projeto otimização dos sistemas de TIC; Projeto Nova Plataforma Digital do Poder Judiciário – PDPJ; Projeto Equipe de Trabalho Remota; projeto sobre uso de videoconferências e de apli-cativos de mensagens instantâneas e projeto centro de inteligência do Poder Judiciário37.

Por meio destes objetivos, percebe-se que o CNJ vem desempen-hando a missão que lhe atribui o art. 196, CPC/15, direcionando significativos esforços para implementação de tecnologia e ino-

deral, deverão disponibilizar, em seu sítio eletrônico, ferramenta de videoconferência que permita imediato contato com o setor de atendimento de cada unidade judiciária, popularmente denominado como balcão, durante o horário de atendimento ao público. Disponível em: <original15412620210219602fdc26a38d2.pdf (cnj.jus.br)>. Acesso em: 14 mar. 2021.

35 Regulamenta o uso de Inteligência Artificial no âmbito do Poder Judiciário, com a fina-lidade de evitar litígios e de melhor definir a incidência de cautelas complementares às usualmente empregadas em projetos de tecnologia da informação e também com o obje-tivo de uniformizar o processo de criação, armazenamento e disponibilização de modelos de inteligência artificial no âmbito do Poder Judiciário. Disponível em: <https://atos.cnj.jus.br/atos/detalhar/3613>. Acesso em: 28 jan. 2021.

36 CONSELHO NACIONAL DE JUSTIÇA. 5 Eixos da Justiça, 2020. Disponível em: <5 Eixos da Justiça – Portal CNJ>. Acesso em: 19 jan. 2021.

37 CONSELHO NACIONAL DE JUSTIÇA. 5 Eixos..., ibidem.



25

Parte

I •

Pano

rama N

acion

al

vação no sistema de justiça nacional38. A ideia é promover uma gestão mais organizada e integrada dos judiciários locais, acom-panhada de uma incontestável promessa de redução de custos e tempo como agenda prioritária.

Contudo, a pauta do movimento de incorporação de tecnologia no sistema de justiça brasileiro não pode ser lida apenas por esta face. E isso porque é possível utilizar a tecnologia com objetivo democratizan-te, para melhoria da gestão dos conflitos, com objetivo de redistribuir o acesso à justiça.

Explicamos: a coleta massiva de dados promovida pela introdução de tecnologia nos procedimentos jurisdicionais brasileiros traz ferra-mentas valiosas na identificação das raízes de demandas específicas. A extração de dados sobre casos anteriores e, em seguida, execução dos da-dos por meio de modelos algorítmicos para detectar padrões39, fornece ferramentas primorosas para melhoria do sistema de justiça e releva um possível caminho para a busca de um e-acesso à justiça capaz de promo-ver redistribuição, além de justiça corretiva. A transformação de dados em conhecimento pode auxiliar numa virada tecnológica democrática da justiça, de modo a permitir a customização de soluções que não se limitem a automatizar velhas práticas e institutos.

De acordo com Katsh40, as formas mais comuns de resolução de dispu-tas envolvem participantes trabalhando com informações, comunicando-as,

38 No discurso de abertura do ano judiciário de 2021, proferido pelo Ministro Luiz Fux no último dia 01 de fevereiro, o ministro destacou: “No presente ano de 2021, o cidadão bra-sileiro terá um Poder Judiciário completamente reformulado. O programa Juízo 100% Di-gital, que assegura ao cidadão brasileiro o direito de escolher a tramitação integralmente virtual do seu processo judicial, já é adotado em mais de 900 varas no país. Igualmente, o Supremo Tribunal Federal caminha a passos largos para se tornar a primeira Corte Cons-titucional 100% Digital do globo, com perfeito alinhamento entre inteligência humana e artificial para oferecimento on-line da integralidade dos seus serviços jurisdicionais. Além disso, inauguramos plataformas digitais para dinamizar as ações de conciliação e de me-diação, por meio das ODRS (On-line Dispute Resolution). No Supremo Tribunal Federal, o Centro de Conciliação honrosamente receberá em 2021 Ministros do Supremo Tribunal Federal aposentados, que muito contribuirão com a Corte e com a sociedade nesse novo modo de fazer justiça.” (FUX, Luiz. Discurso de abertura do ano judiciário de 2021. Dispo-nível em:<Supremo Tribunal Federal (stf.jus.br)>. Acesso em 02 fev. 2020).

39 OSBEK, Mark K. Using Data Analytics Tools to Supplement Traditional Research and Analysis in Forecasting Case Outcomes. Legal Writing Journal. 20 (2015): 33-6.

40 KATSH, Ethan. Bringing Online Dispute Resolution to Virtual Worlds: Creating Processes Through Code, 49 N.Y.L. SCH. L. REV. (2004-2005), p.273.



26

armazenando-as, organizando-as, avaliando como criá-las e defini-las, quando, onde e para quem essas informações são direcionadas. Na célebre frase de Clive Humby, “dados são o novo petróleo. É valioso, mas se não for refinado, não pode realmente ser usado (...) então os dados devem ser decompostos, analisados para que tenham valor41”.

E, se os processos de resolução de disputas consistem em sequên-cias de informações de atividades tradicionais engajadas pelos disputan-tes (negociação) ou administradas por terceiro (mediação, arbitragem ou mesmo a atividade jurisdicional), novas tecnologias permitem no-vas interações entre as partes e novas oportunidades de trabalhar com informação.

É por isso que a atividade de resolução de conflitos em ambiente virtual, com seu enorme banco de dados, fornece uma imensa oportuni-dade para prevenção, gestão adequada e resolução dos conflitos42. Nesse sentido, Katsh destaca:

O que diferencia um modelo de resolução de disputas de outro é, basicamente, como a informação é gerenciada e regulamen-tada. Um processo, por exemplo, pode fazer do corpo de infor-mações representado por regras, o ponto focal da tomada de decisão, enquanto em outros processos, as partes podem decidir que outros tipos de informações são mais importantes que as re-gras. Geralmente, mediadores, árbitros e juízes, todos têm pro-cessamento de informações, mas usam métodos diferentes por razões diferentes e com objetivos diversos. O interesse e a ne-cessidade da resolução e da prevenção de disputas em mundos virtuais crescem paralelamente ao aumento no uso dos meios de

41 Disponível em: <Tech giants may be huge, but nothing matches big data | Internet | The Guardian>. Acesso em: 15 mar. 2021.

42 Nesse respeito, Galanter observa a respeito do direito: “usually works not by exercise of force but by information transfer, by communication of what’s expected, what forbidden, what allowable, what are the consequences of acting in certain ways. That is, law entails information about what the rules are, how they are applied, with what costs, consequen-ces, etc. For example, when we speak of deterrence, we are talking about the effect of information about what the law is and how it is administered. Similarly, when we describe ‘bargaining in the shadow of the law,’ we refer to regulation accomplished by the flow of information rather than directly by authoritative decision. Again, ‘legal socialization’ is accomplished by the transmission of information. In a vast number of instances the appli-cation of law is, so to speak, self administered – people regulate their conduct (and judge the conduct of others) on the basis of their knowledge about legal standards, possibilities and constraints.” (GALANTER, Marc. The Legal Malaise: Or, Justice Observed, 19, Law and Society Review, p. 537-545, 1985).



27

Parte

I •

Pano

rama N

acion

al

resolução de disputas online (“ODR”), uma nova abordagem para resolução de disputas que emprega recursos baseados na Inter-net. ODR reconhece e tenta se construir sobre a centralidade da comunicação e sobre o processamento de informações para reso-lução de disputas. Usa as redes de computadores para permitir que as partes se comuniquem em novas formas, à distância, e utiliza a poderosa capacidade de processamento de informações para gerenciar o fluxo e o uso de informações que estão no centro de resolução de disputas43. (tradução livre)

É justamente neste ponto que as iniciativas do CNJ – que estimulam a resolução de demandas em espaço virtual, seja por meio da construção da plataforma única do judiciário ou mesmo pela introdução de sistemas de ODR voltados à autocomposição (SIRECs) – podem revelar uma es-colha política que, possibilitará, num futuro próximo, capacitar o estado brasileiro a promover e-acesso à justiça com resultados redistributivos e/ou corretivos, em muitos âmbitos.

Trata-se de perseguir um uso ético e virtuoso para a tecnologia, direcionada para concretização de direitos fundamentais e não apenas compreendida como lógica (neoliberal) de redução de acervo. Neste caminho, valendo-se do alinhamento entre as técnicas de design de sis-tema de gestão de disputas (DSD) e dos sistemas de online dispute reso-lution (ODR), como já tivemos a oportunidade de alertar44, acreditamos que o sistema brasileiro de justiça civil pode encontrar um caminho capaz de amplificar o acesso à justiça, dentro de uma ótica de gestão adequada de disputas.

Devemos consolidar, por exemplo, ODRs que se preocupem a melho-rar a obtenção dos direitos dos cidadãos, pois como adverte Spaulding:45

Uma vez que entendemos os aspectos neoliberais do status quo e o abandono gradual dos liberais da meta de fornecer advoga-dos aos pobres, há razão para questionar por que os advogados

43 KATSH, op. cit., p.274. 44 NUNES, Dierle; MALONE, Hugo. O uso da tecnologia na prevenção efetiva dos conflitos:

possibilidade de interação entre online dispute resolution, dispute system design e siste-ma público de Justiça. In NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro. Inteligência Artificial e Direito Processual: os impactos da virada tecnológi-ca no direito processual. 2ª ed. Salvador: Editora Juspodivm, 2021.

45 SPAULDING, Norman. Online Dispute Resolution and the End of Adversarial Justice? Stan-ford Law School. p.4.(draft outline 12.29.20)



28

estão sendo culpados, e razão para duvidar que o ODR servirá ao povo que seus defensores dizem se preocupar.[...] IA, miner-ação de dados, análise preditiva e o uso generalizado de disposi-tivos de computação móvel são provavelmente ferramentas ex-celentes para reduzir o custo de tarefas burocráticas e logísticas em grande escala. Eles podem se provar genuinamente transfor-madores. Restam, entretanto, questões sobre como a arquitetura desses sistemas de informação se ajusta às ideias básicas sobre a estrutura do devido processo legal e do Estado de Direito em uma sociedade liberal democrática pluralista. Em última análise, essas são questões sobre a que ODR totalmente automatizado aumentará o acesso, que tipo de justiça e que tipo de sujeito legal é produzido por essa abordagem para a administração da justiça. Quanto mais perguntas fizermos, mais espero que fique claro que, por mais intrincada que seja a logística de transporte de aluguel ou os requisitos de atendimento ao cliente de uma grande empre-sa de leilões online (ebay), eles não são os mesmos implicados na administração de justiça. Em aspectos importantes, as diferenças são diferenças de tipo, não de grau.

Com base nessas premissas, pretendemos, no presente artigo, exa-minar o cenário de virada tecnológica no sistema de justiça brasileiro, apontando números que atestam o atual estágio de implementação de etapas de emprego de tecnologia, a caminho da construção da chamada Justiça Digital.

Num primeiro momento, revelaremos os dados que indicam o nú-mero de processos virtualizados, as iniciativas dos mais diversos tribu-nais, – coordenadas atualmente por meio da plataforma Sinapses do CNJ –, no desenvolvimento de modelos algorítmicos para automatiza-ção de atos / etapas processo, além da experiência de designs tecnoló-gicos arquitetados para dar adequado tratamento a determinados tipos de litígio.

Na sequência, apontaremos como a coleta massiva de dados no sistema de justiça brasileiro, proporcionada pelo avançar das fases de consolidação da Justiça Digital, pode viabilizar uma verdadeira transfor-mação no sistema, permitindo que a terceira fase da virada ganhe robus-tez. Investigaremos como a construção de novos designs tecnológicos, focados na experiência do cidadão e na capacidade de promoção de sua autodeterminação, pode ressignificar a política de prevenção e gestão adequada de conflitos no sistema de justiça nacional.



29

Parte

I •

Pano

rama N

acion

al

Neste caminho, destacaremos como características peculiares do sistema nacional apontam para a necessidade de compreensão específica do cenário de litigiosidade local, de modo a indicar a indispensabilidade de cogitarmos estratégias de transformação adaptáveis ao Brasil e que possam se conformar às diretrizes constitucionais brasileiras.

Por fim, conclamaremos estudiosos, acadêmicos, advogados, magis-trados e demais profissionais da área jurídica a envidarem esforços que possam encaminhar a virada tecnológica no direito processual brasileiro para a persecução de objetivos focados na democratização do acesso à justiça, no questionamento do status quo e na promoção da cidadania. Trata-se de um alerta no sentido de que é necessário trazer novas agen-das à lume: priorizar os direitos fundamentais, a autodeterminação do cidadão e a correção de desigualdades. E não apenas orientar medidas de justiça a partir de diretrizes econômicas. É o que se verá.

2. INVESTIGANDO O CENÁRIO BRASILEIRO: O AVANÇO DA IMPLEMENTAÇÃO DAS ETAPAS DA VIRADA TECNOLÓGICA NO SISTEMA DE JUSTIÇA NACIONAL – DIGITALIZAÇÃO E AUTOMAÇÃO A CAMINHO DA TRANSFORMAÇÃO

Como afirmamos, desde o início dos anos 2000, o Brasil tem vi-venciado alterações estruturais na dinâmica de tramitação dos procedi-mentos em seu sistema público de justiça. Tais transformações começa-ram com a implantação do processo judicial eletrônico (PJe), foram se acentuando nos últimos anos e ganharam força total a partir do cenário de “virtualização” forçada provocado pela pandemia da covid-19. Fala-mos em uma verdadeira virada tecnológica no campo do direito e do direito processual que induz uma transformação não apenas de caráter instrumental, mas que altera a racionalidade do sistema de justiça, dos seus institutos, da atuação de seus agentes e atores. Há de se revisitar os institutos, desde a propedêutica, e as formas como tratamos os conflitos.

Na via de consolidação desta virada, costuma-se dividi-la em três etapas: 1) a virtualização (digitalização) dos procedimentos; 2) a auto-matização de tarefas; 3) a transformação dos modos de ação e trabalho.46

46 NUNES. Virada Tecnológica ..., op. cit.



30

No tocante à primeira etapa em direção à formação de um cenário de Justiça Digital, o Brasil já se encontra em fase bastante avançada.

Segundo dados oficiais do Conselho Nacional de Justiça, durante o ano de 2019, apenas 10% do total de processos novos ingressaram fisica-mente. Ou seja, no acervo de ações novas, 90% dos processos já são ini-ciados eletronicamente. Em apenas um ano, entraram 23 milhões de casos novos eletrônicos. Nem todos esses processos tramitam no PJe, uma vez que a Resolução CNJ nº 185/2013, que instituiu o PJe, abriu a possibilidade de utilização de outro sistema de tramitação eletrônica em caso de aprova-ção de requerimento proposto pelo tribunal local, em plenário47.

A exigência, no caso de autorização, é que os tribunais adotem o Modelo Nacional de Interoperabilidade (MNI). Nos 11 anos cobertos pela série histórica do relatório Justiça em Números do CNJ, foram pro-tocolados, no Poder Judiciário, 131,5 milhões de casos novos em forma-to eletrônico. É notória a curva de crescimento do percentual de casos novos eletrônicos, sendo que no último ano o incremento foi de 5,4 pon-tos percentuais48. Repete-se: o percentual de adesão já atinge 90%, como informa o relatório do Justiça em Números do ano de 202049.

O mesmo relatório ainda aponta a Justiça do trabalho é o segmento do sistema público de justiça brasileiro com maior índice de virtuali-zação dos processos: com 100% dos casos novos eletrônicos no TST e 98,9% nos Tribunais Regionais do Trabalho, sendo 96,8% no 2º grau e 100% no 1º grau e com índices muito semelhantes em todos os Tribunais Regionais do Trabalho. Outros onze tribunais brasileiros se destacam positivamente por terem alcançado 100% de processos eletrônicos nos dois graus de jurisdição. Tratam-se do Tribunal de justiça do Estado do Acre (TJAC), Tribunal de Justiça do Alagoas (TJAL), Tribunal de Jus-tiça do Amazonas (TJAM), Tribunal de Justiça do Mato Grosso do Sul (TJMS), Tribunal de Justiça do Paraná (TJPR), Tribunal de Justiça de Sergipe (TJSE), Tribunal de Justiça de Tocantins (TJTO)50, dentre outros tribunais regionais federais e do trabalho.

47 CONSELHO NACIONAL DE JUSTIÇA. Justiça em números 2020. Brasília: CNJ, 2020, p.112. Disponível em: <https://www.cnj.jus.br/wp-content/uploads/2020/08/WEB-V3-Justiça-em-Números-2020-atualizado-em-25-08-2020.pdf>. Acesso em: 10 fev. 2021.

48 Ibidem, p. 112.49 Ibidem, p. 112.50 Justiça em Números 2020, ibidem, p. 113.


Cap. 1 • SuPREMA CORTE DIgITAL

199

Parte

I •

Pano

rama N

acion

al

1

Suprema Corte digital? Facebook Oversight Board e as novas fronteiras da moderação

do discurso público no ambiente virtual

Isadora Werneck1

Ana Luiza Marques2

Sumário: Introdução. 1. A arquitetura das plataformas de mídia so-cial. 2. A moderação de conteúdo no Facebook e a criação do Comi-tê de Supervisão (FOB). 3. Entendendo o Comitê de Supervisão: 3.1. Composição. 3.2. Competência. 3.3. Jurisdicionados. 3.4. Poderes principais. 4. FOB: legitimidade, transparência e fundamentação decisória: 4.1. Considerações preliminares. 4.2. Legitimidade: 4.2.1. Acesso. 4.2.2. Base normativa. 4.2.3. Publicidade. 4.2.4. Con-trole externo. 4.3. Transparência significativa. 4.4. Decisões fun-damentadas. 4.5. Casos aceitos e já julgados: 4.5.1. Perspectivas futuras – caso Trump. Considerações finais. Referências.

INTRODUÇÃOO ano de 2020 marcou o décimo aniversário da “Primavera Árabe”,

movimento no qual cidadãos do Oriente Médio e do norte da África, com a ajuda da internet e das mídias sociais, reuniram-se para protestar contra a opressão de governos autoritários. Diante da censura praticada pelos autocratas no poder,3 as redes sociais se tornaram o principal canal

1 Mestranda em Direito e Tecnologia pela Queen Mary, University of London, com bolsa de estudos concedida pelo Governo Britânico (Chevening Scholarship). Graduada em Direito pela Universidade Federal de Minas Gerais, com período como pesquisadora convidada na Universidade de Hamburgo, Alemanha (2018). E-mail: [email protected].

2 Mestranda em Direito pela Universidade Federal de Minas Gerais. Membro do grupo de pesquisa PROC: Processualismo Constitucional Democrático e Reformas Processuais. Pes-quisadora bolsista do projeto de pesquisa Governança de conteúdo, constitucionalismo digital e diálogos jurisdicionais, DigitalConst – UFMG Content Governance Research. Ad-vogada. Email: [email protected].

3 Durante muitos anos, os meios de comunicação no Mundo Árabe estiveram sob contro-le estatal. Dessa forma, as plataformas de redes sociais eram a alternativa disponível



200

de comunicação. Os pontos de contato ocorreram em múltiplos planos: troca de mensagens, espaço para mobilização, visibilidade mundial do movimento, denúncia de abusos praticados pela polícia, etc. As manifes-tações reais que se seguiram provocaram a queda de governantes (como os ex-presidentes Zine Al-Abidine Ben Ali, da Tunísia, e Hosni Mubarak, do Egito), guerras civis e outras mudanças geopolíticas, o que reforçou a ideia de que as plataformas utilizadas (majoritariamente o Facebook, o Twitter e, em menor escala, o YouTube) seriam capazes de desempenhar um papel positivo na persecução de mudanças sociais.4

Ocorre que, com o tempo, tais plataformas, controladas por gran-des empresas de tecnologia, as Big Techs,5 e pautadas em discursos fun-dados na liberdade de expressão e no empoderamento dos usuários, conseguiram construir verdadeiros monopólios digitais de capital e informação. Paralelamente, desenharam um modelo cunhado na des-regulação, na privatização e na valorização da liberdade individual,6 aliado a um intenso lobby junto aos governos.7 Além disso, imersas em um oceano de dados e auxiliadas por algoritmos, criaram perfis per-sonalizados de seus usuários dotados de imenso valor para quem

para a reprodução das manifestações que os veículos de comunicação mais tradicio-nais, monitorados e controlados pelo governo, não eram capazes de transmitir. O con-teúdo postado e compartilhado entre as nações árabes e o resto do mundo incluía vídeos, áudios e imagens de pessoas de inúmeras classes, capturadas por telefones celulares e câmeras digitais. Em: PUDDEPHATT, Andrew. As revoluções árabes e a co-municação digital. Tradução de Paula Zimbres. Política Externa, São Paulo, v. 20, n. 1, p. 20, jun/ago. 2011.

4 Veja-se, por exemplo: AL-JENAIBI, Badreya. The Nature of Arab Public Discourse: So-cial Media and the Arab Spring. Journal of Applied Journalism & Media Studies, [s. l.], v. 3, n. 1, ed. 2, p. 241-260, 2015. Disponível em: https://www.researchgate.net/publica-tion/264938731_The_nature_of_Arab_public_discourse_Social_media_and_the_’Arab_Spring’. Acesso em: 10 mar. 2021.

5 As Big Techs compreendem as gigantes companhias que dominam a era digital: Google (Alphabet), Facebook, Amazon, Twitter e Apple, para ficar em alguns exemplos.

6 Sobre os pressupostos neoliberais que permitiram o monopólio alcançado pelas Big Techs ver: BROWN, Wendy. In the ruins of neoliberalism: the rise of antidemocratic politics in the West. New York: Columbia University Press, 2019 e MIROWSKI, Philip. This is Water, or Is It the Neoliberal Thought Collective? Institute for New Economic Thinking, 25.05.2016. Disponível em: <https://www.ineteconomics.org/perspectives/blog/this-is-water-or-is-it--neoliberalism>. Acesso em: 10 mar. 2021.

7 De acordo com análise do The Washington Post, apenas sete gigantes da tecnologia, dentre elas Google, Amazon e Facebook, investiram mais de meio bilhão de dólares em lobby na última década. ROMM, Tony. Tech giants led by Amazon, Facebook and Goo-gle spent nearly half a billion on lobbying over the past decade, new data shows. The Washington Post, 22.01.2020. Disponível em: <https://www.washingtonpost.com/techno-logy/2020/01/22/amazon-facebook-google-lobbying-2019/>. Acesso em: 10 mar. 2021.


Cap. 1 • SuPREMA CORTE DIgITAL?

201

Parte

I •

Pano

rama N

acion

al

desejasse monetizar, controlar, prever e até discriminar8 o comporta-mento de indivíduos ou grupos9.

Esse acúmulo de poder, somado a anos de atuação apartada do Esta-do, majoritariamente em um regime de autorregulação10 privada,11 trou-xe à tona efeitos nefastos dessas plataformas, que vão desde ondas de de-sinformação até a erosão de democracias.12 Dessa forma, se por um lado surgiram como um instrumento de transformação social, a exemplo da Primavera Árabe, por outro, também abriram fronteiras para riscos ad-vindos da sua própria atuação, que se revelou uma ameaça. Em pouco tempo, a prometida liberdade foi, assim, substituída por uma complexa e aprisionadora sociedade de segredos (black box society)13.

8 Sobre o tema, c.f.: SARTOR, GiovanniSARTOR, Giovanni. Human RightsHuman andRights Informationand TechnologiesInformation Technologies. In: BROWNSWORD, Roger; SCO-TFORD, EloiseSCOTFORD, ; YEUNGEloise; KarenYEUNG, (Karen (Eds.). The OxfordThe HandbookOxford ofHandbook Lawof, RegulationLaw, andRegulation and Technology. Oxford: Oxford University Press, 2017. p. 423; e423; MENDESe MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica: conceito, fundamento legal e tipologia. Revista Direito Público, v. 16, n. 90, p. 39–64, 2019.

9 PASQUALE, Frank. A esfera pública automatizada. Revista Líbero, São Paulo, Ano 20, n. 39, p. 18, 2017.

10 “[...] por autorregulação deve-se entender a existência de regras comportamentais desen-volvidas com alguma participação doparticipação própriodo destinatáriopróprio oudes-tinatário exclusivamenteou desenvolvidasexclusivamente pordesenvolvidas elepor ele”. ARANHA, MárcioARANHA, IorioMárcio Iorio. As formas de autorregulação. JOTA, Brasília, 26 de outubro de 2019. Disponível em: <https://www.jota.info/opiniao-e-analise/artigos/as-formas-de-autorregulacao-26102019>. Acesso em: 10 mar. 2021.

11 Diante da inicial ausência de decisão política de intervenção por instrumentos de “hard law”, essas plataformas foram desenhando esquemas de ‘de ‘autorregulação’ por meio da criação de recomendações, princípios gerais e diretrizes éticas (representando o conjunto de ‘soft law’) para o seu desenvolvimento. (POLIDO, Fabrício P. B. Inteligência artificial entre estra-tégias nacionais e a corrida regulatória global: rotas analíticas para uma releitura interna-cionalista e comparada – DOI: 10.12818/P.0304-2340.2020v76p229. Revista da Faculdade de Direito da UFMG, [S.l.], n. 76, p. 229-256, jan. 2020. ISSN 1984-1841. Disponível em: <https://www.direito.ufmg.br/revista/index.php/revista/article/view/2067>. Acesso em: 15 mar. 2020).

12 Não se pode olvidar que o fenômeno de deterioração da democracia é complexo, e abrange uma série de fatores institucionais e não institucionais. No entanto, por mais que as tecnolo-gias não sejam o único fator a ser considerado na análise desta onda de decréscimo da de-mocracia, não se pode ignorar o papel que têm desempenhado, ao menos como ferramenta que respalda e auxilia a atuação de líderes autoritários. Sobre as relações entre as plata-formas de mídias sociais e a erosão democrática ver: VAIDHYANATHAN, Siva. Antisocial Media: How Facebook Disconnects Us And Undermines Democracy. 1ª ed. Oxford University Press, 2018; MOROZOV, Evgeny. Big Tech: a ascensão dos dados e a morte da política. São Paulo: Ubu Editora, 2018; BARTLETT, Jamie. The People Vs Tech: How the internet is killing democracy (and how we save it). New York: Dutton, 2018; e TUFEKCI, Zeynep. The road from Tahrir to Trump. MIT Technology review, vol. 121. n. 05, set/out 2018.

13 Sobre o tema, c.f.: Pasquale, Frank. The black box society: The secret algorithms behind money and information. Cambridge, MA: Harvard University Press, 2016.



202

Nesse contexto, por exemplo, surgiu uma intensa onda de notícias fal-sas (fake news) que deu causa a diversos episódios – como o “Pizzagate”14, que ocorreu durante a eleição presidencial nos Estados Unidos em 2016. O mesmo se deu em outras campanhas, sobretudo envolvendo líderes com tendências autoritárias como Jair Bolsonaro15, Rodrigo Duterte16, o pró-prio Donald Trump17, e até mesmo no Brexit18, sendo o uso disruptivo da internet e a proliferação de notícias falsas com o intuito de desestabilizar

14 O incidente envolveu a então candidata Hillary Clinton e o coordenador de sua campanha, John Podesta, que foram injustamente acusados de comandarem uma rede de pedofilia e tráfico de menores dentro de uma pizzaria em Washington D.C, a Comet Ping Pong. Tudo começou a partir de e-mails vazados pelo site WikiLeaks, nos quais usuários interpretaram a expressão “cheese pizza” como um sinônimo de “child pornography” e rapidamente deram início ao Pizzagate: um boato que afirmava que a Comet Ping Pong servia de fachada para uma rede de tráfico e abuso sexual de crianças comandada por Clinton. Para entender mais: CANOSSA, Carolina. Pizzagate: o escândalo de fake news que abalou a campanha de Hillary. Superinteressante, 2018. Disponível em: https://super.abril.com.br/mundoestranho/pizzaga-te-o-escandalo-de-fake-news-que-abalou-a-campanha-de-hillary/. Acesso em 14 mar. 2021.

15 Conforme apurado pela Folha de São Paulo, entre as principais fake news veiculadas du-rante a campanha presidencial, estão a suposta implementação do “kit gay” por Fernando Haddad, assim como um suposto esquema de fraude nas urnas eletrônicas. Além disso, segundo dados da IDEA Big Data, 98,21% dos eleitores de Jair Bolsonaro foram expos-tos a no mínimo uma das notícias falsas, de modo que 89,77% destes acreditaram que as informações apresentadas eram verdadeiras. (FOLHA S. PAULO. 90% dos eleitores de Bolsonaro acreditaram em fake news, diz estudo. Folha S. Paulo, nov. 2018. Disponível em <https://www1.folha.uol.com.br/poder/2018/11/90-dos-eleitores-de-bolsonaro-acredita-ram-em-fake-news-diz-estudo.shtml>. Acesso em: 10 mar. 2021.).

16 Tal como outros populistas de extrema-direita, Duterte utiliza o termo “fake news” para deslegitimar conteúdo jornalístico que o critique, ou critique seu governo. Em 2016, afir-mou que: “Só porque você é jornalista, não está isento de ser assassinado.” (Ver: LEWIS, Simon. Duterte Says Journalists in the Philippines Are ‘Not Exempted From Assassination‘. Time, [S. l.], p. n.p., 1 jun. 2016. Disponível em: https://time.com/4353279/duterte-philippi-nes-journalists-assassination/. Acesso em: 12 mar. 2021.) Não fosse o bastante, durante a campanha, rejeitado por parcela da mídia tradicional, Duterte “construiu uma forte estru-tura online com a capacidade de criar e distribuir propaganda com uma eficácia nunca vista nas Filipinas, utilizando uma combinação de blogueiros profissionais, seguidores dedicados e “trolls.”. (Em: LERO, Cecilia. Eleições nas Filipinas: Entre as similaridades de Duterte e Bolsonaro, uma lição para o Brasil. Fórum, [S. l.], p. n.p., 8 maio 2019. Disponível em: https://revistaforum.com.br/debates/eleicoes-nas-filipinas-entre-as-similaridades--de-duterte-e-bolsonaro-uma-licao-para-o-brasil/. Acesso em: 12 mar. 2021.)

17 Alcott e Gentzkow, ao examinarem o contexto das eleições dos Estados Unidos, identi-ficaram pelo menos 115 notícias falsas pró-Donald Trump compartilhadas mais de 30 milhões de vezes no Facebook e 41 peças favoráveis à sua concorrente, Hilary Clinton, compartilhadas 7,6 milhões de vezes. Ver: ALCOTT, Hunt; GENTZKOW, Matthew. Social media and fake news in the 2016 Election. Journal of Economic Perspectives, [s.l], v. 31, n. 2, p. 211-236, 2017.

18 Sobre a proliferação de notícias falsas e a saída do Reino Unido da União EuropéiaEuro-peia, ver: PETERS, Michael A. Education in a post-truth world. In: Post-Truth, Fake News. Springer, Singapore, v. 49, n. 6, p. 563-566, 2017.



203

Parte

I •

Pano

rama N

acion

al

instituições, atacar adversários e obter vantagens eleitorais19, um ingre-diente comum a todas elas.20

Relatórios especializados21 também indicaram que governos e or-ganizações privadas se utilizaram do ambiente das plataformas digitais (sobretudo o do Facebook22) como instrumentos de vigilância e moni-toramento, com o objetivo de desacreditar opositores políticos, incitar movimentos e abafar opiniões divergentes. Dos 65 países avaliados em um dos relatórios, 40 apresentaram programas avançados de vigilância de mídias sociais; e em 38 deles, líderes políticos financiaram grupos buscando moldar a opinião pública on-line23.

Outro campo que despertou a atenção foi o do discurso de ódio e conteúdo violento e extremista. Em 2018, o Facebook observou os efei-tos desastrosos do seu comportamento permissivo na plataforma, quan-do esta foi aproveitada pelo exército de Myanmar para a promoção de atos de violência comunitária e linchamento coletivo contra a minoria muçulmana Rohingya.24-25 Mais recentemente, o mundo assistiu atônito

19 SOUZA NETO, Cláudio Pereira de. Democracia em crise no Brasil: valores constitucio-nais, antagonismo político e dinâmica institucional. São Paulo: Editora Contracorrente, 2020, p. 13.

20 Nesse sentido: PAPPALARDO, Massimiliano. Fake news: a new political ingredient?. 2018. Tesi di Laurea (Claudia Padovani), Pádua, 2018. Disponível em: http://tesi.cab.unipd.it/61813/1/Massimiliano_Pappalardo_2018.pdf. Acesso em: 11 mar. 2021.

21 BRADSHAW, Samantha; HOWARD, Philip N. The Global Disinformation Order: 2019 Glo-bal Inventory of Organised Social Media Manipulation. Working Paper 2019.2. Oxford, UK: Project on Computational Propaganda, 2019. Disponível em: https://comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2019/09/CyberTroop-Report19.pdf. Acesso em: 11 mar. 2021 e FREEDOM HOUSEFREEDOM HOUSE. Freedom on the Net 2019 – The crisis of so-cial media, 2019. <https://www.freedomonthenet.org/report/freedom-on-the-net/2019/the-crisis-of-social-media>. Acesso em: 11 mar. 2021.

22 Ver: HANBURY, Mary. Facebook is the most popular social network for governments spre-ading fake news and propaganda. Insider, [S. l.], p. n.p., 21 set. 2019. Disponível em: https://www.businessinsider.com/facebook-disinformation-campaigns-new-oxford-study-2019--9?r=US&IR=T. Acesso em: 11 mar. 2021.

23 FREEDOM HOUSEFREEDOM HOUSE. Freedom on the Net 2019 – The crisis of social me-dia, 2019. <https://www.freedomonthenet.org/report/freedom-on-the-net/2019/the-cri-sis-of-social-media>. Acesso em: 11 mar. 2021.

24 MOZUR, Paul. A Genocide Incited on Facebook, With Posts From Myanmar’s Military. The New York Times, 2018. Disponível em: <https://www.nytimes.com/2018/10/15/technolo-gy/myanmar-facebook-genocide.html>. Acesso em: 12 mar. de 2021.

25 Os ataques ocorreram, em parte, porque o Facebook não adotou medidas para impedir a disseminação do conteúdo de ódio, conforme registrado em um relatório encomendado pela própria companhia. C.f.: BSR, 2018. Human Rights Impact Assessment: Facebook in



204

à invasão e depredação do Capitólio por apoiadores do presidente Do-nald Trump, que incentivou o ato pelo Twitter26.

O que se vê, portanto, é que as mídias sociais, monopolizadas por grandes empresas da área de tecnologia da informação, de mero canal de comunicação, passaram a ser agentes controladores do discurso público, interferindo diretamente no fluxo de informações do ambiente digital. En-quanto moderadoras de conteúdo27, têm o poder de definir, por exemplo, qual notícia ficará disponível, a quem ela será entregue, o que é discurso de ódio (e o que não é), se ele merece ou não permanecer no ar, etc., atuan-do em uma dimensão que antes era restrita aos estados, muitos dos quais prestam contas a seus cidadãos. Tais plataformas, por outro lado, não pos-suem deveres nessa mesma medida, o que despertou discussões sobre as fronteiras dessa moderação de conteúdo feita por elas, a fim de se buscar um panorama normativo adequado à nova realidade e capaz de assegurar uma harmonização dos poderes no ambiente digital28.

Dentro dessa lógica, a política de moderação adotada pelo Facebook,29 especialmente, foi alvo de severas críticas por razões que vão desde o seu

Myanmar. Disponível em: <https://about.fb.com/wp-content/uploads/2018/11/bsr-face-book-myanmar-hria_final.pdf>. Acesso em: 12 mar. de 2021.

26 Horas depois da primeira publicação, a rede adotou uma postura inédita e chegou a sus-pender o perfil do então presidente, sob o argumento de que ele estava utilizando a pla-taforma para incitar atos de violência. O movimento foi seguido por outras plataformas, como o Facebook, Twitter e Instagram, que adotaram a mesma medida. C.f.: https://www.dw.com/pt-br/twitter-bane-conta-de-donald-trump-permanentemente/a-56177474. Acesso em: 12 de março de 2021.

27 A palavra “conteúdo” deve ser interpretada de modo amplo, englobando textos, progra-mas, gráficos, tabelas, fotos, sons, músicas, vídeos, recursos interativos e outros materiais que os usuários possam ver, produzir, acessar ou contribuir.

28 CELESTE, Edoardo. Digital constitutionalism: a new systematic theorisation. International Review of Law, Computers and Technology, v. 33, n. 1, 2019, p. 88.

29 Embora seja o enfoque deste artigo, vale registrar que o Facebook não é a única platafor-ma com políticas de moderação questionáveis. O jornal The Guardian noticiou, em 2019, que comunidades LGBT e mulheres negras experimentaram, comparativamente, redu-ção no alcance de suas publicações sem qualquer notificação pelo Instagram, ou motivo razoável. O aplicativo TikTok, em 2020, também sofreu críticas após denúncias de que havia treinado e instruído os seus próprios moderadores a reduzirem o alcance dos con-teúdos com usuários considerados “pouco atraentes” e que gravassem vídeos em locais “esteticamente prejudicados”. Ver, respectivamente: JOSEPH, Chanté. Instagram’s murky ‘shadow bans’ just serve to censor marginalised communities. The Guardian, Londres, 8 nov. 2019. Disponível em: https://www.theguardian.com/commentisfree/2019/nov/08/instagram-shadow-bans-marginalised-communities-queer-plus-sized-bodies-sexually--suggestive. Acesso em: 13 mar. 2021 e BIDDLE, Sam; RIBEIRO, Paulo Victor; DIAS, Tatiana.



205

Parte

I •

Pano

rama N

acion

al

protagonismo como locus de desinformação,30 até à sua constante recu-sa em moderar conteúdos de cunho político, mesmo aqueles conten-do mensagens violentas.31. Alegou-se, em diferentes ocasiões, falta de transparência,32 prática de “censura colateral”,33 arbitrariedade34 e permis-sividade em relação a discursos de ódio de figuras importantes, etc.

Em resposta, e em meio a uma crescente pressão pública, em no-vembro de 2018, Mark Zuckerberg anunciou um elemento externo e novo ao tradicional sistema de moderação de conteúdo da plataforma: a criação de um Comitê de Supervisão independente do Facebook – Face-book Oversight Board (daqui em diante, FOB),35 um órgão externo, deci-sório e consultivo que ele próprio apresentou como a Suprema Corte do Facebook. Segundo anunciado, o órgão possuiria jurisdição para decidir sobre os conteúdos postados e compartilhados por usuários, além de emitir declarações consultivas sobre a política de Padrão de Comunida-de. Esta foi a resposta ambiciosa (e vista como necessária) para fornecer

TikTok escondeu 'feios' e favelas para atrair novos usuários e censurou posts políticos. The Intercept Brasil. 16 mar. 2020. Disponível em: https://theintercept.com/2020/03/16/tiktok-censurou-rostos-feios-e-favelas-para-atrair-novos-usuarios/https://theintercept.com/2020/03/16/tiktok-censurou-rostos-feios-e-favelas-para-atrair-novos-usuarios/. Acesso em: 13 mar. 2021.

30 O Facebook foi fortemente criticado pelo papel desempenhado na eleição presidencial dos EUA em 2016, por ter permitido a propagação de inúmeras notícias falsas “disfarçadas de notícias” [...]. Ver: FIGUEIRA, Á. FIGUEIRA, Álvaro; OLIVEIRA, Luciana. The current state of fake news: challenges and opportunities. Procedia Computer Science, [s. l.], v. 121, p. 817–825, 2017.

31 FRENKEL, Sheera. Facebook employees stage virtual walkout to protest Trump posts. The New York Times, [S. l.], p. n.p., 1 jun. 2020. Disponível em: https://www.nytimes.com/2020/06/01/technology/facebook-employee-protest-trump.html. Acesso em: 11 mar. 2021.

32 C.f.: MATIAS, Nathan J. Uncovering Algorithms: Looking Inside the Facebook News Feed. MITCTR. FOR CIVIC MEDIA, [s. l.], p. n.p., 2014. Disponível em: https://perma.cc/9GUD-87YT. Acesso em: 16 mar. 2021 e JØRGENSEN, Rikke Frank; ZULETA, Lumi. Private Governance of Freedom of Expression on Social Media Platforms. Nordicom Review, 2020, pp. 51-67.

33 A censura colateral pode ser definida como o silenciamento de agentes privados por ou-tros agentes privados. A propósito: CITRON, Danielle Keats. Extremist Speech, Compelled Conformity, and Censorship Creep. Notre Dame Law Review: 2018. Disponível em: <ht-tps://scholarship.law.nd.edu/cgi/viewcontent.cgi?article=4772&context=ndlr>. Acesso em: 11 mar. 2021.

34 C.f.: BALKIN, Jack M. Free Speech is a Triangle. Columbia Law Review, v. 118, 2019. 35 ZUCKERBERG, Mark. A blueprint for content governance and enforcement. Nov. 15, 2018.

Disponível em: <https://www.facebook.com/notes/mark-zuckerberg/a-blueprint-for-con-tent-governance-and-enforcement/10156443129621634/>. Acesso em: 3 mar. 2021.



206

a “transparência e [a] justiça adicionais” ao Facebook36 na sua atuação como tomador de decisões sensíveis e de interesse público, ou seja, como moderador de discurso.

A medida, certamente inovadora no contexto da governança da internet, provocou inúmeros questionamentos. Com base em quais pa-drões o FOB deve agir para construir e manter sua independência e le-gitimidade? Existem limites para as suas ações relativas à moderação do conteúdo on-line? De que forma usuários e terceiros poderão participar do processo decisório de moderação? Qual será o arcabouço normativo que este “tribunal” se baseará? Pretendendo contribuir com tal debate, e buscando analisar criticamente essas e outras questões, este artigo tem como objetivo examinar o FOB e as suas implicações para a moderação do discurso nas plataformas digitais37.

Para tanto, primeiro analisaremos o design das plataformas de mídia social e como esse aspecto contribui para a moderação de conteúdo. Em segundo lugar, discutiremos como a moderação de conteúdo sempre foi aplicada pelo Facebook, e quais são as mudanças advindas da criação do novo Comitê. Com isso, analisaremos os desafios específicos da sua im-plementação e, finalmente, identificaremos alguns dos próximos passos que o Facebook e o FOB devem dar para moderar o conteúdo em con-formidade com o direito fundamental de liberdade de expressão.

1. A ARQUITETURA DAS PLATAFORMAS DE MÍDIA SOCIAL

Antes de tratarmos das peculiaridades do sistema de moderação de conteúdo do Facebook, é preciso que examinemos, primeiro, a arquite-tura das redes sociais. Essa introdução é necessária pois, como todas as atividades dessas plataformas – incluindo a moderação de conteúdo – são programadas para maximizar as receitas da plataforma, é impossível

36 DARMÉ, Zoe Mentel; et al. Global Feedback & Input on the Facebook Oversight Board for Con-tent Decisions. Facebook. Jun. 27, 2019. Disponível em: <https://fbnewsroomus.files.wordpress.com/2019/06/oversight-board-consultation-report-1.pdf>. Acesso em: 3 mar. 2021, p. 7.

37 “As plataformas digitais são sistemas tecnológicos que funcionam como mediadores ati-vos de interações, comunicações e transações entre indivíduos e organizações operando sobre uma base tecnológica digital conectada, especialmente no âmbito da Internet, pro-vendo serviços calcados nessas conexões, fortemente lastreados na coleta e processa-mento de dados e marcados por efeitos de rede”. VALENTE, Jonas. Tecnologia, informação e poder: das plataformas online aos monopólios digitais. Tese (Doutorado em Sociologia). Universidade de Brasília, Brasília, 2019, p. 170.



207

Parte

I •

Pano

rama N

acion

al

dissociar a moderação dos objetivos econômicos dessas grandes empre-sas. Nesse sentido, considerando que as estratégias de controle do dis-curso público das plataformas sempre vão depender dos modelos de ne-gócio em jogo,38 tais dimensões devem ser analisadas em conjunto.

O primeiro passo, portanto, é compreender a receita dessas plata-formas. De onde ela vem? O Facebook e outras mídias sociais se apre-sentam como plataformas gratuitas – os usuários não pagam nada para se inscreverem e utilizarem os serviços disponibilizados. Ocorre que a máxima do marketing: “se é de graça, você é o produto”, se aplica com perfeição ao seu modelo de negócio. Ao propagarem essa falsa sensação de gratuidade, tais plataformas, na verdade, se fundam nos dados produ-zidos por seus usuários, o big data39, para lucrar40. Em última instância, baseiam-se na acumulação, tratamento e comercialização desses dados para extraírem padrões, realizarem previsões e, ainda, modificarem ou induzirem o comportamento dos indivíduos, incrementando as vendas dos anunciantes e, consequentemente, aumentando o próprio lucro.41

38 BALKIN, Jack M. The First Amendment in the Second Gilded Age. Buffalo Law Review, v. 66, n. 5, 2018, p. 988.

39 O termo big data foi inicialmente cunhado para tratar do crescimento exponencial dos dados produzidos em uma sociedade digital, em um volume inicialmente inacessível aos processadores e sistemas tradicionais. Hoje, contudo, já existem ferramentas capazes de realizar o armazenamento, análise e tratamento destas informações. Assim, o big data pode ser melhor definido como a possibilidade de se extrair padrões e/ou realizar pre-dições, a partir de uma grande quantidade de dados, para modificar mercados, organi-zações e a própria relação entre os cidadãos e o poder político. MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big Data. 2. ed. Boston/Nova York, 2014, p. 10 (eBook).

40 O modelo de negócios da plataforma se encontra expresso nos Termos de Serviço (dispo-nível em: <https://www.facebook.com/legal/terms> em que consta: “Não cobramos pelo uso do Facebook ou de outros produtos e serviços cobertos por estes Termos. Em vez disso, empresas e organizações nos pagam para lhe mostrar anúncios de seus produtos e serviços. Quando você usa nossos Produtos, concorda que podemos mostrar anúncios que consideramos relevantes para você e seus interesses. Usamos seus dados pessoais para ajudar a determinar quais anúncios mostrar.”

41 Isso é o que Shoshana Zuboff denomina de “capitalismo de vigilância”, definido como “1. Uma nova ordem econômica que reivindica a experiência humana como um material bruto para práticas comerciais ocultas e extração, predição e vendas; 2. Uma lógica eco-nômica parasitária, em que a produção de bens e serviços é subordinada à nova arqui-tetura global de modificação de comportamentos; 3. Uma mutação do capitalismo mar-cada pela concentração de riqueza, conhecimento e poder sem precedentes na história da humanidade; 4. A estrutura fundacional de uma economia de vigilância; 5. Um perigo significante para a natureza humana no século XXI, assim como o capitalismo industrial foi para a natureza, nos séculos XIX e XX; 6. A origem de um novo poder instrumental que afirma a sua dominância sobre a sociedade e apresenta alarmantes desafios para a demo-cracia de mercado; 7. Um movimento que visa impor uma nova ordem coletiva baseada



208

Nessa linha, quanto mais dados a plataforma conseguir captar, mais atraente ela será, sobretudo para os seus anunciantes, pois, mais eficiente será o alcance da publicidade veiculada. Isso se reflete no próprio design e no uso das interfaces de programação de aplicações (APIs),42 que prio-rizam o engajamento do usuário em detrimento do conteúdo das infor-mações a ele exibidas. Ou seja, se são mensagens extremistas, de ódio ou que contenham desinformação, mas que fazem com que os usuários permaneçam mais tempo nas redes, é esse tipo de conteúdo que será selecionado pelo algoritmo, não tendo grande relevo os efeitos para a saúde dos usuários ou para a democracia.43

Esta estrutura, inicialmente concebida para lidar com interesses co-merciais e aumentar a eficiência do marketing realizado, pode, facilmen-te, ser utilizada para atingir também objetivos políticos.44 Por exemplo, pesquisa recente da New York University demonstra que páginas de par-tidos políticos que regularmente propagaram conteúdo de desinforma-ção, receberam mais acessos, e geraram mais engajamento, nas eleições presidenciais dos EUA de 2020 e na invasão do Capitólio45.

na certeza total; 8. Uma expropriação de direitos humanos críticos que pode ser melhor compreendida como um ‘golpe que vem de cima’: a derrubada da soberania popular (ZU-BOFF, 2019a,p. 8) (tradução livre)”. ZUBOFF, Shoshana. Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: Public Affairs, 2019.

42 API é um acrônimo em inglês que significa interface de programação de aplicações. Como ressaltado pelo pesquisador Jonathan Albright, as primeiras versões do API do Facebook (Facebook Graph API’s v1.0) permitiam que os aplicativos conectados à plataforma soli-citassem um enorme volume de dados dos usuários e dos amigos dos usuários com um único prompt, sem muita dificuldade. Uma vez autorizado com esse único prompt, o apli-cativo poderia permanecer coletando e processando os dados das pessoas – e de toda a sua rede de amigos – por anos. Além disso, também poderiam solicitar acesso às mensa-gens privadas dos usuários no Messenger. Ver: ALBRIGHT, Jonathan. The Graph API: Key Points in the Facebook and Cambridge Analytica Debacle. Town Center, [S. l.], n.p., 20 mar. 2018. Disponível em: https://medium.com/tow-center/the-graph-api-key-points-in-the--facebook-and-cambridge-analytica-debacle-b69fe692d747. Acesso em: 15 mar. 2021.

43 Apesar de ciente relação entre mensagens melancólicas e o suicídio dos usuários, o Fa-cebook optou por não alterar o seu algoritmo e evitar a exibição desse tipo de conteúdo, pois impactaria negativamente em seu engajamento. HAO, Karen. How Facebook got addicted to spreading misinformation. MIT Technology Review, 11 de março de 2021. Dis-ponível em: <https://www.technologyreview.com/2021/03/11/1020600/facebook-respon-sible-ai-misinformation/amp/?utm_medium=tr_social&utm_campaign=site_visitor.unpaid.engagement&utm_source=Twitter&__twitter_impression=true>. Acesso em: 12 mar. 2021.

44 EMPOLI, Giuliano da. Os engenheiros do caos. trad. Arnaldo Bloch. 1ª ed. São Paulo, Vestí-gio, 2020, p. 155.

45 EDELSON, Laura; GOLDSTEIN, Ian et. al.. Far-right news sources on Facebook more en-gaging: Unlike other news across the political spectrum, no “misinformation penalty” for



209

Parte

I •

Pano

rama N

acion

al

Assim, a própria arquitetura dessas plataformas é pautada em uma “indiferença” em relação ao conteúdo das mensagens expostas.46-47 Den-tro do jogo de forças, para o seu modelo de negócio, importa o que é ren-tável e contribui para o crescimento da empresa: em síntese, o volume, a variedade e a extensão dos dados gerados.48

Considerando que moderação do conteúdo emerge desse cenário, não por acaso ela se revelou insuficiente em diversas ocasiões. Como o modelo de negócios de plataformas como o Facebook liga-se a um siste-ma de vigilância pervasiva49 que depende do fluxo de dados gerado pelos

far-right pages. Cybersecurity for Democracy, [s. l.], 3 mar. 2021. Disponível em: https://medium.com/cybersecurity-for-democracy/far-right-news-sources-on-facebook-more--engaging-e04a01efae90. Acesso em: 12 mar. 2021.

46 Aqui, vale uma ressalva feita em relação aos atores das mensagens. Como se sabe, essa indiferença, é, também, fruto de uma escolha. Recentes episódios comprovam que o Fa-cebook atua de modo seletivo a depender de quem transmite e propaga a mensagem – como é o caso, por exemplo, de figuras políticas importantes. Há exemplos envolvendo o presidente Bolsonaro e também o ex-presidente Donald Trump. A propósito: ARCHEGAS, João Victor. Admirável 2020 Novo: banimento de Trump de redes sociais e moderação de conteúdo: Os primeiros dias de 2021 demonstraram que ainda é preciso lidar com diver-sos desafios apresentados em 2020. Jota, [S. l.], n.p., 13 jan. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/admiravel-2020-novo-banimento-de-trump-de--redes-sociais-e-moderacao-de-conteudo-13012021. Acesso em: 19 mar. 2021.

47 Um dos efeitos da indiferença radical é a exposição dos usuários a conteúdos que “nor-malmente seriam vistos como repugnantes: mentiras, desinformação sistemática, fraude, violência, discurso de ódio e mais” e que costumam ser filtrados no trabalho jornalístico. A propósito: ZUBOFF, Shoshana. Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: Public Affairs, 2019. Em sentido semelhante, Giulia-no da Empoli fala da forma como a indiferença das redes sociais pode afetar negativamente o jogo democrático, por se pautar exclusivamente no engajamento. EMPOLI, Giuliano da. Os engenheiros do caos. trad. Arnaldo Bloch. 1ª ed. São Paulo, Vestígio, 2020, p. 20-21.

48 Karen Hao mostra, por exemplo, que o Facebook tinha ciência de que seu modelo de ne-gócio favorece o extremismo e a polarização ao menos desde 2016 e que iniciativas para resolução da questão que ensejam uma redução do engajamento dos usuários, como a alteração de seu algoritmo de exibição do feed de notícias, são, desde o início rechaça-das e não recebem incentivos, por mais que se mostrem efetivas para a resolução do problema de disseminação de conteúdos inaceitáveis. HAO, Karen. How Facebook got addicted to spreading misinformation. MIT Technology Review, 11 de março de 2021. Disponível em: <https://www.technologyreview.com/2021/03/11/1020600/facebook-res-ponsible-ai-misinformation/amp/?utm_medium=tr_social&utm_campaign=site_visitor.unpaid.engagement&utm_source=Twitter&__twitter_impression=true>. Acesso em 12 de março de 2021.

49 C.f.: AMNESTY INTERNATIONAL. Surveillance giants: how the business model of Google and Facebook threatens Human Rights. London: Amnesty International Ltd / Peter Beren-son House, 2019 e TUFEKCI, Zeynep. Facebook’s Surveillance Machine. The New York Ti-mes. New York. Disponível em: <https://www.nytimes.com/2018/03/19/opinion/facebook--cambridge-analytica.html>. Acesso em: 16 mar. 2021.



210

exércitos digitais das mais variadas ideologias50, elas não querem, ou não desejam, “para não deixar de ganhar (tanto) dinheiro – correr o risco de perder seus militantes mais fiéis”51 e, com isso, falham em moderar o discurso de forma adequada.

E o problema não termina aí. Como consequência, as mídias sociais mantêm um alto grau de obscuridade em relação às suas decisões de mo-deração de conteúdo, o que possibilita uma atuação mais arbitrária e, em última instância, facilita o acesso e a distribuição de conteúdo impróprio ou abusivo capaz de gerar engajamento. Assim, salvo em casos de grande repercussão negativa e intensa repercussão pública e que ameacem a sua reputação, essas grandes empresas preferem não se posicionar, resguar-dando-se sob o mantra da (falsa) neutralidade de conteúdo.

Evidentemente, este aspecto deve ser considerado ao se pensar em uma solução efetiva para a disseminação de notícias falsas, desinforma-ção e discurso de ódio on-line. Afinal, tais plataformas, por serem em-presas privadas, não encaram a moderação “apenas como um imperativo de manutenção da democracia, mas também como um risco aos seus negócios”.52

Por esses motivos, ganham relevo propostas que descentralizem das empresas o poder de exclusão de conteúdo. Nesse sentido, a cria-ção do Comitê de Supervisão parece ser oportuna do ponto de vista da legitimidade do modelo, já que não seria mais o Facebook, plataforma motivada por interesses econômicos, detentora da última palavra quan-to aos conflitos de liberdade de expressão em jogo entre seus usuários.

50 SALGADO, Eneida Desiree; ARCHEGAS, João Victor. Constitucionalismo digital: Empresas que dependem dos dados de seus usuários, da venda de anúncios e de propaganda elei-toral não podem correr o risco de perder seus militantes mais fiéis. Plural, Curitiba, n.p., 31 out. 2020. Disponível em: https://www.plural.jor.br/artigos/constitucionalismo-digital/. Acesso em: 12 mar. 2021.

51 SALGADO, Eneida Desiree; ARCHEGAS, João Victor. Constitucionalismo digital: Empresas que dependem dos dados de seus usuários, da venda de anúncios e de propaganda elei-toral não podem correr o risco de perder seus militantes mais fiéis. Plural, Curitiba, n.p., 31 out. 2020. Disponível em: https://www.plural.jor.br/artigos/constitucionalismo-digital/. Acesso em: 12 mar. 2021.

52 ARCHEGAS, João Victor. Admirável 2020 Novo: banimento de Trump de redes sociais e moderação de conteúdo. Os primeiros dias de 2021 demonstraram que ainda é preci-so lidar com diversos desafios apresentados em 2020, Jota, n.p., 13 jan. 2021. Disponível em: https://www.jota.info/opiniao-e-analise/artigos/admiravel-2020-novo-banimento-de--trump-de-redes-sociais-e-moderacao-de-conteudo-13012021. Acesso em: 12 mar. 2021.


Cap. 1 • A “ATuAçãO JuDICIAL AuTOMATIzADA” EM ExAME

535

Parte

2 •

Pano

rama I

nterna

ciona

l

1

A “atuação judicial automatizada” em exame: juiz robô versus juiz humano

Nuria Belloso Martín1

Tradutores: Giovani Pontes Teodoro2 e João Victor Assunção3

Escaneie o código QR para acessar a versão traduzida deste artigo.

Scan the QR Code for the English version of this paper.

Sumário: 1. Introdução. 2. Os controversos usos da inteligência artificial nos sistemas judiciais. 3. A atividade de julgar: a decisão judicial robótica versus a decisão judicial humana: 3.1. O modelo ideal de juiz e a difícil tarefa de julgar. 3.2. A tarefa de julgar: o juiz robô versus o juiz humano: 3.2.1. A decisão judicial robótica. 3.2.2. A decisão judicial humana. 4. Viabilidade da “atuação judicial au-tomatizada”: é possível um juiz robô?. 5. Conclusões. Bibliografia. Relatórios. Jurisprudência.

1 Professora Catedrática de Filosofia do Direito da Universidade de Burgos (Espanha).2 Bacharel e mestrando em Direito pela UFMG. Advogado na DAJ/UFMG. Agradeço a indis-

pensável e valiosa revisão à tradução feita por Fernanda Alves de Carvalho, amiga na DAJ e no Mestrado.

3 Graduando em Direito pela Universidade Federal de Minas Gerais. Estagiário no escritório Eugênio Pacelli Advocacia e Consultoria. Editor Executivo da Revista do Instituto de Ciên-cias Penais.



536

1. INTRODUÇÃO

Existem diversos estudos sobre os usos da inteligência artificial (do-ravante IA) em diferentes áreas (trabalhista, sanitária, transportes, in-dustrial, agrária, militar, entre outras). No entanto, o campo do Direito, e especialmente o da Administração da Justiça, embora não tenha sido marcado por estar na vanguarda dos avanços tecnológicos, não perma-neceu alheio a eles. Nos últimos anos foi empreendida uma moderni-zação significativa da Administração da Justiça, conforme evidenciado pelo desenvolvimento e implementação do LexNET como uma plata-forma de administração eletrônica a ela relacionada. Contudo, o uso da IA no âmbito judicial implica uma atuação muito além da gestão docu-mental ou das bases de dados. Aliás, é abundante a literatura que discute, ainda que como mera possibilidade teórica, a aplicação automatizada do Direito (tomada de decisões judiciais), inclusive chegando à ideia de um “juiz artificial”. Isso requer refletir sobre a possibilidade de que, no futu-ro, os processos de aplicação do Direito possam ser (quase) totalmente automáticos, através de um “juiz robô”, questão central que abordarei neste estudo (MARTÍNEZ ZORRILLA, 2019).

Ao longo da história do pensamento jurídico, foi possível verificar a complexidade envolvida na tarefa de julgar. A interpretação dos fatos e das normas aplicáveis realizada pelos juízes em sua atividade jurisdicio-nal exige um conjunto de conhecimentos, operações e ponderações que põe à prova a inteligência humana. Não cabe definir a função de julgar como a aplicação de um mero silogismo. Taruffo adverte que geralmente se parte de uma primeira falsa premissa segundo a qual os juízes, no âm-bito da decisão, recorrem ao silogismo judicial. Ele ressalta que nenhum juiz jamais raciocinou por silogismos e que nenhuma motivação pode realmente ser reduzida a um silogismo ou a uma cadeia de silogismos. Questiona-se que o bom juiz seja uma “máquina de silogismos”, carente de discricionariedade e, portanto, de criatividade, modelo que nos fa-ria retroceder à descrição que Montesquieu fez da magistratura: como a boca que apenas pronuncia as palavras da lei.

Além da dificuldade intrínseca à interpretação das normas, a inter-pretação dos fatos também não é uma questão pacífica. O fato em si foi produzido em momento pretérito ao início do processo judicial, de modo que aquilo que integrará o processo não é o fato propriamente dito, mas somente a sua narração. Cada sujeito (partes, testemunhas,



537

Parte

2 •

Pano

rama I

nterna

ciona

l

operadores do direito), partindo de seus respectivos pontos de vista e da finalidade pretendida, dará lugar a distintas narrativas. Essas narrati-vas judiciais serão o resultado de diferentes perspectivas, não sendo pré--constituídas ao processo, mas que vão sendo conhecidas à medida que ele se desenvolve. O recurso às noções de senso comum e às máximas da experiência ajuda a conduzir a construção das narrativas, em espe-cial das judiciais, em função do contexto e dos critérios do homem mé-dio. Pode ocorrer o problema apresentado por N. Taleb do “cisne negro”, ou seja, aquela situação em que se verifica o absolutamente improvável, embora o usual seja o “cisne branco”. Neste caso, a construção de uma narrativa judicial seria difícil, pois teria que conferir credibilidade a uma narrativa diferente daquela presente no senso comum e nas máximas da experiência (TARUFFO, 2020, p. 165 e 169-170).

O modelo de juiz Hércules, proposto por Dworkin, talvez poderia ter enfrentado toda a complexidade que implica a tarefa de julgar, indo além do que preceituam as normas, e lidado com princípios, valores, ponde-rações, lacunas jurídicas, conceitos jurídicos indeterminados (NUNES, 2021). Poderia também ter tratado da relação entre Direito e moral, da consciência judicial (RODRÍGUEZ LLAMOSÍ, 2021) e, por fim, do crité-rio de justiça, o iustum, que poderia ter sido alcançado pelo juiz Hércules. Mas um juiz humano deve enfrentar, todos os dias, “casos difíceis” – como apontado por Herbert Hart – sem renunciar às suas emoções – sem senti-mentalismo (GONZÁLEZ LAGIER, 2021). A aplicação da IA aos sistemas judiciais e, principalmente, à decisão judicial, obriga a colocar em contras-te a atuação de um juiz robô e a de um juiz humano.

Quando se sugere a implementação da IA no processo judicial, seja pelos jurisdicionados, advogados e sujeitos que intervêm no processo, seja pelos magistrados (NIEVA FENOLL, 2018), indaga-se: “qual será o valor do trabalho desenvolvido pela IA? Isso facilitará minha atuação? E, se assim for, como?”. Neste estudo não se examinará a aplicação da inteligência artificial no Direito (PINTO FONTANILLO, 2020; PEGUE-RA POCH et. al., 2020), tampouco as ferramentas de análise preditiva já conhecidas (ROSS Intelligence, iManage RAVN, eBrevia, LawGeex, Le-galtech, Vlex Analyticis, Jurimetría y Tirant Analytics, entre outras) que trabalham com a padronização de sentenças e condenações (SOLAR CAYÓN, 2019; PERALTA GUTÍERREZ et. al., 2020) e que têm per-mitido aos advogados desenhar suas estratégias (tanto de defesa como de ataque) e prever suas possibilidades de êxito. Também não serão



538

examinados os programas já em uso em alguns tribunais (“Equivant--Compas” nos Estados Unidos, “Prometea” na Argentina, “Victor” e “Só-crates” no Brasil, “VIOGEN” na Espanha, para casos de violência de gê-nero), que sem dúvida simplificam a tramitação dos procedimentos para a administração judiciária, dos quais já tratei em trabalhos anteriores (BELLOSO MARTÍN, 2019; BELLOSO MARTÍN, 2021).

Neste estudo, examinarei apenas um dos campos de utilização da IA no processo judicial: a decisão judicial. Para tanto, tomarei como pon-to de partida os usos da IA nos sistemas judiciais, focando somente no campo acima mencionado, que é classificado como de risco. A análise da decisão judicial exigirá o exame tanto das dimensões do julgamento quanto das atividades realizadas pelo juiz para proferir tal decisão. Isso permitirá a adequada comparação entre a decisão judicial robótica (tam-bém denominada de decisão automatizada) e a decisão judicial huma-na4, a fim de analisar a viabilidade dessa justiça automatizada.

2. OS CONTROVERSOS USOS DA INTELIGÊNCIA ARTIFICIAL NOS SISTEMAS JUDICIAIS

A digitalização da justiça faz parte das estratégias da União Europeia para os próximos anos. A Comissão Europeia, através de uma proposta de regulamento do Parlamento Europeu e do Conselho da Europa, esta-beleceu o programa “Europa Digital 2021-2027”. Tal programa abrange cinco objetivos específicos: uma maior digitalização dos sistemas judi-ciais dos Estados-Membros pode melhorar o acesso à justiça dos cida-dãos e das empresas, assim como aumentar a eficácia e a eficiência dos procedimentos judiciais. Alguns países da UE já começaram a utilizar ferramentas digitais no âmbito judiciário, por exemplo: realização de procedimentos judiciais digitais, comunicação eletrônica entre as partes, transmissão eletrônica de documentos, realização de audiências e confe-rências on-line. Os Estados-Membros devem conferir um uso mais gene-ralizado às ferramentas digitais nos processos judiciais, sempre que não se comprometam princípios fundamentais como a independência e a imparcialidade dos tribunais. Embora essa digitalização seja plenamente

4 Não serão analisadas, aqui, as diferenças entre inteligência artificial e robótica (que não são sinônimos). Para os fins deste trabalho, serão consideradas assimiláveis.



539

Parte

2 •

Pano

rama I

nterna

ciona

l

aceita, a implementação da IA nos sistemas judiciais gera maiores dúvi-das, que é o tema central deste trabalho.

Em 2020, produziu-se um amplo material relacionado à inteligência artificial no âmbito da União Europeia, abrangendo desde Relatórios a Recomendações e legislação, nos quais se alerta para os perigos da toma-da de decisões automatizadas (OLIVA LEÓN, 2021):

– Em 5 de fevereiro de 2020, foi publicada, nos Países Baixos, a pri-meira sentença no mundo em que foi declarado ilegal o uso de um algoritmo de inteligência artificial projetado para combater frau-des à previdência social. O tribunal distrital de Haia (Rechtbank Den Haag) prolatou sentença que estabelece que um sistema al-gorítmico utilizado pelo Governo dos Países Baixos para avaliar o risco de fraude à previdência social ou à Fazenda Pública não cum-pre os requisitos de proporcionalidade e transparência necessários e viola as disposições sobre o respeito à vida privada reconhecidas no artigo 8.º da Convenção Europeia de Direitos Humanos.

– Em 12 de fevereiro de 2020, o Parlamento Europeu aprovou a Re-solução “Artificial intelligence: MEPs want to ensure a fair and safe use for consumers. Press Releases. Plenary”, pela qual se estabelece a necessidade de garantir a proteção dos consumidores diante de uma inteligência artificial (e a tomada de decisões automatizadas) que não seja justa e segura.

– Em 19 de fevereiro de 2020, a Comissão Europeia publicou seu “Livro Branco sobre Inteligência Artificial” (White Paper on Ar-tificial Intelligence – A European approach to excellence and trust. Brussels, European Commission. 19.2.2020 COM), destinado a fo-mentar um ambiente europeu de excelência e confiança na inte-ligência artificial, e que também analisou aspectos relacionados à segurança e à responsabilidade. Esse Livro Branco coleta as in-terrelações existentes para alcançar uma IA confiável5, ao mesmo

5 Para garantir uma IA confiável na prática: dever-se-á contar com dados de treinamento suficientemente amplos e representativos; conservar os registros e dados utilizados; for-necer informações sobre as capacidades e limitações do sistema de IA; assegurar solidez e exatidão que garantam a reprodutibilidade dos resultados; e contar com a supervisão humana necessária para assegurar a efetividade do resultado do sistema de IA.



540

tempo que aponta, como um dos pontos críticos do ordenamento jurídico, e como um dos usos críticos, os efeitos jurídicos.

– Em 7 de julho de 2020, foi publicado o Relatório “Inteligência Ar-tificial nos serviços públicos”, elaborado pelo AI Watch – o setor da Comissão Europeia para monitorar o desenvolvimento, a adoção e o impacto da IA na Europa – que revela o crescente interesse no uso da inteligência artificial por parte dos governos para redese-nhar os processos de governança e os mecanismos de formulação de políticas, bem como para melhorar a prestação de serviços pú-blicos. As duas tipologias que aparecem com maior frequência no mapeamento são a interação em tempo real com os usuários da Administração Pública (23%) para a prestação de suporte on-line através de chatbots, agentes virtuais e sistemas de recomendação; e a exploração dos dados disponíveis através de ferramentas de visualização, simulação e previsão (16%). Os serviços públicos prioritários, pontuados de 1 a 5, para os Estados-Membros – nos quais podem ser empregadas tecnologias como a IA – são a saúde, seguida da educação, segurança e ordem pública, proteção e de-fesa do meio ambiente e agricultura e transportes. Tal estudo não contempla a Administração da justiça, mas é uma das esferas da Administração Pública que pode ser mais afetada tanto pela digi-talização quanto pela implementação da IA.

O uso da inteligência artificial nos sistemas judiciais tem sido objeto de estudo pela Comissão Europeia para a Eficiência da Justiça (CEPEJ)6 que, em dezembro de 2018, adotou a “Carta Ética Europeia sobre o Uso da Inteligência Artificial nos Sistemas Judiciais e seu ambiente” (Euro-pean Ethical Charter on the Use of Artificial Intelligence in Judicial Sys-tems and their environment) (BIURRUN ABAD, 2018, p. 22)7. Em tal Carta são incluídos três tipos de possíveis usos da IA no âmbito da Justi-ça, classificados segundo o possível risco derivado de sua utilização, ad-vertindo que, junto aos “usos que devem ser fomentados” (busca de juris-prudência, acesso à legislação, criação de ferramentas estratégicas) e de “possíveis usos, que requerem consideráveis precauções metodológicas”

6 A CEPEJ reúne especialistas dos 47 Estados-Membros do Conselho da Europa com o obje-tivo de melhorar a qualidade e a eficiência dos sistemas judiciais europeus e fortalecer a confiança dos usuários dos tribunais em tais sistemas.

7 Disponível em: <https://rm.coe.int/ethical-charter-en-for...4.../16808f699c>.



541

Parte

2 •

Pano

rama I

nterna

ciona

l

(ajuda na elaboração de cálculos em determinados litígios civis, resolu-ção de disputas on-line), há outros “usos que podem ser considerados após a realização estudos científicos adicionais” (“perfil dos juízes” e “an-tecipação das decisões judiciais”). É neste último uso, o da antecipação das decisões judiciais, que se concentrarão as reflexões no momento de sopesar a decisão judicial robótica em face daquela desenvolvida por um ser humano.

A implementação da IA, tanto na Administração da justiça como na teoria da decisão judicial, ainda que em princípio pareça promover a desejada certeza e segurança jurídica, paradoxalmente, provoca o apare-cimento de novos riscos e perigos:

– Perigo de que se considere que as eficiências da inteligência artifi-cial sejam a solução aos habituais cortes orçamentários na Admi-nistração da Justiça, e se justifique seu uso por razões puramente econômicas, sem avaliar adequadamente sua conveniência;

– Risco de uma excessiva padronização das decisões judiciais com a consequente “uniformidade” das sentenças, até o ponto em que os juízes sejam compelidos a um padrão majoritário sem questionar a idoneidade de tal padrão. Por sua vez, essa padronização levaria a uma motivação mais superficial. Um juiz pode se sentir tentado a seguir, sem se questionar com profundidade, a linha aberta por outros colegas e não a ir na contramão, convertendo-se no coro-lário do conformismo; ou também porque será mais trabalhosa a constante adaptação da jurisprudência à realidade social e levar a efeito mudanças jurisprudenciais. Essa mesma situação de aco-modação também poderia ser verificada nos advogados, uma vez que será mais complexo inovar e buscar uma solução alternativa àquela geralmente seguida.

Surgem, assim, vários questionamentos sobre esse sistema de ex-cessiva padronização: o juiz seria questionado caso se desviasse de suas decisões habituais, de acordo com o seu histórico de sentenças? O juiz que se afasta da decisão comum padronizada deveria dar explicações adicionais para justificar essa mudança de critério em relação à maioria?;

– Risco de que a jurisprudência acabe tendo um papel mais protago-nista em detrimento do legislador, que possui maior legitimidade. Por outro lado, o peso dos precedentes em um sistema como o


DIREITO PROCESSUAL e tecnologia

Documents

Transcript of DIREITO PROCESSUAL e tecnologia