Especialistas alertam para riscos criados pela IA no Judiciário em seminário da Folha

A digitalização dos processos e o uso de inteligência artificial podem ampliar o acesso à Justiça, mas também levar à repetição de vieses e padrões de decisões antigas, tornar menos transparente a triagem de processos e aumentar a desigualdade entre as partes, afirmaram especialistas reunidos pela Folha nesta segunda-feira (24).

A avaliação foi feita durante o terceiro e último painel do ciclo de seminários “O Judiciário em Debate: Integridade, Eficiência e Acesso à Justiça”, promovido pela Folha em parceria com a OAB-SP (seção paulista da Ordem dos Advogados do Brasil), com apoio da AASP – Associação dos Advogados de São Paulo.

Tainá Aguiar Junquilho, professora de tecnologia, inovação e direito no IDP, observou que a inteligência artificial não cria os problemas do sistema de Justiça, mas pode revelá-los e reforçá-los. Entre os riscos, citou vieses discriminatórios, opacidade dos sistemas e dependência de empresas estrangeiras.

Segundo a pesquisadora, sistemas alimentados por decisões e dados anteriores podem reproduzir padrões em vez de revisá-los, o que amplia a preocupação com a repetição de distorções em escala.

Junquilho disse também que a pressão por produtividade pode colocar em segundo plano o direito a contraditório, a paridade de armas entre as partes e a qualidade das decisões.

As regras do CNJ (Conselho Nacional de Justiça) para o uso de IA no Judiciário já preveem medidas para prevenir vieses discriminatórios, além de auditoria, monitoramento e supervisão humana dos sistemas.

Nos últimos meses, tribunais identificaram petições com comandos ocultos destinados a influenciar ferramentas de IA usadas na análise de processos. Casos foram registrados no Superior Tribunal de Justiça (STJ), no Tribunal de Justiça de São Paulo e no Tribunal Regional do Trabalho (TRT) da 8ª Região, o que levou o CNJ a aprovar um protocolo específico para barrar esse tipo de manipulação.

Levantamento do CNJ noticiado pela Folha em junho encontrou em 31 tribunais sistemas capazes de gerar textos como despachos, sentenças e votos. As regras do conselho proíbem que decisões sejam delegadas integralmente à tecnologia.

Um dos usos que mais preocupam os especialistas ocorre antes mesmo da elaboração de uma sentença. Ivar Hartmann, professor de direito no Insper, explicou que a tecnologia já é empregada na triagem de processos, contribuindo para determinar quais casos terão prioridade.

“Essa triagem não é o Judiciário decidindo”, disse. “É o Judiciário decidindo o que vai decidir e o que não vai decidir.” Para Hartmann, os critérios de triagem dos tribunais já eram pouco transparentes antes da adoção da IA e podem se tornar ainda mais difíceis de compreender com sistemas automatizados.

A possibilidade de automação excessiva também preocupa Ronaldo Lemos, advogado, pesquisador e colunista da Folha. Segundo ele, ferramentas de IA generativa reduzem o custo de produzir documentos jurídicos e podem provocar aumento significativo no número de ações.

“O meu medo é que a mesma IA que está fazendo petições do lado de fora seja a mesma IA que decida do lado de dentro”, afirmou.

No limite, disse Lemos, o sistema poderia caminhar para um cenário em que agentes de IA conversam entre eles dentro dos processos, com participação humana cada vez menor.

Ele também alertou para um novo fator de desigualdade entre litigantes. Empresas e grandes escritórios podem ter acesso a modelos mais avançados, enquanto cidadãos e advogados com menos recursos dependem de versões gratuitas e menos sofisticadas.

A discussão sobre acesso não se limita apenas à inteligência artificial. A advogada Paula Lima Hyppolito Oliveira, presidente da AASP, afirmou que transformar processos físicos em digitais não significa necessariamente tornar a Justiça mais acessível.

Ela citou uma pesquisa nacional da AASP com usuários do e-proc, o sistema eletrônico de acompanhamento processual mais difundido no país. Na enquete, 56% avaliaram o acesso aos autos como ruim ou péssimo, 48% reprovaram o sistema de peticionamento e 61% criticaram a autenticação.

Para Paula, a disponibilidade 24 horas não elimina barreiras de compreensão e operação do sistema eletrônico. “Temos que sempre contrapor eficiência com acessibilidade”, afirmou.

Ela também criticou os julgamentos realizados em plenários virtuais, em que os juízes depositam seus votos sem interação presencial entre eles ou com as partes do processo. “Você tem uma completa automação de um julgamento sem participação de nenhuma das partes”, disse.

Outro problema apontado no seminário foi a falta de coordenação entre as instituições do sistema de Justiça.

O procurador-geral de Justiça de São Paulo, Paulo Sérgio de Oliveira e Costa, criticou o fato de o Judiciário, o Ministério Público, a advocacia e a Defensoria Pública desenvolverem seus próprios sistemas sem planejamento conjunto.

“A digitalização veio pura e simplesmente para levar a burocracia do papel escrito para a tela”, afirmou. Para ele, a principal inovação necessária é uma mudança de cultura institucional. “A maior inovação para mim é a inovação da cultura de se conversar”, disse.

Nas considerações finais, Paula defendeu transparência e supervisão humana no uso da IA. Hartmann disse que profissionais do Direito precisam se capacitar para não se tornarem coadjuvantes das novas tecnologias. Lemos afirmou que repertório e capacidade crítica serão cada vez mais importantes.

Tainá reforçou o papel da advocacia como “humano no loop”, isto é, como supervisão humana capaz de revisar o uso da IA e preservar o contraditório, a ampla defesa e a paridade entre as partes. Costa concluiu que a tecnologia deve ser usada de forma crítica e defendeu maior diálogo entre as instituições.