A supervisão do uso da IA no Judiciário

O réu de uma ação de reintegração foi punido pelo Tribunal de Justiça de Santa Catarina por contar com o auxílio de inteligência artificial (IA) na elaboração de um recurso. O homem terá que pagar uma multa por litigância de má-fé, correspondente a 10% sobre o valor da causa ajuizada contra ele. Seu advogado, responsável pela elaboração da peça, também poderá sofrer sanções disciplinares após um processo na OAB do Estado.

Os desembargadores detectaram na petição do recurso referências a obras jurídicas e jurisprudência inexistentes. Após a punição de seu cliente, o advogado reconheceu o erro e o atribuiu ao "uso inadvertido" do ChatGPT.

No ano passado, ganhou destaque nos sites jurídicos a notícia de que o CNJ (Conselho Nacional de Justiça) estava investigando um caso envolvendo uma sentença proferida por um juiz federal de Montes Claros. O advogado de uma das partes comprovou que a decisão continha a citação de precedentes do STJ que não existem.

Como destacou um dos desembargadores do Tribunal de Justiça catarinense, “o surgimento de novas tecnologias de Inteligência Artificial exige que os operadores a utilizem com cautela e parcimônia, sob o risco de incorrer em reprodução de informações e fundamentos que não encontram respaldo concreto de existência”.

Nesta toada, o CNJ aprovou esta semana (18/02) uma série de regras para “nortear” a utilização da IA em todo o Poder Judiciário. O documento atualiza a Resolução 332/2020, que já tratava do tema. Suas regras são voltadas para o uso de ferramentas de IA disponíveis no mercado como o ChatGPT. Espera-se que, em breve, os tribunais tenham seus próprios sistemas.

Bem, já sabemos de alguns “efeitos colaterais” da utilização da IA, como o desrespeito a direitos autorais e a utilização indevida de dados pessoais. A difusão de seu uso no Judiciário pode trazer novos desafios?

Fizemos esta pergunta para o próprio ChatGPT. Eis a resposta:

O uso da IA pelos juízes apresenta vários desafios, incluindo:

1. Viés e Justiça: Algoritmos podem refletir preconceitos existentes nos dados de treinamento, levando a decisões injustas ou discriminatórias.

2. Transparência: Muitas vezes, os sistemas de IA são considerados "caixas-pretas", dificultando a compreensão de como as decisões são tomadas, o que pode comprometer a confiança no sistema judicial.

3. Responsabilidade: Determinar quem é responsável por uma decisão tomada com o auxílio da IA pode ser complicado, especialmente em casos de erro ou injustiça.

4. Privacidade: O uso de dados pessoais para treinar sistemas de IA levanta preocupações sobre a proteção da privacidade dos indivíduos envolvidos em processos judiciais.

5. Capacitação: Juízes e outros profissionais do direito precisam de formação adequada para entender e utilizar a IA de forma eficaz, o que pode ser um desafio em termos de tempo e recursos.

6. Dependência da Tecnologia: Há o risco de que os juízes se tornem excessivamente dependentes da IA, o que pode prejudicar a análise crítica e a interpretação humana dos casos.

Esses desafios exigem uma abordagem cuidadosa e equilibrada para garantir que a IA seja utilizada de maneira ética e eficaz no sistema judicial.”

Podemos concordar com ela ou concluir que o uso da IA no Judiciário desnuda alguns problemas inerentes à própria atividade judicial, como os julgamentos enviesados, mas que podem ser potencializados. O item 06 da resposta traz o que talvez seja o maior desafio. Afinal, a aplicação do Direito demanda uma prática interpretativa e argumentativa que não se encaixa numa equação matemática. Como ferramenta que é, a IA no Judiciário é bem-vinda, desde que seu uso tenha a devida supervisão humana.

O autor desta coluna é Advogado, Especialista e Mestre em Direito Empresarial. É sócio do escritório Ribeiro Rodrigues Advocacia.

Sugestões e dúvidas podem ser enviadas para o email lfelipeadvrr@gmail.com.

Os comentários são de responsabilidade de seus autores e não representam a opinião do Estado de Minas

As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.