Ferramenta alucinada
O uso da inteligência artificial generativa é capaz de inverter os processos de fundamentação e decisão no Judiciário, conforme alerta Dorotheo Barbosa Neto, juiz auxiliar da Presidência do Conselho Nacional de Justiça. E isso, segundo ele, é um problema.
Uso da inteligência artificial no Poder Judiciário preocupa magistrados
De acordo com Barbosa Neto, se o magistrado disser para a IA a forma como quer decidir, e depois apresentar a fundamentação, ele receberá de volta um resultado satisfatório. Contudo, quando o juiz pede à ferramenta para desenvolver primeiramente o processo de fundamentação, para depois chegar a uma conclusão, a IA “alucina” (gera informações incorretas) em mais de 70% das respostas aos prompts de comandos.
“Eu tenho certeza absoluta (sobre esse comportamento). E não há sistema com essa assertividade. Então você inverte (o processo), você parte da conclusão para ir para a fundamentação. E isso é inconcebível do ponto de vista do fundamento jurídico de uma decisão”, afirmou ele durante o 4º Congresso Cesa das Sociedades de Advogados, cujo tema deste ano é “Transformação Tecnológica na Advocacia”.
Barbosa Neto ressaltou que é preciso, em primeiro lugar, analisar a fundamentação das partes para depois chegar a uma decisão justa. “Você dar a decisão primeiro para a IA fundamentar pode ser um grande desafio que nós vamos enfrentar daqui para frente.”
Segundo ele, a Resolução 615 do CNJ oferece boas condições para o enfrentamento desse problema. Além disso, um comitê de inteligência artificial com a participação da Ordem dos Advogados do Brasil, do Ministério Público e de diversos outros órgãos tem trabalhado para ensinar, primeiramente, o que é a IA e, na sequência, dar orientações sobre como essa tecnologia deve ser operada.
Democratizacão dos dados
O juiz afirma que a democratização do acesso aos dados promovida pelo CNJ tem resultado em uma maior facilidade na aprendizagem da IA. Segundo ele, atualmente o principal empecilho para a adoção da ferramenta em todo o Poder Judiciário é o custo por processo.
“Nós teríamos que fechar todo o Judiciário, parar de fazer qualquer coisa para conseguir pagar a IA. E esse não é o objetivo. O objetivo dela (da IA) sempre é de auxílio. E essa é a nossa principal limitação. Uma limitação segura para que a IA não decida, para que a decisão seja humana e a IA auxilie a procurar meios daquela decisão.”
Segundo Barbosa Neto, antes da integração da base de dados do Poder Judiciário, só tinham acesso às informações os escritórios que podiam pagar por elas. “Isso podia criar verdadeiros desníveis na paridade processual real, porque enquanto um escritório conseguia analisar todo aquele tribunal, aquele magistrado, as suas decisões anteriores, o outro não conseguia.”
“Nós unificamos em um só lugar todos os 383 milhões de processos que existem no Brasil, com 18 bilhões de documentos. E estamos colocando isso à disposição de todos os escritórios de advocacia do Brasil”, completou ele.
