Um juiz alertou sobre os riscos do uso de IA em audiências judiciais depois que documentos do Crown Prosecution Service (CPS) se referiram a casos legais “inexistentes”.
O juiz Sweeting emitiu o alerta numa decisão na quarta-feira, na qual rejeitou os apelos de duas pessoas que contestavam as decisões de extraditá-las para a Roménia para cumprirem pena por crimes cometidos no país.
O CPS se opôs aos recursos para o Tribunal Superior.
No final do julgamento, o juiz Sweeting disse que não existiam duas autoridades legais citadas pelo CPS num documento que fazia parte do seu caso.
Ele prosseguiu, dizendo que ambos os casos foram posteriormente citados noutro documento antes de a questão ser levantada com o CPS antes de uma audiência em Fevereiro.
O CPS admitiu o erro e pediu desculpas, dizendo que não tinha tentado induzir o tribunal em erro e que estava em curso uma investigação sobre o erro.
O juiz disse que o CPS admitiu numa carta de março que as referências aos casos eram imprecisas e “explicou que podem ter resultado da utilização de inteligência artificial”.
“No entanto, o CPS identificou a deficiência crítica como o fato de o advogado examinador não ter verificado adequadamente a exatidão do documento antes de arquivá-lo e emiti-lo”, disse o juiz.
Ele continuou: “A posição do CPS foi, portanto, que, embora a fonte direta do erro possa ter sido o uso de inteligência artificial generativa, a causa raiz foi o erro humano ao não verificar as autoridades nas quais se basearam nas apresentações formais ao Tribunal.
“O CPS enfatizou que esta não foi uma tentativa intencional de enganar, mas sim um incidente isolado resultante de uma revisão inadequada do trabalho escrito.”
O juiz Sweeting também disse que o CPS realizou uma revisão interna completa do incidente e analisou 78 outros casos envolvendo o mesmo advogado, o que não encontrou preocupações e o levou a acreditar que havia um baixo risco de que isso acontecesse novamente.
E concluiu: “No que diz respeito ao recurso, os erros vieram à tona antes da audiência e, portanto, não tiveram qualquer influência no argumento ou na decisão do tribunal.
“Aceitei o pedido de desculpas em nome do CPS e a garantia de que não houve tentativa de engano.”
Ele continuou: “Seria ingênuo presumir que o uso da inteligência artificial no trabalho jurídico não aumentará no futuro; pode, de fato, ser necessário e benéfico.
“O episódio ressalta os riscos de usá-lo sem adequado questões de uso do episódio sem a devida supervisão, especialmente para pesquisas jurídicas.
O CPS foi contatado para comentar.
