A Holanda é conhecida por ser pioneira em inovação, mas, desta vez, pode ter ido longe demais. Especialistas estão furiosos depois que um juiz holandês usou o ChatGPT como fonte de informação para uma decisão neste verão.
O juiz de Gelderland fez uma pergunta (surpreendentemente básica) ao chatbot de IA antes de incluir a resposta como parte de seu veredito.
Esta é a primeira vez que o ChatGPT é usado dessa forma em um tribunal holandês, e especialistas cibernéticos chocados esperam que seja a última, relata o AD.
O que aconteceu?
O caso envolveu dois vizinhos briguentos. Um deles acrescentou um andar extra à sua casa, e o outro temia que isso tornasse seus painéis solares menos eficientes. ????
Resolver essa disputa exigiu algumas estatísticas — e o ChatGPT é a solução para isso.
Pelo menos foi o que o juiz pensou quando pediu ao chatbot para determinar a vida útil média dos painéis solares e o preço médio atual por quilowatt-hora de eletricidade.
LEIA MAIS | A primeira farmácia administrada por um HOLOGRAMA está prestes a abrir nesta cidade holandesa
O veredito em si diz: “O juiz do tribunal subdistrital estima, com base em parte no ChatGPT, a vida útil média dos painéis solares de 2009 em 25 a 30 anos; é por isso que essa vida útil é definida aqui em 27,5 anos”.
O tribunal faz questão de enfatizar que isso não teve grande influência no resultado do caso. Em vez disso, a resposta do ChatGPT foi apenas uma diretriz para ajudar a chegar a uma decisão.
“Ridículo”, “inaceitável”, “tanta ignorância”
No entanto, usar e apresentar abertamente as respostas do ChatGPT como parte de uma decisão está gerando indignação entre especialistas.
“É indefensável que um juiz de um tribunal subdistrital baseie uma indenização parcialmente em um computador de linguagem”, disse o especialista em IA Henk van Ess ao AD.
Até o ChatGPT sabe que é uma fonte não confiável, foto.twitter.com/0wi73uBTTZ
— rincon.rebecca em outro lugar (@RebeccaARincon) 1 de dezembro de 2023
Segundo especialistas, ele simplesmente não é confiável, preciso ou crível o suficiente para ser usado em um tribunal.
E esse caso é o exemplo perfeito disso, acrescenta Van Ess, porque a vida útil exata dos painéis solares é muito menos certa do que o ChatGPT sugere.
O que você acha do ChatGPT ser usado para decisões judiciais? Deixe-nos saber nos comentários abaixo.