Um tribunal em Amsterdã proibiu o uso na Holanda do X chatbox Grok AI para despir digitalmente mulheres e crianças sem sua permissão e espalhar as imagens por meio da plataforma.
O centro de especialização em abuso online Offlimits abriu o caso contra X e Grok no mês passado. De acordo com o Centro Americano de Combate ao Ódio Digital, a ferramenta gerou três milhões de imagens sexualizadas de pessoas nos primeiros 11 dias após o seu lançamento no início deste ano, incluindo 23.000 de crianças.
A XAI, empresa por trás da Grok e de propriedade de Elon Musk, já havia alegado ter tomado medidas para controlar a chamada função “nudificadora”, mas o juiz concluiu que eram insuficientes. A Offlimits conseguiu fazer um vídeo com pessoas nuas digitalmente pouco antes do início do julgamento.
A proibição holandesa abrange apenas imagens de pessoas que vivem nos Países Baixos e que aí foram divulgadas.
Grok terá de pagar uma multa de 100 mil euros por cada infração, com um limite de 10 milhões de euros, disse o tribunal. O juiz também decidiu que, enquanto a função de remoção permanecer em vigor, Grok não poderá mais fazer parte do X – embora não esteja claro como isso funcionará na prática.
A XAI foi informada de que deverá agora explicar ao tribunal como planeia implementar a decisão.
O veredicto, disse o diretor do Offlimits, Robbert Hoving, é “inovador”. “Grok não tem forma de verificar se um holandês aparece numa fotografia. Portanto, esta proibição pode facilmente ter implicações globais”, disse ele à RTL.
Na quinta-feira, o Parlamento Europeu concordou com medidas para proibir todos os aplicativos nudificadores. Espera-se que a legislação entre em vigor em todos os Estados-Membros antes do verão.
Obrigado por doar para .
Não poderíamos fornecer o serviço Dutch News, e mantê-lo gratuitamente, sem o apoio generoso dos nossos leitores. Suas doações nos permitem relatar questões que você nos conta e fornecer um resumo das notícias holandesas mais importantes todos os dias.
Faça uma doação