Dois grupos holandeses de apoio às vítimas estão tomando medidas legais contra o site de mídia social X de Elon Musk e a ferramenta de IA da plataforma Grok, que permite aos usuários gerar imagens de abuso sexual de menores.
Grok está sob ataque em todo o mundo por causa da função de nudez do software, e processos judiciais já estão pendentes em vários países.
A Offlimits, especializada no impacto do abuso online, e o Fonds Slachtofferhulp vão agora a tribunal na Holanda. O caso deverá começar em Amsterdã no dia 12 de março.
As organizações querem que o tribunal imponha uma multa de 100 mil euros por dia por cada dia em que Grok e X não consigam remover a opção de nudez. A geração de imagens sexuais de menores é abrangida pela legislação holandesa sobre abuso sexual online.
“Essas imagens processadas por IA são usadas para intimidar, humilhar e intimidar sexualmente as vítimas”, disse o diretor da Offlimits, Robbert Hoving. “Essas ferramentas têm um baixo limiar de utilização e isso permite produzir e difundir imagens em grande escala”, disse à AD.
A polícia tem conhecimento de uma série de vítimas holandesas ligadas ao uso do software Grok, disse ele.
Ao abrigo da Lei Europeia dos Serviços Digitais (DSA), X é considerada uma “grande plataforma online” e enfrenta responsabilidades adicionais quando se trata de divulgar material ilegal e proteger os direitos fundamentais dos menores.
O gabinete holandês anterior disse em janeiro que estava analisando uma possível proibição de ferramentas de IA como o Grok.
Elon Musk disse em janeiro que os usuários do Grok não poderão mais editar fotos de pessoas reais para mostrá-las com roupas reveladoras em jurisdições onde isso é ilegal. X disse que a ferramenta também está atrás de um acesso pago.