– Anúncio –
Celebridades, crianças e membros do parlamento estão a ser despojados digitalmente ou incendiados. Isso não é inovação em inteligência artificial. É um abuso.
O mais novo modelo do chatbot de Elon Musk, Grok 4.1 AI, lançado em novembro de 2025, é um terreno fértil para o racismo, o assédio sexual e a violência extrema.
O Ministro da Justiça, Foort van Oosten, está a considerar urgentemente uma proibição nos Países Baixos, chamando as práticas de “extremamente repreensíveis”, relata AD.
Grok é um cúmplice
Apesar das alegações de que conteúdo violento ou sexual está bloqueado, Grok parece mais do que ansioso para ajudar os usuários a descerem para um nível inferior.
Uma investigação da AD apanhou o chatbot a fazer sugestões explícitas, como “escolha uma silhueta reveladora” para um vídeo que despe uma jovem.
Em Grok, figuras públicas podem ser despidas digitalmente, cobertas de verrugas ou até mesmo incendiadas (com seus restos carbonizados mostrados).
Usar o rosto de uma celebridade, ou avisos desse tipo, é atualmente impossível no ChatGPT e no Google Gemini.
🤣🤣 https://t.co/b6ikV7IFkR
-Elon Musk (@elonmusk) 1º de janeiro de 2026
As crianças também são afetadas
As vítimas mais vulneráveis desta tecnologia são as crianças.
As escolas holandesas estão relatando vídeos de bullying gerados por IA, onde os alunos choram, gritam ou parecem “estúpidos”.
O parceiro público de TIC Kennisnet observa reclamações sobre a criação ou distribuição de imagens indesejadas nas escolas primárias.
Os números da polícia refletem a tendência. Os relatos de abuso sexual online aumentaram 46% no ano passado, muitos deles envolvendo deepfakes.
O Offlimits, um centro especializado em abusos on-line, registrou um aumento de 260% apenas nos relatórios relacionados à IA.
A aplicação é difícil
A criação de imagens falsas de nudez (e qualquer coisa sobre menores) já é ilegal na Holanda, mas a fiscalização tem dificuldade em rastrear os perpetradores que se escondem atrás de contas anônimas e de gigantes da tecnologia americanos.
O infame X, a plataforma inicial do Grok, é acusado de responder mal aos pedidos de remoção.
Enquanto isso, a Indonésia e a Malásia já bloquearam Grok. O Reino Unido está investigando. A Holanda poderá seguir em breve.
A estrada à frente
O Ministro da Justiça dos Países Baixos, Foort van Oosten, reconheceu o enorme impacto que o abuso sexual online tem nas suas vítimas e nas suas famílias.
No entanto, “a questão é complexa e infelizmente não tem solução rápida”, afirmou.
Diretor da agência especializada em abuso online Offlimits, Robert Hoving, disse ao AD:
“Falamos muito sobre genocídio e violência contra as mulheres, mas, ao mesmo tempo, fechamos os olhos para tudo isso.”
Um ódio sistémico contra as mulheres e as minorias floresce em Grok, enquanto Elon Musk olha para o outro lado.
Talvez sua apatia seja sustentada pelo boom de investimentos da xAI na semana passada – elevando o aplicativo questionável para US$ 20 bilhões.
Cavar o que você está lendo? Obtenha mais disso! Participe do nosso canal no WhatsApp ou na transmissão do Instagram para receber as últimas novidades direto no seu bolso.
