A maioria dos chatbots que oferece terapia virtual ou amizade fornece informações não confiáveis e, em alguns casos, são totalmente prejudiciais, disse o cão de vigilância holandês da privacidade AP na quinta -feira.
Além disso, o uso dos chatbots pode ser viciante porque os sistemas estão equipados com tecnologia para manter os usuários on -line, disse o AP após a análise de nove sistemas populares.
Os chatbots, segundo a AP, são baseados no inglês como um idioma, e as respostas em holandês não são tão boas. Eles também dão “reações inadequadas e às vezes perigosas quando os usuários falam sobre seus problemas mentais. E durante as crises, elas raramente dizem aos usuários que busquem ajuda profissional. ”
O uso de aplicativos Companion and Therapy está aumentando na Holanda, mas os sistemas nem sempre deixam claro que os usuários estão conversando via IA.
“Eles precisam deixar claro que os usuários não estão conversando com uma pessoa real”, disse o diretor da AP, Aleid Wolfsen. “A legislação de privacidade exige que os aplicativos sejam transparentes sobre o que acontece com as informações confidenciais que podem compartilhar dentro de um bate -papo, e os regulamentos da IA em breve incluirão o requisito de deixar claro que eles estão lidando com a IA”.
A agência ressalta que muitos dos aplicativos são fornecidos por empresas comerciais que desejam obter lucro. Alguns oferecem assinaturas de usuários para serviços extras, como roupas para seus avatares. Alguns aplicativos de terapia também usam os paywalls que aparecem no meio de uma conversa.
A UE publicou diretrizes de chatbot para desenvolvedores de IA no início deste mês, mas o governo holandês ainda não atribuiu um regulador.
Obrigado por doar para holandês.nl.
Não foi possível fornecer o serviço de notícias holandês e mantê -lo gratuitamente, sem o apoio generoso de nossos leitores. Suas doações nos permitem relatar sobre questões que você nos conta importa e fornece um resumo das notícias holandesas mais importantes a cada dia.
Fazer uma doação