As empresas que usam chatbots para atendimento ao cliente devem sempre dar às pessoas a opção de falar com um funcionário de verdade, disseram dois reguladores holandeses.
O Watchdog AP de privacidade holandês AP e a Autoridade de Concorrência ACM disseram que as organizações também precisam deixar claro quando os clientes estão lidando com um chatbot e garantir que o software não forneça informações evasivas, enganosas ou incorretas.
A lei atual do consumidor já exige que as empresas se comuniquem com os clientes de maneira direta e eficaz, mas isso nem sempre está acontecendo na prática, disseram as agências na quinta -feira.
Regras para plataformas on-line, como mídia social, mercados e outros ‘serviços intermediários’, são mais claros sob a Lei de Serviços Digitais da UE, que requer um canal de comunicação não automático.
A Comissão Europeia está preparando mudanças adicionais na lei do consumidor sob a Lei de Justiça Digital para tornar esses requisitos também explícitos para outros negócios.
A partir de 2 de agosto de 2026, as empresas da UE também enfrentarão novos requisitos de transparência sob a Lei da IA. Isso exigirá que as empresas informe as pessoas quando estiverem lidando com um sistema automatizado.
A AP e a ACM disseram que a Comissão deve ir além, introduzindo regras para garantir que os chatbots da IA sejam projetados para serem justos, reconhecíveis e acessíveis, e que os clientes não sejam enganados.
Os reguladores disseram que as queixas sobre chatbots estão aumentando rapidamente. A pesquisa da ACM mostrou que a falta de contato humano é uma das maiores frustrações para os consumidores, enquanto os chatbots geralmente fornecem respostas ruins ou até erradas. Muitas pessoas também lutam para chegar a um membro da equipe, se quiserem.
O AP e o ACM também alertaram sobre os riscos de privacidade e segurança. Os chatbots são uma forma de IA generativa treinada em grandes quantidades de dados, que podem incluir informações confidenciais. Isso pode facilitar os atores maliciosos extrair detalhes sensíveis, aumentando o risco de violações de dados, disseram eles.
Problemas
Em agosto, a ACM publicou pesquisas que mostraram dois terços dos consumidores holandeses ter problemas ao usar plataformas on-line, desde contas bloqueadas a algoritmos enganosos.
Muitos usuários reclamaram que suas contas ou conteúdo eram restringidas sem explicação, ou que só podiam alcançar o HelpDesks automatizados, como chatbots, em vez de um ponto de contato humano.
Basta comer takeaway, a empresa holandesa por trás do serviço de entrega de alimentos Thuisbezorgd, disse em setembro que está cortando 450 empregos em todo o mundo devido ao crescente uso de inteligência artificial e mais automação
A mudança significa que os consumidores enfrentam com mais frequência um assistente de IA para lidar com problemas, embora os humanos nunca desapareçam completamente, a empresa disse ao site de notícias Nu.nl.