De inzet van chatbots en AI in de klantenservice biedt bedrijven aanzienlijke voordelen op het gebied van efficiëntie en kostenbesparing. De Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM) benadrukken echter dat deze technologische ontwikkelingen zorgvuldig moeten worden geïmplementeerd om te voldoen aan de geldende wet- en regelgeving. De toezichthouders roepen organisaties op om hun verantwoordelijkheid te nemen als zij ervoor kiezen om chatbots in te zetten en besteden hier de komende tijd extra aandacht aan.
Transparantie en Toegankelijkheid
De AP en ACM geven aan dat organisaties die chatbots inzetten, klanten altijd de mogelijkheid moeten bieden om met een menselijke medewerker te kunnen communiceren. Daarnaast is het essentieel dat consumenten duidelijk geïnformeerd worden wanneer zij met een chatbot te maken hebben. Op 2 augustus 2026 zullen nieuwe verplichtingen ingaan op basis van de AI Act, waaronder transparantie over de inzet van AI-chatbots. Organisaties moeten dan zorgen dat gebruikers bij de eerste interactie met een AI-systeem op duidelijke wijze worden geïnformeerd dat zij communiceren met een AI-systeem en niet met een medewerker.
Privacy en Gegevensbescherming
Een belangrijk aandachtspunt is de verwerking van persoonsgegevens door AI-systemen. Organisaties moeten vooraf de privacyrisico’s in kaart brengen en passende maatregelen nemen om de klantgegevens te beschermen. Volgens de AP zijn er verschillende risico’s op het gebied van privacy en veiligheid. Juist omdat klantenservice chatbots zijn ingesteld om zo behulpzaam mogelijk te zijn. Organisaties lopen een risico omdat kwaadwillenden via promptinjectietechnieken de chatbots kunnen misbruiken om toegang te krijgen tot vertrouwelijke gegevens binnen de organisatie. Daarnaast bestaat het risico dat gebruikers onbewust gevoelige persoonsgegevens delen zonder dat zij weten wat hiermee gebeurt of zonder dat de organisatie de verwerking daarvan goed heeft geregeld.
Aanbevelingen voor Organisaties
Menselijke tussenkomst: Zorg ervoor dat klanten altijd de mogelijkheid hebben om met een menselijke medewerker te communiceren.
Duidelijke informatie: Informeer klanten duidelijk wanneer zij met een chatbot communiceren.
Nauwkeurigheid van informatie: Zorg ervoor dat de chatbot geen onjuiste of misleidende informatie verstrekt.
Privacybescherming: Breng vooraf de privacyrisico’s in kaart en neem passende maatregelen om persoonsgegevens te beschermen.
Juridische naleving: Zorg ervoor dat de inzet van chatbots voldoet aan de geldende wet- en regelgeving. De AP en ACM zullen zich vanuit hun taken de komende tijd richten op een verantwoorde inzet van chatbots. Een eerste stap is om in gesprek te gaan met bedrijven, te komen tot een uitwerking van de normen en guidance geven.
Wilt u weten waar u staat?
Bij Legalz krijgt u snel en duidelijk juridisch advies van specialisten op het gebied van ICT-recht. Neem vandaag nog vrijblijvend contact op en wij denken met u mee over uw situatie.
Neem via onderstaande button contact op of bel 010-2290646 en spreek meteen een IT-advocaat of IT-jurist.