Verantwoord gebruik van AI-chatbots in klantenservice

De consultatie: waarom nu?

De Autoriteit Persoonsgegevens (AP) en de Autoriteit Consument & Markt (ACM) hebben gezamenlijk een consultatie uitgezet voor een leidraad over het verantwoord gebruik van chatbots in klantenservice. Dit is geen toeval: beide toezichthouders ontvangen steeds meer signalen uit de markt over knelpunten en risico's bij de inzet van AI-gestuurde chatbots. Zo zijn er voorbeelden van klantenservicechatbots die foutieve informatie geven over openingstijden of retourbeleid en berichten over chatbots die onbeschofte of vreemde reacties geven op klantvragen.

Voor juristen en compliance medewerkers is dit een goed moment om de interne praktijk kritisch tegen het licht te houden. In dit blog bespreken we de vijf kernthema's die naar verwachting centraal zullen staan in de aankomende leidraad.

1. Transparantie: wees eerlijk over wat (of wie) er antwoordt

Chatbots worden steeds menselijker gepresenteerd. Ze krijgen namen als "Lisa" of "Max", hanteren een informele toon, en sommige voice-bots produceren zelfs menselijke geluiden zoals "uhm", korte pauzes of een zucht. Visueel zien we 'typende puntjes' die suggereren dat er iemand aan de andere kant zit na te denken.

Deze vermenselijking kan een misleidende werking hebben. Consumenten kunnen ten onrechte denken dat zij met een mens communiceren, wat hun verwachtingen en gedrag beïnvloedt.

Wat te doen?

• Stel de chatbot zo in dat deze vooraf én tijdens het gesprek aangeeft dat de klant met een geautomatiseerd systeem spreekt.

• Vermijd bewust misleidende elementen die menselijk gedrag simuleren, zoals de typende puntjes of zuchten en lachen.

• Geef de bot een naam die duidelijk weergeeft dat het om een AI Chatbot gaat. Vermeld ‘AI’ of ‘Chatbot’ in de naam in plaats van simpelweg 'Lisa' of 'Max'.

2. Toegang tot menselijk contact: de chatbot als poortwachter

In veel organisaties is de chatbot het eerste én enige contactpunt geworden in de klantenservice processen. Klanten die een mens willen spreken, stuiten op eindeloze loops of vinden simpelweg geen optie om door te schakelen. Dit is kwalijk, zeker in situaties waar menselijke beoordeling essentieel is.

Wanneer is menselijk contact onmisbaar? Op het moment dat er fouten gecorrigeerd moeten worden. Een chatbot kan zelden eigenstandig een fout in een factuur of contract herstellen. Of op het moment dat er sprake is van een klacht of probleem. Klachtbehandeling vereist empathie, nuance en beoordelingsvermogen. Dit zijn menselijke kenmerken die een chatbot wel kan nabootsen, maar niet daadwerkelijk kan realiseren. Daarnaast zien we het in de praktijk ook vaak misgaan met complexe situaties. Denk aan samenloop van regelingen, uitzonderingsgevallen of juridische geschillen. Dit soort nuanceringen en afwijkingen zijn lastig te verwerken tot een adequate reactie voor een chatbot. En tot slot de urgente situaties, zoals acute problemen (afsluiting, fraude of veiligheidsincidenten) waarin de menselijke afweging en keuze voor escalatie belangrijk is.

Wat te doen?

• Maak een keuze in welke onderwerpen wel en welke niet door de klantenservice chatbot behandeld mogen worden.

• Ontwerp een duidelijke escalatieroute naar menselijk contact.

• Maak deze route vindbaar en toegankelijk, niet verstopt achter vijf keuzeopties.

3. Juiste en betrouwbare antwoorden: houd controle over de output

Bij chatbots valt de interactie vaak buiten het directe zicht van medewerkers. Wat de bot zegt tegen klant A ziet niemand, totdat er een klacht binnenkomt. Bij AI-systemen, zoals een chatbot die gebruikt wordt voor klantenservice activiteiten, is er bovendien het risico van "hallucinaties". De chatbot verzint antwoorden die plausibel klinken maar feitelijk onjuist zijn. De beschikbaarheid van een klantenservice chatbot wordt als een voordeel gezien. Dit betekent ook dat de klant met de chatbot kan praten buiten kantoortijden, wanneer escalatie naar of ondersteuning van een medewerker niet mogelijk is.

Zoals in het vorige onderdeel al is aangegeven is het zeer belangrijk een afweging te maken over welke onderwerpen de chatbot wel en niet mag adviseren. Denk ook na over de bevoegdheden. Wat mag de bot toezeggen? Kan het kortingen geven, afspraken maken of klachten afhandelen?

Wat te doen?

• Meet klanttevredenheid specifiek voor chatbot-interacties.

• Vraag actief feedback aan gebruikers en beoordeel deze systematisch.

• Controleer periodiek of de dataset met bedrijfsgegevens, zoals openingstijden, diensten en locaties, correct en volledig is.

4. Toegankelijkheid: niet iedereen kan (of wil) chatten

Een klantenservice chatbot klinkt als een moderne, efficiënte oplossing. Maar niet iedereen kan er even goed mee overweg. Denk aan mensen met een visuele beperking, laaggeletterden en ouderen die minder digitaal vaardig zijn. Daarnaast zijn er ook mensen die simpelweg de voorkeur geven aan telefonisch contact. Ook voor deze mensen moeten er mogelijkheden zijn om de klantenservice te bereiken.

Er moet hier rekening worden gehouden met aanvullende wet- en regelgeving. Dus kijk bij de implementatie van een klantenservice chatbot niet alleen naar de AI Act, maar ook naar de European Accessibility Act (EAA) en de Web Content Accessibility Guidelines (WCAG).

Wat te doen?

• Bied alternatieve contactkanalen aan die gelijkwaardig toegankelijk zijn.

• Zorg dat de chatbot kan samenwerken met screenreaders en toetsenbordnavigatie.

• Zorg dat de chatbot communiceert in eenvoudig taalgebruik (B1-niveau).

5. Privacy en veiligheid: de onzichtbare risico's

Je hebt geen controle over de informatie die klanten delen met de klantenservicechatbot. Vaak typen of spreken klanten vrijuit tegen een chatbot. Er worden klachten, persoonlijke situaties gedeeld. Soms kan een klant, zonder erbij na te denken, bijzondere persoonsgegevens delen, zoals gezondheidsklachten, financiële problemen, of gevoelige familieomstandigheden. De vraag is: wat gebeurt er met deze data?

Daarnaast ontstaan nieuwe veiligheidsrisico’s waar organisaties zich voor moeten weren. In het geval van klantenservicechatbots is er het gevaar van prompt injection. Kwaadwillende die proberen de chatbot te manipuleren om vertrouwelijke informatie prijs te geven of ongewenste acties uit te voeren.

Wat te doen?

Privacy:

• Vergeet de DPIA niet en voer deze uit voordat de chatbot live gaat.

• Overweeg om processen met een hoge kans op bijzondere persoonsgegevens uit te sluiten van chatbot-afhandeling.

• Informeer gebruikers over de gegevensverwerking, bijvoorbeeld in de privacyverklaring van de organisatie.

Veiligheid:

• Test de chatbot op kwetsbaarheden voor prompt injection en andere manipulaties.

• Implementeer input-validatie en beperkingen op wat de bot kan uitvoeren.

• Monitor op afwijkend gedrag dat kan duiden op misbruik.

• Betrek security-expertise bij het ontwerp en de configuratie.

Tot slot: de organisatie is verantwoordelijk! Een rode draad door alle vijf de thema’s: de organisatie blijft verantwoordelijk voor wat de klantenservicechatbot doet. Zorg er dus voor dat je hier grip op hebt.

Heb je vragen over de inzet van chatbots binnen jouw organisatie of wil jij jouw huidige opzet laten toetsen? Neem gerust contact met ons op.