Toezichthouders: 'AI mag mens niet volledig vervangen bij klantenservice'

De Autoriteit Persoonsgegevens en de Autoriteit Consument & Markt wijzen organisaties op hun verantwoordelijk en stellen dat zij hun klantenservice niet volledig door chatbots moeten laten overnemen.

De toezichthouders zien het aantal meldingen over problemen met chatbots toenemen. Zo blijken chatbots slechte of onjuiste antwoorden te geven, of mensen naar de mond te praten zonder hun problemen op te lossen. Als klanten met een mens in contact willen komen is dat niet altijd mogelijk.

Niet alleen daarom vinden de toezichthouders dat klanten altijd de mogelijkheid moeten hebben om met een medewerker te spreken, maar ook omdat het via de wet zo geregeld is. In de digitaledienstenverordening (DSA) staat opgenomen dat mensen de mogelijkheid moeten hebben om een communicatiemiddel te kiezen dat niet volledig geautomatiseerd is. 

AI-wet

Ook wijzen de toezichthouders op de AI-wet die volgend jaar ingaat, waarin staat dat bedrijven hun gebruikers altijd moeten informeren of zij met een geautomatiseerd systeem communiceren. Op dit moment is het niet altijd duidelijk of je met een mens of AI praat. 

De Europese Commissie wordt opgeroepen om de AI-wet aan te vullen met duidelijke regels over het ontwerp van AI-chatbots: "Deze moeten eerlijk, herkenbaar en toegankelijk zijn. En mensen mogen niet op het verkeerde been gezet worden."

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.