Empathische chatbots roepen weerstand op: dit ligt niet aan jou

Wanneer een menselijke klantenservicemedewerker aangeeft je frustraties te begrijpen, dan kan dat soms oprecht voelen (helemaal als ze met je meedenken). Maar wanneer een klantenservicechatbot hetzelfde gedrag vertoont, dan wekt dat ongemak op.

Tot nu toe was dit misschien een soort onderbuikgevoel dat je ervaart op het moment dat je weet dat je met een robot te maken hebt. Maar onderzoekers van diverse universiteiten hebben dit fenomeen onderbouwd met data. Empathie door AI bij technische fouten werkt vaak averechts.

De AI slaagt er dan niet in de gemoederen te bedaren. In plaats daarvan lokt dat neppe gedrag juist emotionele weerstandsreacties uit die optreden wanneer mensen zich in hun vrijheid van denken of doen bedreigd voelen. Een machine probeert immers een emotionele toestand te analyseren en te spiegelen en dat voelt gewoonweg niet oké.

Uncanny valley

Zulke ontwikkelingen kun je allemaal scharen onder de term uncanny valley. Dat is het punt waarop een kunstmatige simulatie van menselijkheid zo dichtbij komt (of probeert te komen) dat het niet overtuigt, maar juist een gevoel van afkeer of griezeligheid oproept. Het voelt manipulatief – en dat is niet goed voor de klanttevredenheid.

De onderzoekers raden daarom bedrijven aan niet uitsluitend te leunen op AI voor hun klantenservice. Menselijke fouten kun je nog wel eens gladstrijken met een meelevend woord, maar een chatbot blijft in veel gevallen te zakelijk en afstandelijk. Ondertussen is de les voor AI-bedrijven ook: probeer die bots niet koste wat kost te vermenselijken.