Gaan we vaker zien: chatbot belooft onterecht korting, bedrijf moet toch betalen

Chatbots die worden ingezet als besparing kunnen best weleens leiden tot onverwachte kosten. Dat overkwam in ieder geval luchtvaartmaatschappij Air Canada: zijn chatbot beloofde iets onterecht, maar moet die belofte nu toch nakomen.

Chatbots zijn dankzij AI steeds slimmer en moeilijker van echt personeel te onderscheiden. Veel bedrijven zetten chatbots daarom in als eerste laag van hun klantenservice: elke vraag die door een chatbot beantwoordt kan worden, scheelt weer personeelsleden. Maar het kan ook verkeerd lopen, als de chatbot onjuiste antwoorden geeft.

Dat gebeurde in Canada, toen een chatbot van Air Canada een reiziger vertelde dat hij korting kon krijgen op een last-minute vlucht voor de begrafenis van zijn overleden oma, meldt The Washington Post. De reiziger kocht een vliegticket voor 600 dollar maar zou volgens de chatbot binnen 90 dagen een deel van zijn geld terugkrijgen. Maar toen de man dat eenmaal probeerde, stelde menselijk personeel hem teleur: de regeling zat toch wat anders in elkaar.

Air Canada: 'chatbot zelf verantwoordelijk'

Hoewel de maatschappij inderdaad een korting geeft voor dergelijke begrafenis-vluchten, geldt dat alleen bij aanvraag vooraf. Air Canada probeerde onder de korting uit te komen door te stellen dat zijn chatbot een 'afzonderlijke juridische entiteit' is, 'verantwoordelijk voor zijn eigen handelen'.

Daar ging de Civil Resolution Tribunal echter niet in mee. Die Canadese overheidsinstantie behandelt klachten van particulieren. Air Canada is volgens het tribunaal verantwoordelijk voor alle informatie op zijn website, 'of die nu afkomstig is van een webpagina of een chatbot'. Air Canada moet het volledige bedrag van het vliegticket aan de man terugbetalen.

De korting werd in 2019 al door een chatbot beloofd, nog voor de opkomst van de huidige lichting slimmere chatbots. Echter blijft een zwaktepunt van chatbots de neiging om informatie te verzinnen of net niet goed te interpreteren. Dit soort incidenten zou daarom best weleens veel vaker kunnen gaan gebeuren de komende tijd, omdat steeds meer bedrijven chatbots inzetten.

Meer over chatbots en blijf op de hoogte met onze nieuwsbrief.