Tripadvisor-AI noemt hotels vlekkeloos, maar vergeet rauwe kip en intimidatie

Als bedrijf kom je er tegenwoordig bijna niet meer mee weg om niets met AI te doen. Ook Tripadvisor wil die trein niet missen en laat kunstmatige intelligentie daarom hotelrecensies kort samenvatten. Dat klinkt handig, maar in de praktijk blijkt deze AI-tool het spoor soms behoorlijk bijster. Hij is namelijk nogal selectief en ziet vernietigende recensies over hotels opvallend makkelijk over het hoofd.

De tool bundelt honderden reviews in een korte tekst bovenaan de hotelpagina, zodat bezoekers niet eindeloos door beoordelingen hoeven te scrollen. Niet bepaald de spannendste toepassing van AI, maar volgens onderzoek van de Britse consumentenorganisatie Which? gaat het zelfs daar opvallend vaak mis.

Uit het onderzoek blijkt dat sommige hotels in zo’n AI-samenvatting een positief oordeel krijgen, terwijl gasten in hun recensies klagen over voedselvergiftiging, slechte hygiëne, gebrek aan stromend water en zelfs seksuele intimidatie.

Geroosterde muizen en seksuele intimidatie

Om een idee te geven van hoe erg dat kan ontsporen, noemt NU.nl een aantal stuitende voorbeelden. Zo is de AI-samenvatting van het Riu Palace Santa Maria-hotel op Kaapverdië behoorlijk lovend. De tool heeft het over ruime kamers, diverse restaurants en vlekkeloze hygiëne. In de gewone reviews klagen gasten ondertussen over rauwe kip, geroosterde muizen en ziekte na hun verblijf.

Ook bij een hotel in de Dominicaanse Republiek was de AI enthousiast over de faciliteiten, terwijl gasten meldden dat ze met flessenwater moesten douchen omdat er geen kraanwater was. Bij een bruiloft zou bovendien bijna de helft van de gasten ziek zijn geworden. Bij een hotel in Turkije werd het nog pijnlijker: gasten schreven dat zij zich onveilig voelden door seksuele intimidatie door personeel, maar de AI-samenvatting heeft het over “vriendelijke service”.

Reiziger moet volgens Tripadvisor zelf blijven opletten

Opvallend is dat Tripadvisor sommige ernstige zaken juist bewust niet meeneemt in de AI-samenvatting. Meldingen over overlijden, drogeren of seksueel geweld worden volgens het bedrijf automatisch onderdrukt. Daarnaast legt Tripadvisor ook een deel van de verantwoordelijkheid bij reizigers zelf. Die zouden volgens de reiswebsite genoeg gezond verstand moeten hebben om niet blind op een korte samenvatting af te gaan, maar ook de gewone recensies te lezen.

Dat is een bijzondere verdediging voor een functie die juist bedoeld is om reizigers sneller een oordeel te laten vormen. Tripadvisor zegt de AI-tool te blijven bijschaven. Misschien geven de samenvattingen straks dus een beter en vooral betrouwbaarder beeld. Tot die tijd adviseert Which? om de AI-tekstjes vooral te negeren en zelf de reviews door te nemen.