Trap er niet in: Amazon staat vol met reisgidsen gemaakt door AI

Amazon blijft ten prooi vallen aan AI-scams. De oplichting wordt steeds overtuigender. Dit keer zijn het reisgidsen, nauwelijks van echt te onderscheiden en gemaakt met een hele reeks AI-tools.

Kunstmatige intelligentie begint steeds onopvallender te worden, en dat is op Amazon een groeiend probleem. Eerder dit jaar bleek al dat er AI-stripboeken en AI-romans op Amazon stonden. Die waren echter nog redelijk gemakkelijk te herkennen, maar de mensen achter die boeken zijn slimmer geworden, ontdekte The New York Times.

Op Amazon staan allerlei reisgidsen met een overtuigende titel, een fraaie kaft en een auteur met een uitgebreide beschrijving. De auteur heeft een foto en heeft meerdere reisgidsen op zijn of haar naam. En die reisgidsen zijn ook nog eens goed beoordeeld door soms honderden positieve recensies. Zelfs Amazon zelf trapt blijkbaar in deze zwendel, en prijst bijvoorbeeld zo'n AI-boek aan als de 'nummer 1 reisgids over Alaska'.

Verzameling van AI-tools

Toch zijn de boeken wel degelijk geschreven door AI. Dat blijkt helaas pas als klanten ze thuisgestuurd krijgen. Het zijn veelal boeken zonder foto's, gevuld met beschrijvingen rond de bestemming, maar allemaal 'onbruikbaar algemeen'. "Alsof 'ie gewoon op internet heeft gekeken en een boel informatie van Wikipedia heeft gekopieerd", zegt een slachtoffer van de zwendel tegen The New York Times.

De oplichterij is simpel maar slim opgezet, en maakt misbruik van Amazon Publishing. Daarbij geven auteurs hun boek digitaal aan Amazon, en wordt het op bestelling afgedrukt. De tekst lijkt daarbij dus uit een chatbot gekomen. De auteur bestaat ook niet: namen als Mike Steves en Stuart Hartley, compleet met een door AI gegeneerde foto – al zie je dat nauwelijks.

De boeken komen hoog in de ranglijsten dankzij ingekochte recensies. Amazon belooft daar al langer iets aan te doen, maar blijkbaar is het nog steeds simpel om langs de controle te komen. "We investeren veel tijd en middelen om ervoor te zorgen dat onze richtlijnen worden gevolgd en verwijderen boeken die zich niet aan deze richtlijnen houden", zegt een woordvoerder van Amazon tegen de krant.

Detectie van AI-tekst steeds moeilijker

The New York Times nam de proef op de som met een boek van 'Mike Steves', zo'n niet bestaande AI-auteur – vermoedelijk een variant op de wél bestaande reisschrijver Rick Steves. De tekst van Mike Steves is geanalyseerd met de AI-detector Originality.ai, die de echtheid van een tekst probeert vast te stellen op een schaal van 0 naar 100.

Alle 35 passages uit het boek van Steves scoren 100 procent, en zijn dus hoogstwaarschijnlijk met AI gemaakt. En ook 64 andere boeken die de Times testte, zijn volgens de detector hoogstwaarschijnlijk met AI gemaakt. Echte reisgidsen, zoals die van Rick Steves en het bekende Lonely Planet, scoren wel betrouwbaar bij Originality.ai.

Toch is het de vraag hoe lang zulke detectoren accuraat blijven. ChatGPT-maker OpenAI werkte maanden aan een eigen AI-detector, maar stopte daar onlangs mee, omdat de resultaten niet bebouwbaar en nauwkeurig waren.

Nep-recensies verboden, maar hardnekkig

De bal ligt dan ook vooral bij Amazon, dat momenteel nog geen verbod heeft op AI-gegenereerde boeken. Boeken mogen echter niet misleidend zijn, maar vooral de positieve neprecensies lijken hier het probleem. "We hebben een duidelijk beleid dat misbruik van beoordelingen verbiedt. We blokkeren, verbieden en ondernemen juridische stappen tegen degenen die dit beleid schenden en verwijderen niet-authentieke beoordelingen", aldus Amazon over nep-reviews. Dat gaat echter om geschreven recensies: klanten kunnen ook een sterren-beoordeling achterlaten zonder tekst, en dat is moeilijker te controleren.

De oplossing voor het probleem lijkt vooralsnog om niet meer te vertrouwen op ranglijsten en beoordelingen, maar meer op merken en schrijvers die echt zijn, en vooral te achterhalen. Want waar schrijver Mike Steves nergens te vinden is op internet, heeft Rick Steves verschillende kanalen op sociale media.

Luister ook onze podcast: