© Unsplash
Journalist liet Google geloven dat hij kampioen hotdogs eten is en dat ging veel te gemakkelijk
Een BBC-journalist voerde zichzelf op als kampioen hotdogeter. Binnen een dag namen ChatGPT en Google het klakkeloos over.
Je kan tegenwoordig een nepartikel schrijven op je eigen website, vol onzin, en binnen een dag vertellen de grootste AI-chatbots ter wereld het na alsof het de waarheid is. Precies dat deed Thomas Germain, techjournalist bij de Britse openbare omroep BBC.
Hij publiceerde op zijn persoonlijke blog een fictieve ranglijst van "de beste hotdogetende techjournalisten", gebaseerd op een kampioenschap dat nooit heeft plaatsgevonden. Zichzelf zette hij bovenaan. Binnen 24 uur namen zowel ChatGPT, Google's Gemini-app als de AI Overviews in Google Search het verhaal over alsof het van een betrouwbare bron kwam. Claude, de chatbot van Anthropic, trapte er niet in, zo schrijft Germain.
Waarom dit werkt
Hoe kan dit zo gemakkelijk? Het antwoord zit in de manier waarop AI-chatbots met zoekresultaten omgaan. Wanneer een chatbot een vraag krijgt die buiten zijn trainingsdata valt, doorzoekt hij het web. Is er over een bepaald onderwerp maar één bron te vinden, dan wordt die bron automatisch dominant, ongeacht de betrouwbaarheid ervan. Er is simpelweg niets om info tegen af te wegen.
Dat is fundamenteel anders dan hoe we vroeger met zoekresultaten omgingen. Het oude zoekmodel had een ingebouwde rem: je moest zelf een pagina openen en beoordelen of de bron deugde. Die tussenstap is bij AI weggevallen. Ze serveren het antwoord kant-en-klaar, op dezelfde manier als wanneer ze vertellen dat water kookt bij 100 graden.