DuckDuckGo claimt dat Trump is overleden aan hondsdolheid: hoe zit dat?

DuckDuckGo, de op privacy gerichte zoekmachine, ging onlangs pijnlijk de mist in door zijn AI-gegeneerde zoekresultaten. Daarin stond dat zowel de Amerikaanse president Donald Trump als de vicepresident J.D. Vance overleden waren aan hondsdolheid.

Die bizarre blunder is het gevolg van hallucinerende AI-modellen en een gecoördineerde aanval vanuit AI-activisten. Op de Reddit-pagina r/poisonai verspreidden gebruikers doelbewust nepnieuws om AI-systemen te misleiden. Omdat moderne taalmodellen steeds vaker Reddit raadplegen, namen de systemen achter DuckDuckGo de desinformatie klakkeloos over.

Het AI-vrije alternatief

Dit is niet geheel DuckDuckGo’s schuld, aangezien zijn Duck.ai leunt op modellen van onder meer Anthropic en OpenAI. Maar het is wel een vreemde ontwikkeling voor een bedrijf dat zich goed profileerde als een soort AI-vrij alternatief op Google. De zoekmachine lanceerde onlangs zelfs een browserextensie die beloofde zoekresultaten te zuiveren van door AI-slop. Hierdoor zag het bedrijf het aantal appinstallaties met dertig procent stijgen.

Maar op de achtergrond bood DuckDuckGo dus gewoon zijn eigen AI-optie aan, die dus net als de concurrenten verkeerde informatie kan voorschotelen. Misschien is het een idee voor deze zoekmachine om een kant te kiezen: ben je voor of tegen het gebruik van AI? Want nu probeert het bedrijf van twee walletjes te eten en daar gaat het dus flink mis.