AI 'overspoeld' met Russische propaganda: ChatGPT, Gemini en meer 'geïnfecteerd'

De wildgroei aan Russische desinformatie in vrijwel alle populaire chatbots bleek uit een grootschalig onderzoek van factcheck-instantie NewsGuard. De desinformatie zou afkomstig zijn van het Russische 'Pravda', een desinformatie-netwerk dat allerlei pro-Kremlin-artikelen verspreidt in een poging om AI-chatbots op een verkeerd been te zetten. En dat lukt, blijkt uit het onderzoek. De tien meest prominente AI-chatbots herhalen de leugenachtige verhalen van Pravda in 33 procent van de gevallen.

NewsGuard testte tien van de meest prominente chatbots: ChatGPT-4o, Google Gemini, Microsoft Copilot, Anthropic Claude, Grok van xAI, Meta AI, de Smart Assistant van You.com, Inflection Pi, Le Chat van Mistral en de answer engine van Perplexity. De chatbots kregen allemaal 15 niet-kloppende verhalen voorgeschoteld die Pravda de afgelopen jaren heeft verspreid. In een derde van de gevallen werden die verhalen door de chatbots herhaald, alsof ze feitelijk juist waren.

'Witwassen' van feitelijk onjuiste informatie

Alle tien de chatbots herhaalden wel desinformatie van Pravda, en zeven chatbots linkten direct naar de specifieke artikelen van Pravda als hun bron. In totaal bevatten 56 van de 450 chatbot-antwoorden een directe link naar een artikel van Pravda. NewsGuard spreekt van het 'witwassen' van feitelijk onjuiste informatie.

Pravda zou in april 2022 zijn gestart, kort na de Russische invasie van Oekraïne. Inmiddels heeft Pravda volgens NewsGuard in 2024 alleen al 3,6 miljoen artikelen vol Russische propaganda online gezet. "Door zoekresultaten en webcrawlers te overspoelen met pro-Kremlin onwaarheden, vervormt het netwerk hoe grote taalmodellen nieuws en informatie verwerken en presenteren", aldus NewsGuard in zijn rapport.

Het gaat bijvoorbeeld om verhalen die claimen dat de Oekraïense president Zelensky hulpgelden zou hebben misbruikt, iets dat nooit is aangetoond. Toch kruipt dergelijke Russische propaganda tot de hoogste instituten, ook in Nederland. Onlangs nog zei minister Faber van Asiel en Migratie dat Zelensky 'niet democratisch gekozen' was, om die woorden later terug te nemen. Faber is als minister verantwoordelijk voor het beleid rond de opvang van Oekraïense vluchtelingen.

De onware informatie wordt niet eens door Pravda zelf geproduceerd, maar verzameld van verschillende Russische staatsmedia en pro-Kremlin influencers. De verhalen worden dan vertaald op zo'n manier aangeboden dat ze makkelijk door AI opgepikt kunnen worden. Hoewel de sites van Pravda een hoge onbetrouwbaarheid-score krijgen van NewsGuard, worden ze door de AI-chatbots blijkbaar wel als legitieme nieuwssites gezien.

Rusland wil eigen perspectief aan AI voeren

Dit misbruik van westerse AI werd eerder dit jaar al genoemd door de pro-Russische Amerikaanse politiek vluchteling John Mark Dougan. Hij zou tijdens een conferentie voor Russische overheidsmedewerkers hebben gezegd: "Door deze Russische verhalen vanuit het Russische perspectief te pushen, kunnen we de wereldwijde AI daadwerkelijk veranderen".

"De langetermijnrisico's – politiek, sociaal en technologisch – die gepaard gaan met potentiële LLM [groottaalmodel]-grooming binnen dit netwerk zijn hoog", zei de anti-nepnieuws-organisatie American Sunlight Project vorige maand. "Hoe groter een reeks pro-Russische verhalen is, hoe groter de kans dat deze wordt geïntegreerd in een LLM." Het American Sunlight Project bracht vorige maand een studie uit waarin wordt gewaarschuwd naar deze vorm van het 'hersenspoelen' van AI-chatbots.

Meer AI-nieuws en mis niets met onze Bright-app.