Solen Feyissa, Unsplash
Chatbots 'geïnfecteerd' door Russisch desinformatienetwerk
Veel mensen vertrouwen op chatbots als 'zoekmachine', maar recent onderzoek van Pointer (KRO-NCRV) onthult dat de AI-systemen in toenemende mate desinformatie verspreiden.
Het blijkt dat chatbots zoals ChatGPT, Mistral en Microsoft Copilot beïnvloed worden door het Russische Pravda-netwerk, een geautomatiseerd netwerk van honderden websites die op grote schaal pro-Russische propaganda publiceren.
Pravda-netwerk en AI
Vorig jaar publiceerde dit netwerk maar liefst 3,6 miljoen berichten, verspreid over 69 landen, waaronder Nederland. Dit heeft directe gevolgen voor de informatie die chatbots presenteren. Pointer ontdekte bijvoorbeeld dat zes van de acht onderzochte chatbots onterecht beweerden dat de Russische Federatie een NAVO-piloot heeft omgebracht en dat de Oekraïense geheime dienst betrokken is bij drugshandel.
Niet alle chatbots presteren echter even slecht. Claude van Anthropic komt als beste uit de bus en citeert geen misinformatie van het Pravda-netwerk. Ook Grok, de chatbot van Elon Musk, weigert vaak desinformatie over te nemen. Helaas verspreiden Copilot en Mistral wel vaker misinformatie: Mistral acht keer en Copilot vijf keer.
Wikipedia
Het probleem beperkt zich overigens niet alleen tot chatbots. Ook op bekende platforms zoals Wikipedia werd maar liefst 1500 keer desinformatie afkomstig van een Pravda-site vermeld.
Op de hoogte blijven van alle ontwikkelingen op het gebied van AI? Download dan de app en lees onze nieuwsbrief!