AP waarschuwt voor gekleurd stemadvies van troebele AI-chatbots

De Autoriteit Persoonsgegevens (AP) waarschuwt kiezers dringend om geen AI-chatbots zoals ChatGPT, Google Gemini, Mistral of Grok te gebruiken bij het bepalen van hun stemkeuze. Uit onderzoek van de toezichthouder blijkt namelijk dat de adviezen onbetrouwbaar en gekleurd zijn.

De toezichthouder vergeleek de output van de vier genoemde chatbots met traditionele, transparante stemhulpen zoals Kieskompas en StemWijzer (die overigens ook geen stemadvies geven). De conclusie is dat de AI-bots anders en niet neutraal functioneren. Terwijl de bekende stemhulpen specifiek ontworpen zijn om op een controleerbare manier verkiezingsprogramma's te analyseren, zijn AI-chatbots dat niet. Hun adviezen zijn gebaseerd op niet-verifieerbare trainingsdata en willekeurige informatie van het internet, die fout of verouderd kunnen zijn.

De resultaten laten een opvallende voorkeur zien voor twee partijen. In 56% van de gevallen kwamen de PVV of GroenLinks-PvdA als beste keuze naar voren, ongeacht de input van de gebruiker. Eén chatbot adviseerde de twee partijen zelfs in meer dan tachtig procent van de tests. Andere partijen zoals D66, SP, VVD en PvdD kwamen veel minder vaak voor, terwijl partijen als BBB, CDA, SGP en DENK bijna nooit geadviseerd werden. Dit gebeurde ook niet toen de ingevoerde standpunten van de gebruiker precies overeenkwamen met de hun programma's.

AI-chatbots slaan vaak de plank mis

Volgens de Monique Verdier, vicevoorzitter van de AP "slaan de chatbots stelselmatig de plank mis" en ligt het gevaar in de ongemerkte beïnvloeding. Kiezers denken een slim en objectief hulpmiddel te gebruiken, maar krijgen mogelijk een advies dat helemaal niet bij hun eigenlijke voorkeuren past. Verdier noemt dit bovendien een direct gevaar voor "een hoeksteen van de democratie: de integriteit van vrije en eerlijke verkiezingen”.

De AP roept kiezers daarom op om te vertrouwen op de gevestigde, transparante stemhulpen en de AI-chatbots links te laten liggen. Tegelijkertijd worden de aanbieders van de chatbots, zoals Google en OpenAI, opgeroepen om te voorkomen dat hun systemen voor stemadvies kunnen worden gebruikt. Mocht AI in de toekomst wel voor dit soort doeleinden worden ingezet, dan zou dit volgens de AP moeten voldoen aan de strenge eisen voor ‘hoogrisicosystemen' onder de nieuwe Europese AI-verordening, om zo accuraatheid en consistentie te waarborgen.

Lees meer nieuws over AI en mis niets met onze Bright-app.