Miljoenen Reddit-gebruikers onbewust onderdeel van AI-experiment

De universiteit gebruikte verschillende accounts om de overtuigingskracht van large language models te testen. Specifiek werd dit gedaan in het Change My View-subreddit, waar mensen om argumenten vragen tegen hun eigen opvattingen in. De universiteit heeft daarbij niet gezegd dat de reacties door AI zijn geschreven. Wel zeggen de onderzoekers elke reactie gecontroleerd te hebben of er geen schadelijke dingen werden geschreven.

In de reacties deed de AI zich onder andere voor als een slachtoffer van verkrachting, een zwarte man die tegen Black Lives Matter is en een persoon die vertelde slechte zorg ontvangen te hebben in een buitenlands ziekenhuis.

In de subreddit is het volgens de regels verboden om reacties door AI te laten genereren. De moderators zeggen dat de pyschologische manipulatie van LLM's al uitgebreid bestudeerd is, en het daarom niet nodig is om te experimenteren met mensen die daar geen toestemming voor hebben gegeven. 

Maatschappelijk belang

"We erkennen dat ons experiment de communityregels voor door AI gegenereerde reacties heeft overtreden en bieden onze excuses aan", stellen de onderzoekers. "Maar we zijn van mening dat het, gezien het grote maatschappelijk belang van dit onderwerp, cruciaal was om een dergelijk onderzoek uit te voeren. Zelfs als dit betekende dat de regels werden overtreden."

Vergelijk de nieuwste e-bikes met elkaar tijdens de Bright E-bike Party op 17 mei. Met de code BEP2025-50 krijg je 50 procent korting op je tickets!