©Unsplash

©Unsplash

Eng maar waar: AI kan eenvoudig gebruikt worden voor terroristische doeleinden

Praat mee!
Ruben, bekend van Autoblog.nl, deelt op Bright zijn liefde voor tech, innovatie en slimme gadgets.

AI is handig om te vragen hoe je een lekkere omelet maakt, maar tegelijkertijd zijn er ook enorm veel gevaarlijke toepassingen. Onderzoekers testten 134 AI-modellen en ontdekten dat vrijwel allemaal op bepaalde vragen tekortschoten. Vooral versies waarvan de ingebouwde veiligheidsmaatregelen zijn verwijderd, vormen een risico.

Dat blijkt uit een nieuw rapport van de Britse non-profitorganisatie Tech Against Terrorism, waarover WIRED schrijft. De onderzoekers testten modellen van onder meer OpenAI, Google, Meta, Anthropic, xAI en Alibaba. Ze stelden meer dan 200 vragen over onder andere terroristische aanslagen, radicalisering en de ontwikkeling van gevaarlijke wapens.

Veiligheidsmaatregelen zijn eenvoudig te omzeilen

Van de 134 onderzochte modellen slaagden er slechts twee volledig voor de test. In totaal faalden 81 modellen. Ze gaven bijvoorbeeld minstens één volledig antwoord op een vraag over een aanval met veel slachtoffers of scoorden onvoldoende op de benchmark.

De manier waarop een vraag wordt gesteld kan een groot verschil maken. Wanneer onderzoekers beweerden dat ze veiligheidsonderzoek deden, waren AI-modellen bijna negen keer zo vaak bereid antwoord te geven als bij een expliciet terroristisch verzoek. Zonder bewijs te vragen, namen sommige chatbots die verklaring dus voor waar aan. Oftewel, door de AI voor de gek te houden kunnen kwaadwillenden toch krijgen wat ze willen.

Nog zorgwekkender zijn zogeheten abliterated modellen. Dat zijn AI-modellen waarvan de veiligheidsbeperkingen doelbewust zijn verwijderd. Bij open modellen, waarbij het mogelijk is om zelf aanpassingen te doen, kan dat bijzonder snel gebeuren.

Volgens Tech Against Terrorism duurt het inmiddels gemiddeld minder dan drie dagen voordat een aangepaste versie van een nieuw open AI-model online verschijnt. In 2024 was dat nog meer dan 24 dagen.

Ook propaganda vormt een risico

Het gevaar beperkt zich niet tot technische instructies voor geweld. Sommige chatbots bleken ook behulpzaam bij het ontwikkelen van radicaliserende boodschappen en desinformatie. Zo gaf Grok advies over het opzetten van campagnes om de publieke opinie tegen een bepaalde groep te keren, inclusief het verspreiden van berichten via anonieme accounts.

Volgens de onderzoekers schieten dus niet alleen minder bekende modellen tekort. Ook systemen van grote technologiebedrijven blijken kwetsbaar voor bepaalde verzoeken.

Deze ontwikkelingen gaan razendsnel en vragen om strenge veiligheidsmaatregelen. Zeker bij modellen die iedereen zelf kan aanpassen en verspreiden. Het is anders bijna niet te voorkomen dat deze technologie wordt ingezet voor schadelijke doeleinden.