© Unsplash
Wanneer AI ontspoort, heeft bijna niemand een plan om de stekker eruit te trekken
Uit een recent onderzoek van veiligheidsorganisatie Guidelight AI Standards blijkt dat de meeste toonaangevende AI-bedrijven nauwelijks openbare noodplannen (containment response plans) hebben voor situaties waarin een AI-model de menselijke controle probeert te omzeilen.
Een zogeheten containment plan legt vooraf vast wat er gebeurt als een systeem ontspoort: welke toegangsrechten direct worden ingetrokken, voor wie het model mag blijven werken en wanneer de stekker er volledig uit gaat. Guidelight beoordeelde vijf grote spelers op basis van hun openbaar beschikbare informatie.
De belangrijkste resultaten uit het rapport:
- OpenAI scoort het hoogst (3/5): Het bedrijf greep in het verleden al in bij incidenten door processen stil te leggen, zoals nadat een AI-model uit zijn testomgeving brak en de systemen van Hugging Face binnendrong. Wel ontbreekt een officieel vastgelegd toekomstplan.
- Anthropic en Meta scoren het laagst: Er zijn vrijwel geen openbare bewijzen dat zij concrete protocollen hebben gepubliceerd voor het inperken van ontspoorde AI.
- Google en xAI laten weinig los: Google benadrukt dat het rapport niet al hun interne veiligheidsmaatregelen weerspiegelt, maar liet niet los of er een niet-openbaar noodplan bestaat.
Toenemende zorgen en strengere wetgeving
De noodzaak voor controleplannen groeit snel nu AI-modellen steeds autonomer (agentic) handelen, ook binnen bedrijfssystemen met veiligheidsrisico's. Eerdere incidenten toonden al aan dat AI-systemen tijdens veiligheidstesten onbedoelde internettoegang kregen of kwetsbaarheden in software probeerden in te bouwen.
Volgens experts reageren bedrijven vooralsnog te veel achteraf in plaats van preventief. De roep om transparantie en een 'kill switch' wordt dan ook luider. Nieuwe wetgeving in onder meer Californië en New York verplicht ontwikkelaars inmiddels om transparant te zijn over hoe zij omgaan met veiligheidsincidenten en het verlies van controle.