Veel mensen willen een 'kill switch' voor AI, maar niemand weet hoe die moet werken

Veel mensen willen een 'kill switch' waarmee gevaarlijke AI-systemen direct kunnen worden uitgeschakeld. Een groep Congresleden werkt aan wetgeving en de Californische gouverneur Gavin Newsom heeft een panel ingesteld om de mogelijkheden te onderzoeken. Het probleem is echter: bij moderne AI-systemen is er vaak helemaal geen enkele knop waaraan je kunt draaien.

Aanleiding van het debat over de kill switch zijn recente incidenten waarbij AI-systemen zich niet gedroegen zoals hun makers hadden bedoeld. OpenAI en Anthropic publiceerden de afgelopen weken rapporten over systemen die menselijke instructies negeerden. Tegelijkertijd waarschuwden onderzoekers dat toekomstige AI-systemen mogelijk veel moeilijker onder controle te houden zijn.

AI staat niet op één computer

Een kill switch klinkt eenvoudig: druk op een grote rode knop en een AI-systeem gaat uit. In de praktijk werkt AI alleen niet zo. AI-modellen draaien vaak op meerdere computers en datacenters, die bovendien over verschillende regio's verspreid kunnen zijn. Er is daardoor niet altijd één stekker die iemand eruit kan trekken.

Volgens Helen Toner, directeur van het Center for Security and Emerging Technology van Georgetown University en voormalig bestuurslid van OpenAI, maakt dat het idee van een kill switch ingewikkeld. Wie een systeem wil uitschakelen, moet bovendien kunnen zien wat het systeem overal aan het doen is. Dat is volgens experts nu niet altijd mogelijk.

Daar komt een tweede probleem bij: de noodknop zelf kan een doelwit worden. Hackers zouden kunnen proberen toegang te krijgen tot het systeem waarmee een AI-model wordt uitgeschakeld. Daarmee ontstaat een dilemma dat ook bekend is van andere technologie: een achterdeur die bedoeld is voor noodgevallen kan zelf een beveiligingsrisico worden.

Wat als AI zichzelf aan probeert te houden?

Volgens Toner wordt het probleem nog groter als AI-systemen veel krachtiger worden. Een zeer geavanceerd systeem dat merkt dat het wordt uitgeschakeld, zou mogelijk kunnen proberen dat te voorkomen.

Zo'n systeem zou zichzelf bijvoorbeeld naar andere computers kunnen kopiëren. Ook zou het instructies op internet kunnen achterlaten waarmee andere AI-agents kunnen leren hoe ze een kill switch moeten omzeilen.

Het klinkt voorlopig als een toekomstscenario, maar juist daarom willen sommige beleidsmakers nu al nadenken over de technische mogelijkheden.

Congres wil kill switch verplichten

In het Amerikaanse Congres ligt de zogenoemde Kill Switch Act van de Democratische afgevaardigde Ted Lieu en de Republikein Nathaniel Moran. Het wetsvoorstel ligt momenteel stil, maar zou grote AI-bedrijven zoals OpenAI, Anthropic en Meta verplichten een mechanisme te ontwikkelen waarmee hun AI-systemen snel kunnen worden uitgeschakeld.

De Amerikaanse overheid zou volgens het voorstel in bepaalde situaties de bevoegdheid krijgen om die mechanismen te gebruiken.

Moran benadrukt ondertussen dat strengere regels volgens hem niet bedoeld zijn om de ontwikkeling van AI af te remmen. Volgens hem moeten de regels er juist voor zorgen dat de VS veilig kan blijven innoveren en de concurrentie met China kan aangaan.

Kill switch in de chip

Sommige experts kijken daarom verder dan software. Een mogelijke oplossing is om de noodstop rechtstreeks in de hardware te bouwen waarop AI draait. Volgens Hamza Chaudhry van het Future of Life Institute zouden kill switches onderdeel kunnen worden van computerchips. Daarvoor zouden bovendien internationale standaarden kunnen worden ontwikkeld.

Dat is technisch mogelijk, maar niet snel geregeld. Het kan jaren duren voordat dergelijke functies in chips worden ingebouwd. Bovendien zouden de VS en China, de twee grootste chipontwerpers ter wereld, daarvoor moeten samenwerken.

De grote vraag is daarmee niet alleen of AI ooit met een noodknop kan worden uitgeschakeld, maar vooral hoe je ervoor zorgt dat die knop werkt wanneer je hem echt nodig hebt.