Verenigd Koninkrijk wil géén noodknop om gevaarlijke AI uit te schakelen

De Britse regering ziet niets in een wettelijke 'kill switch' waarmee een gevaarlijk AI-model in een noodsituatie kan worden uitgeschakeld. Volgens de regering heeft zo'n noodknop weinig zin.

Het voorstel werd de afgelopen weken meerdere keren in het Britse parlement besproken. Het idee is om de overheid in een crisissituatie de bevoegdheid te geven om een AI-model dat zich raar of gevaarlijk gedraagt direct uit te schakelen. Dat zou bijvoorbeeld kunnen gebeuren wanneer een zeer sterk model zelfstandig systemen aanvalt of zich niet meer aan de veiligheidsregels houdt.

Het Cabinet Office, dat binnen de Britse regering verantwoordelijk is voor AI-veiligheid, ziet daar echter bar weinig in. "We kunnen AI niet simpelweg uitzetten", stelt een woordvoerder tegenover de BBC. Zelfs als het Verenigd Koninkrijk de toegang tot een model blokkeert, kan hetzelfde model volgens de regering elders worden ontwikkeld of gebruikt.

Noodknop voor gevaarlijke AI

Het voorstel kwam onder meer van Lord Clement-Jones, die er op 1 september over sprak in het House of Lords. Hij waarschuwde dat Britse toezichthouders en veiligheidsdiensten momenteel geen specifieke wettelijke bevoegdheid hebben om een krachtig AI-model in een noodsituatie fysiek of digitaal uit te schakelen.

Ook Labour-parlementariër Alex Sobel bracht het voorstel vervolgens naar het Lagerhuis. Een groep parlementariërs van verschillende partijen steunt het idee.

Aanleiding zijn onder meer incidenten waarbij AI-modellen van bedrijven als OpenAI, Anthropic en Meta tijdens tests beveiligingsmaatregelen wisten te omzeilen. In sommige gevallen leken de modellen bovendien te begrijpen dat hun gedrag in strijd was met de regels die onderzoekers hadden opgelegd.

'Je wordt nog steeds overspoeld'

Volgens voormalig OpenAI-onderzoeker Daniel Kokotajlo is een kill switch niet per definitie nutteloos, maar lost een Britse variant het grootste probleem niet op. Een AI-model kan immers buiten het Verenigd Koninkrijk worden ontwikkeld en draaien.

"Je wordt nog steeds overspoeld door de superintelligenties die in de VS worden gemaakt", stelde Kokotajlo. Volgens hem kunnen politici daarom beter inzetten op internationale afspraken, met name met de Verenigde Staten, om de ontwikkeling van steeds krachtigere AI-systemen daadwerkelijk af te remmen.

Kokotajlo was mede-auteur van het veelbesproken rapport AI2027, waarin wordt gewaarschuwd voor zeer snelle vooruitgang van AI en de mogelijkheid dat extreem krachtige systemen in de komende decennia een existentiële bedreiging vormen.

Zorgen AI nemen snel toe

De discussie over een noodknop komt op een moment dat ook binnen de AI-industrie zelf veel zorgen toenemen. De hoofdwetenschapper van OpenAI waarschuwde onlangs dat het risico van steeds krachtigere AI-modellen groeit en dat de ontwikkeling met 'extreme voorzichtigheid' moet gebeuren.

Ook bij Anthropic klinkt alarm. Een medewerker stapte onlangs op en beschuldigde het bedrijf en OpenAI ervan 'met levens te gokken'. Een senior onderzoeker van Anthropic schatte daarnaast de kans dat AI binnen tien jaar alle mensen kan doden op meer dan 10 procent.