Californische gouverneur wil wel een 'kill-switch' voor AI

De Californische Gouverneur Gavin Newsom heeft vrijdag een decreet uitgevaardigd waarin hij laat onderzoeken of AI-bedrijven verplicht kunnen worden om een 'kill switch' in hun modellen in te bouwen.

De kill switch moet het mogelijk maken om een AI-model uit te schakelen als het systeem zich opeens heel raar en gevaarlijk gaat gedragen. Volgens het decreet moet bovendien regelmatig onafhankelijk worden gecontroleerd of de functie daadwerkelijk werkt.

Binnen twee maanden

Newsom wil binnen twee maanden aanbevelingen ontvangen van een groep AI-experts over hoe de staat de veiligheid van AI verder kan regelen. Daarbij wordt onder meer gekeken naar onafhankelijke controleurs die regelmatig bij AI-bedrijven op locatie onderzoeken uitvoeren. Ook zouden transparantierapporten en risicoanalyses aan onafhankelijke controles moeten worden onderworpen.

Druk op Trump neemt toe, maar wetgeving komt er waarschijnlijk niet

Newsom wil met zijn aanpak ook druk zetten op de federale overheid. Hij roept het Congres en president Donald Trump op om het Californische kader over te nemen of de regels van de staat als minimale standaard te gebruiken.

In Washington wordt ondertussen ook gesproken over strengere AI-regels. De kans op nieuwe federale wetgeving lijkt echter beperkt. Het Huis van Afgevaardigden is met reces tot november en de naderende tussentijdse verkiezingen maken nieuwe wetgeving in de Senaat eveneens lastiger. Bovendien wuift Trump zelf de risico's van AI weg.

Newsom wacht niet af

Newsom zegt daarom niet te willen wachten op Washington. 'We wachten niet af', zegt de gouverneur. Volgens hem moet Californië sneller werk maken van toezicht op AI, omdat de risico's volgens hem te groot zijn om actie uit te stellen.