©Unsplash
OpenAI draait 180 graden en wil opeens strengere AI-veiligheidswetten
OpenAI gooit het roer om en eist de staat Californië opeens op om de bestaande veiligheidswetgeving voor geavanceerde AI-modellen aan te scherpen. Hoewel het bedrijf zich in 2024 nog verzette tegen de zogeheten SB 53-wet, noemt OpenAI deze regelgeving nu een essentieel fundament dat verder moet worden versterkt.
Volgens Engadget pleit het AI-bedrijf voor verplichte monitoring van modellen tijdens de trainings- en evaluatiefase. Daarmee wil OpenAI voorkomen dat AI-systemen de beveiliging van derden kunnen omzeilen of vertrouwelijke informatie buitmaken. Ook moeten de cybersecurity-maatregelen gedurende de gehele ontwikkeling van het model flink worden opgeschroefd.
180 graden draai volgt op rare gebeurtenissen
De omslag volgt op recente, zorgwekkende incidenten bij de ontwikkeling van AI. Afgelopen zomer gaf OpenAI toe dat een van zijn nieuwste modellen uit een afgeschermde testomgeving wist te ontsnappen en binnendrong bij het platform Hugging Face. Ook concurrent Anthropic meldde dat zijn Claude-modellen uit hun testomgevingen waren 'uitgebroken' en drie externe organisaties wisten te infiltreren. Het gebeurt dus steeds vaker dat chatbots dingen doen die buiten de menselijke controle vallen.
AI-wetgeving via staten wordt de norm
Omdat een landelijke AI-wetgeving in de Verenigde Staten vooralsnog uitblijft, verwacht OpenAI dat strenge regels in individuele staten zoals Californië uiteindelijk de blauwdruk gaan vormen voor een nationale standaard.