©Anthropic
Amazon zou de Amerikaanse overheid hebben benaderd om AI-model Anthropic Fable 5 offline te halen
Amazon heeft volgens berichten van Axios de Amerikaanse overheid gevraagd om het AI-model Anthropic Fable 5 offline te laten halen. De stap zou voortkomen uit zorgen over een vermeende kwetsbaarheid in het model. Ook zouden vijf andere bedrijven contact hebben opgenomen met Amerikaanse autoriteiten over dezelfde kwestie. Anthropic stelt echter dat de 'kwetsbaarheid' een standaard lek is dat ook in andere AI-systemen voorkomt en geen directe toegang geeft tot de onderliggende modellen.
Het rapport over de mogelijke kwetsbaarheid zou eveneens afkomstig zijn van Amazon zelf. Het is niet duidelijk welke andere bedrijven precies betrokken zijn bij de meldingen richting de overheid.
Tegelijkertijd melden bronnen aan Semafor dat Amerikaanse autoriteiten aanwijzingen zouden hebben dat een Chinese groep toegang heeft gekregen tot Mythos, een krachtiger onderliggend AI-model waar Fable 5 op gebaseerd is. De modellen zijn inmiddels volledig offline gehaald voor bepaalde gebruikersgroepen, zo melden bronnen.
Wat is Fable 5?
Fable 5 is een publieke variant van het AI-model Mythos, ontwikkeld door Anthropic. Het systeem wordt gebruikt voor geavanceerde programmeertaken, waaronder het opsporen van beveiligingslekken in software. Omdat de technologie potentieel gevoelige toepassingen heeft, wordt het model met strikte veiligheidsmaatregelen uitgebracht.
Volgens eerdere rapporten is Fable 5 ontworpen als een sterk afgeschermde versie van Mythos, bedoeld om misbruik te voorkomen. Een succesvolle ‘jailbreak’ zou in theorie volledige toegang kunnen geven tot de onderliggende mogelijkheden van het model.
Amerikaanse overheid wil strengere controle
Volgens Axios wil de Amerikaanse overheid dat AI-bedrijven nauwer samenwerken met toezichthouders rond de ontwikkeling van krachtige modellen. Systemen op het niveau van Mythos zouden volgens die aanpak vooraf goedgekeurd moeten worden om nationale veiligheidsrisico’s te beperken.
De release van Fable 5 zou eerder al met de overheid zijn afgestemd, en zou toen geen bezwaar hebben opgeleverd.
De situatie onderstreept de toenemende spanning tussen AI-bedrijven en overheden over toegang, veiligheid en controle van krachtige AI-systemen, zeker nu geopolitieke risico’s steeds vaker onderdeel worden van het debat.