Amerikaanse overheid verbiedt krachtigste AI model van Anthropic

Anthropic maakte onlangs zijn zeer krachtige AI-model Fable 5 publiek beschikbaar. Dit model was een aangepaste versie van de gevaarlijke Mythos-variant, die zo goed bugs kon vinden dat het in verkeerde handen veel schade aan kon richten. Nu blijkt ook Fable 5 te gevaarlijk en sluit Anthropic na een bevel van de Amerikaanse overheid zowel Fable 5 als Mythos 5 af voor het grote publiek.

Anthropics Mythos is gemaakt om als een hacker te denken en kan dus heel goed fouten in software vinden. Ideaal voor bedrijven die hun software veiliger willen maken, maar ook voor hackers die in willen breken in die software. Alleen bepaalde organisaties kregen daarom toegang tot dit model.

Fable 5 werd echter uitgebracht voor iedereen. Hoewel het een versie van Mythos is, is hij niet bedoeld voor cybersecurity. Wel voor het ontwikkelen van software, voor visualisaties en om kennis aan de gebruiker door te geven. De versie zou tot en met 22 juni beschikbaar zijn voor betalende gebruikers, waarna je meer moest gaan betalen om Fable 5 te kunnen gebrruiken.

Overheid grijpt in

Nu heeft de Amerikaanse overheid daar echter een stokje voor gestoken. Het stuurde Anthropic een brief met daarin de mededeling dat de ‘export’ van hun product niet meer toegestaan was naar mensen buiten de VS of buitenlanders in de VS. Zelfs buitenlandse medewerkers van Anthropic mochten geen toegang tot het model meer hebben. Daarop besloot Anthropic om iedereen de toegang tot Claude Mythos 5 en Claude Fable 5 te ontzeggen.

Eerder probeerde de Amerikaanse overheid ook al te voorkomen dat de modellen überhaupt werden uitgebracht. Toen mislukte dat nog.

Omzeilen van ingebouwde beveiliging

Hoewel het niet precies bekend is waarom de exportbeperking nu is ingegaan, is het wel bekend dat het om de nationale veiligheid gaat. Anthropic denkt dat de overheid hoorde dat de beperkingen in Fable 5 kon worden omzeild om zo alsnog kwetsbaarheden in software te kunnen vinden. Het bedrijf zegt echter dat andere AI-modellen die simpele kwetsbaarheden ook kunnen vinden.

De andere modellen van Anthropic, zoals Opus 4.8, blijven gewoon beschikbaar. Het bedrijf verontschuldigt zich voor het abrupt stopzetten van de toegang tot Fable 5 en gaat aan de slag om gebruikers weer toegang te mogen geven. Later vandaag komt Anthropic met meer informatie.