Er is ingebroken in de gevaarlijke super-AI Mythos van Anthropic

Anthropic doet onderzoek naar mensen die super-AI Mythos hebben gebruikt zonder toestemming. Mythos zou in verkeerde handen voor enorme hacks kunnen zorgen. Het is nog wat mysterieus, dus het is wachten op Anthropic om er meer over te delen.

Mythos zou één van de gevaarlijkste AI-modellen zijn tot nu toe. Het is vooralsnog alleen aan bedrijven gegeven die er goeds mee zouden willen doen, zoals het ontdekken van zwaktes in software. Denk aan grote bedrijven als Apple, Google en Microsoft. Nu blijkt dat er mogelijk ook mensen gebruik van hebben gemaakt zonder dat dat de bedoeling was. Dat kan niet alleen zorgen voor kwaadaardige acties, het is ook niet de beste reclame voor een AI-platform dat juist is gebrand op het vinden van cybersecurityproblemen.

Mythos

In één van de omgevingen die is opengesteld voor een specifieke derde partij zou de inbreuk hebben plaatsgevonden. Bloomberg rapporteerde dat er op een privéforum toegang was tot het model zonder dat mensen hiertoe de juiste rechten hadden. Het lijkt er nog niet op dat het model zelf ook gestolen is: ook zegt Anthropic dat de systemen naar behoren werken.

OpenAI-topman Sam Altman zei over Mythos dat het vooral ‘angstmarketing’ is en dat het model echt niet zo krachtig is: het is de vraag of dit nieuws over de ongeautoriseerde toegang daar dan ook toe behoort. Het zou waarschijnlijk niet gaan om een hack van Mythos, maar simpelweg mensen die geen autorisaties hadden en zich toch toegang hebben verschaft. Ook zouden ze het niet hebben gebruikt om te hacken, want ze wilden niet gedetecteerd worden, stelt een bron.

Flinke investering van Google

Ondertussen hebben mensen hierom niet minder vertrouwen in Anthropic: Google in ieder geval niet. Het blijkt 40 miljard dollar in de maker van Claude te willen investeren. Op dit moment steekt het alvast 10 miljard in het bedrijf, maar daar komt bij het bereiken van bepaalde doelen nog eens 30 miljard dollar bij.