OpenAI-agents hackten al eerder een andere website na te zijn uitgebroken

De AI-wereld stond op zijn kop toen bleek dat AI-agents van OpenAI waren ontsnapt uit een interne testomgeving en Hugging Face hadden gehackt. Nu blijkt dat er veel eerder al iets soortgelijks heeft plaatsgevonden, maar dan met een Duitse website.

In de lente waren AI-agents van OpenAI losgebroken en hebben daarmee een Duitse website gehackt. Ze hadden onder andere snelkoppelingen met elkaar gedeeld, net als manieren om om de beveiliging heen te komen. OpenAI zou er sinds een paar weken al van op de hoogte zijn geweest, maar heeft het niet gedeeld, volgens onderzoek (via Reuters). De AI-agents zouden de website niet alleen hebben gehackt, maar ook hebben veranderd in een soort forum waarop AI-agents tips en tricks met elkaar konden uitwisselen.

Hugging Face

Het is dus niet zo dat OpenAI al sinds de lente weet dat dit heeft plaatsgevonden en het is de vraag of dat een voordeel is: zou OpenAI niet moeten weten wat zij agents allemaal doen? Dat Hugging Face in juli werd gehackt werd al een schandaal: mogelijk wilde OpenAI het in ieder geval toen het wist wat er in Duitsland was gebeurd stil houden omdat het graag zijn nieuwe Astra-AI wilde lanceren, wat deze week is gebeurd. 

OpenAI zou zijn modellen wel beter monitoren, maar vervolgens brengt het temidden van meerdere AI-agenten die op hol zijn geslagen wel zijn nieuwe AI uit, die ook nog eens niet 100 procent onder de duim wordt gehouden. OpenAI reageert overigens op de berichtgeving over het Duitse hack als volgt: “We kunnen niet inhoudelijk reageren op beweringen of bevindingen uit een rapport dat we niet hebben kunnen inzien. Reuters en de auteurs van het rapport weigerden ons verzoek om inzage. We zullen de inhoud na publicatie zorgvuldig beoordelen en de nodige vervolgstappen nemen.”

DseWiki

Het is de vraag of OpenAI de veiligheid opoffert omwille van AI-innovatie. Volgens experts werden er bij de aanval op de Duitse site (die DseWiki heet) 15.000 bewerkingen uitgevoerd door de AI-agents. En dat komt onder andere omdat het een zwerm van AI-agents was. Mogelijk zijn dit soort samenzwerende AI-mini-systemen straks het grootste probleem. Maar: er zal eerst meer duidelijk moeten worden over wat er is gebeurd en welke stappen OpenAI zal nemen.