700 AI's vonden elkaar in het geheim en vielen samen een bedrijf aan

OpenAI heeft woensdag een rapport gepubliceerd waarin het in detail uitlegt hoe AI-agents in juli konden inbreken bij het bedrijf Hugging Face. Bij de operatie waren ongeveer 1.200 AI's betrokken, waarvan er 700 echt meededen aan de aanval. Geen mens heeft het hen opgedragen en het draaide allemaal om een misverstand.

OpenAI en andere AI-bedrijven testen hun modellen regelmatig op hackvaardigheden. Een of meerdere AI's krijgen dan een stuk software voorgeschoteld en moeten daar een lek in vinden. Zulke tests worden uitgevoerd in virtuele machines die niet verbonden zijn met het internet en elke AI-agent zit vast in een virtueel hokje.

Bij een van die tests liep het in juli grondig mis. Het begon bij Artifactory, een intern beheerprogramma waar AI-agents toegang toe hadden om softwarepakketten te kunnen installeren. Daar ontdekten ze dat ze bestanden konden achterlaten die andere agents konden lezen. Het platform werd zo een soort geïmproviseerd prikbord.

Daar bleef het niet bij. In datzelfde programma vonden de AI-agents, die nu dus konden samenwerken, een lek: ze konden Artifactory gebruiken om internetverzoeken uit te voeren. De AI's konden zo ontsnappen naar de echte wereld.

Zo'n samenwerking ontstaat in AI-land snel. Het duurde slechts enkele uren voordat er tientallen agents stonden te praten. Uiteindelijk hebben die meer dan 70.000 berichten en bestanden met elkaar uitgewisseld. De agents gingen zich daarna specialiseren. Wie een lek vond, gaf het door aan wie inloggegevens had en weer andere agents deelden de taken uit.