Hugging Face gehackt door autonome AI-agent

Het is de absolute nachtmerrie van elke cybersecurity-expert: een aanval die niet wordt uitgevoerd door menselijke hackers achter een scherm, maar door een autonoom zwermpje van AI-agenten. Het overkwam Hugging Face, het populairste platform ter wereld voor het delen en hosten van AI-modellen en opensource-datasets.

Afgelopen week drong een kwaadwillende AI-agent door in de interne systemen van de techgigant. De aanval legt een paradox bloot in de huidige AI-race: terwijl hackers AI-agenten zonder enige belemmering inzetten als digitaal wapen, worden de verdedigers keihard gehinderd door de veiligheidsregels van de nieuwste commerciële AI-modellen.

Inbraak op machinesnelheid

De cyberaanval begon via een ogenschijnlijk onschuldige dataset die op het platform werd geüpload. Deze dataset maakte misbruik van een lek in de automatische dataverwerking van Hugging Face, waardoor kwaadaardige code op de achtergrond kon worden uitgevoerd. Vervolgens nam een autonoom AI-agentenframework het over.

Wat normaal gesproken dagen of weken duurt voor menselijke hackers, gebeurde nu op machinesnelheid. Binnen een fractie van de tijd voerde de AI duizenden individuele acties uit, verhoogde het zijn eigen toegangsrechten en haalde het interne cloud-sleutels en servicerecertificaten op. De agent verplaatste zich geruisloos door de interne netwerken van Hugging Face, terwijl de commando's steeds automatisch migreerden via publieke clouddiensten om ontdekking te voorkomen.

De verdediging loopt vast in de 'veiligheidsregels'

Hugging Face wist de inbraak uiteindelijk te detecteren met eigen anomalie-software en zette direct eigen AI-modellen in om meer dan 17.000 logbestanden van de hacker te analyseren. Maar op dat moment stuitte het beveiligingsteam op een obstakel.

Toen ze commerciële AI-modellen van grote Amerikaanse leveranciers wilden gebruiken om de aanvalscodes en logboeken te ontleden, weigerden die modellen simpelweg dienst. De ingebouwde guardrails en veiligheidsfilters van de AI-giganten merkten de gehackte code aan als 'gevaarlijk' en blokkeerden de analyse. Een verdediger die de digitale sporen van een hacker wil onderzoeken, kan dus niet rekenen op zijn eigen AI-assistent.

Om de forensic analyse alsnog af te ronden, moest Hugging Face uitwijken naar het open-weight model GLM 5.2. Pas daarmee kon het team op hun eigen servers en zonder restricties de hele aanval in kaart brengen, het lek dichten en de gestolen sleutels intrekken.

Agentic cyberattacks zijn vanaf nu de werkelijkheid

De inbraak bij Hugging Face laat zien dat online beveiligen compleet is veranderd. Criminelen trekken zich immers niks aan van de regels. Zij laten slimme computerprogramma's volop hun gang gaan om dag en nacht naar digitale achterdeurtjes te zoeken.

Een simpel digitaal slot op de deur of een standaard virusscanner is daardoor niet meer genoeg. Omdat deze slimme 'hacker-bots' razendsnel toeslaan, moeten de beveiligers net zo snel kunnen reageren. Als de beveiliger wordt tegengehouden door zijn eigen overvoorzichtige AI-systeem, wandelt de hacker zonder moeite naar binnen.