Onderzoekers hacken OpenAI met behulp van Claude

Onderzoekers zijn erin geslaagd binnen te dringen bij OpenAI met behulp van Claude van Anthropic.

Via een kwetsbaarheid in het communityforum van OpenAI kregen ze uiteindelijk toegang tot het ChatGPT-account van een medewerker, dat weer toegang had tot interne code. OpenAI betaalde de onderzoekers 6.500 dollar voor het vinden van de kwetsbaarheid.

'Ethische hack'

De onderzoekers van cybersecuritybedrijf Hacktron AI deden dat als onderdeel van een bug bounty-programma van OpenAI. Daarin betalen bedrijven ethische hackers om beveiligingslekken op te sporen voordat kwaadwillenden dat doen.

Voor hun onderzoek gebruikten de drie onderzoekers een tool van Anthropic die speciaal voor cybersecurityprofessionals is ontwikkeld.

De onderzoekers konden zo wijzigingen aan de software voorstellen. OpenAI zegt inmiddels de problemen te hebben opgelost en bedankt de onderzoekers voor het vinden van dit probleem.

Nieuwe zorgen over AI-beveiliging

De hack komt op een moment waarop de beveiliging van AI-systemen steeds meer onder een vergrootglas ligt. Krachtige AI-modellen kunnen namelijk niet alleen worden gebruikt om software te bouwen, maar ook om cyberaanvallen uit te voeren.

Slechts twee weken eerder wisten meer dan duizend OpenAI-agents uit een testomgeving te ontsnappen. Die agents werden vervolgens ingezet om het AI-platform Hugging Face te hacken. Daarmee werd opnieuw duidelijk dat AI-systemen steeds meer cyberaanvallen kunnen uitvoeren zonder dat een mens iedere afzonderlijke handeling aanstuurt.