OpenAI moest de ontwikkeling van zijn nieuwe AI stilleggen om Hugging Face-hack

Een moeilijke tijd voor OpenAI. Het AI-bedrijf heeft veel last van het Hugging Face-hack van een paar weken geleden, waarbij AI-agents op eigen houtje toegang probeerden te krijgen tot het platform. Nu blijkt dat het hierdoor zelfs de ontwikkeling van zijn nieuwe AI-model on hold moest zetten.

OpenAI heeft zijn nieuwe model tijdelijk niet verder ontwikkeld omdat het eerst wat damage control moet doen. Het imago van het bedrijf heeft schade opgelopen en het moet vooral zijn AI-model beteugelen om te zorgen dat het echt veilig kan worden gebruikt. Het is een vervelende situatie met Hugging Face, omdat het meteen een storm aan zorgen en zelfs een brandbrief uit de AI-wereld teweegbracht. Het was ook niet eens een AI-model dat al uit was: het werd alleen nog intern getest, maar bleek toch iets te veel krachten te hebben.

OpenAI's Astra

OpenAI maakte zich ervoor op om Astra trots te lanceren: het is een Mythos-achtig systeem dat onder andere belangrijk is voor de beveiligingswereld. Alleen is dat niet het beste idee om uit te brengen wanneer OpenAI net in een nogal lastig parket zit als het om veiligheid gaat. In een blogpost geeft het nu meer prijs over wat het van plan is met Astra.

“De afgelopen weken hebben we onderdelen van de ontwikkeling en uitrol van Astra vertraagd, terwijl we de bescherming tegen misbruik via internet en ongeautoriseerde acties van het model hebben versterkt en getest. Op basis van dat werk zijn we van mening dat de veiligheidsmaatregelen van Astra het risico op ernstige schade voldoende beperken voor een uitrol onder ons Preparedness Framework. Hoewel Astra niet betrokken was bij het Hugging Face-incident, hebben we wat we daarvan hebben geleerd verwerkt in onze veiligheidsaanpak.”

Veiliger gemaakt

OpenAI zegt sterkere beveiligingen voor Astra te hebben geïmplementeerd, waaronder het trainen van het model om schadelijke cyberverzoeken en veiligheidsbeperkingen te weigeren en monitoring om mogelijk ongewenste activiteiten te stoppen. Het is van plan Astra binnenkort beschikbaar te maken, maar het geeft aan dat toegang tot de meest geavanceerde cyberbeveiligingscapaciteiten wordt beperkter dan het plan was. Wanneer het precies zover is om het veilig en wel op de markt te brengen is onbekend, maar OpenAI belooft dat er bij de lancering meer details worden gedeeld over de veiligheidstesten.