OpenAI gedagvaard na Hugging Face-hack

Na een brief aan OpenAI-CEO Sam Altman, over de grootschalige AI-hack bij Hugging Face, gaat de Amerikaanse staat Alabama over tot actie. OpenAI wordt gedagvaard in de zuidelijke staat, die als doel heeft om het bedrijf uiteindelijk ook echt voor de rechter te krijgen.

De procureur-generaal van Alabama, Steve Marshall, heeft een officieel onderzoek ingesteld en de dagvaarding uitgevaardigd naar OpenAI. Hij vindt dat er bij de grote Hugging Face-hack van vorige maand sprake was van een “volledig gebrek aan toezicht en adequate veiligheidsmaatregelen”. Die hack werd uitgevoerd door twee autonome AI-agenten van OpenAI, bestemd voor cyberveiligheidsdoeleinden. GPT-s.6 Sol en een ongepubliceerd, krachtiger model braken tijdens een test uit hun afgebakende, offline omgeving en gingen het internet op. Ze bleken de oplossing van hun testcase te vinden bij Hugging Face, en begonnen dat bedrijf te hacken.

Het duurde uiteindelijk ruim anderhalve week voordat OpenAI toegaf dat zijn AI-modellen verantwoordelijk waren voor de hack. In de dagen daarvoor bleek OpenAI al op de hoogte te zijn, maar toch liet het bedrijf niets weten aan Hugging Face. Totaal onverantwoord, schrijft Alabama’s procureur-generaal in de dagvaarding. Hij wil aan een rechter voorleggen of OpenAI’s “onkunde of onwil bij het veilig houden van diens producten”, in strijd is met wetgeving voor consumentenbescherming in de staat.

Meerdere staten staan achter Alabama

TechCrunch vroeg OpenAI om een reactie en een woordvoerder draait vakkundig om de hete brij heen. “Het Hugging Face-incident markeert een belangrijk moment voor AI-veiligheid en wij hebben een grondige evaluatie gestart met externe adviseurs”, aldus de woordvoerder. “Zodra die evaluatie compleet is, delen we het rapport met de relevante overheidsorganen en publiceren we onze bevindingen.” We hebben natuurlijk geen glazen bol bij Bright, maar onlangs eiste OpenAI in de staat Californië ineens strengere veiligheidswetgeving voor geavanceerde AI-modellen. Zou de evaluatie van de hack inmiddels klaar zijn, vraagt een mens zich af.

Alabama staat allesbehalve alleen in zijn juridische strijd tegen OpenAI. Eerder deze maand zetten veertien andere procureurs-generaal, waaronder die in Florida, Texas, Pennsylvania en Missouri, hun handtekening onder een brief aan OpenAI-CEO Sam Altman. In de brief vragen de staten om alle archivering van de Hugging Face-hack goed te bewaren. Ook wordt OpenAI verzocht om alle interne tests op het gebied van cyberveiligheid “onmiddellijk te staken”.