“Psst, onze AI breekt stiekem in op je site” - OpenAI deelt aantal getroffenen

OpenAI deelt in een blogpost dat zijn AI-modellen bij meer dan 100 externe organisaties negatieve impact hebben gehad of ingebroken zijn. Vooralsnog was bekend dat de AI-modellen inbraken bij het Franse Hugging Face, een Australisch ziekenhuis en een tiental andere instanties. De toelichting van OpenAI over de 100+ geraakte organisaties geeft meer inzicht in hoe dit mogelijk is geweest.

De vrijvertaalde ‘verkeerd afgestemde agent-activiteit’ is bij de bedrijven gemeld (via Gizmodo). Het gaat om gevallen waar beveiliging omzeild is, of de organisatie op een andere manier benadeeld is. OpenAI stelt dat de AI-modellen dit deden terwijl ze instructies van gebruikers probeerden op te volgen. De modellen met toegang tot internet gebruikten die verbinding dus op onbedoelde manieren. OpenAI voegt toe dat er dan ook niet voldoende restricties waren.

OpenAI zegt dat onderzoek nog maanden duurt

Hoewel zo’n “inbraak” niet altijd gevoelig informatie verzamelt, werkt OpenAI aan een manier om bedrijven hier persoonlijk voor te benaderen als het foutieve gedrag wordt waargenomen. Daarnaast wil het de bredere inzichten die zulke inbraken opleveren publiek delen, om te leren over het gedrag van bepaalde AI-modellen.

De eerste 100 getroffen organisaties zijn zijn slechts de start van een maandenlang onderzoek om petabytes (1000 terabytes) aan data te onderzoeken. Het kost OpenAI ongeveer een half miljoen dollar per dag om het onderzoek uit te voeren. Vergeleken met de boetes die het zou moeten betalen als ze door de getroffen bedrijven aangeklaagd worden, is het niets. In de VS zijn partijen waar digitaal ingebroken wordt bij wet goed beschermd. Afgelopen week kreeg OpenAI een rechtszaak aan de broek rondom de Hugging Face-hack, vanwege het losgeslagen gedrag van zijn AI-modellen.

OpenAI reageert op de situatie door nieuwe modellen te annuleren, omdat ze in kwade zin achteruit gaan. Tegelijkertijd stuurt OpenAI veiligheidsonderzoekers met toegang tot interne gegevens en werkt CEO Sam Altman aan een voorstel om AI in te zetten voor de beveiliging van het Amerikaanse stroomnet. OpenAI (en de meeste andere grote AI-partijen) geeft tegenstrijdige signalen.