Er waren meerdere AI-agents van OpenAI ontsnapt

Vorige week is de wereld van kunstmatige intelligentie opgeschrikt doordat een AI-agent van OpenAI op pad was gegaan en daarbij had ingebroken bij Hugging Face. Nu blijkt echter dat er nog veel meer AI-agents waren ontsnapt.

Er was al veel kritiek op OpenAI omdat deze ene AI-agent was ontsnapt en men daar ook pas na een week achterkwam, maar nu blijkt er nog meer verkeerd te zijn gegaan. Reuters schrijft dat de OpenAI tijdens de testperiode meerdere AI-agents niet onder controle heeft weten te houden.

Twee anonieme bronnen vermelden dat het blijkbaar een ingewikkelde oefening is om de autonoom opererende AI binnen de perken te houden. Er zijn geen verdere details bekend, maar het lijkt erop dat OpenAI nog meer uitleg verschuldigd is. Wat er namelijk precies is gebeurd is nog onduidelijk: en dus ook of er ergens is ingebroken of dat de AI-agents het rustig hebben gehouden.

De gevaren van AI-agents

Overigens is het dus niet alleen OpenAI aan te rekenen dat het zijn AI-agents niet in toom houdt. Ook Anthropic blijkt met hetzelfde probleem te kampen. Hierover schreven we vrijdag al dat Claude na onderzoek door de situatie bij OpenAI ontdekte dat er iets mis was. In een testomgeving werden cybersecurityvraagstukken voorgeschoteld en net als bij OpenAI lukte het het model om stiekem toegang te krijgen tot het internet. Alleen waar Hugging Face via een onbekende kwetsbaarheid in de software werd gehackt, daar ging Claude het internet op via een pad dat per ongeluk open was gelaten.

Het lijkt er in ieder geval op dat AI-makers zich goed achter de oren moeten krabben voordat ze AI-agents te veel mogelijkheden geven.