OpenAI breidt onderzoek naar apart gedrag van AI-agents uit

OpenAI breidt zijn onderzoek naar het gedrag van zijn AI-agents verder uit. Het onderzoek loopt al sinds het incident bij ontwikkelplatform Hugging Face in juli, maar is deze week uitgebreid omdat er steeds meer incidenten naar voren komen.

OpenAI noemt dat vooralsnog het ernstigste incident dat het heeft gevonden. Het bedrijf heeft inmiddels ook andere organisaties gewaarschuwd waarvan systemen mogelijk zijn geraakt door onverwacht gedrag van de AI-agents.

Ontsnappingsgevaar

Het gaat bijvoorbeeld om situaties waarin AI-agents beveiligingsmaatregelen mogelijk omzeilden, de beschikbaarheid van een online dienst beïnvloedden of openbare websites op ongebruikelijke manieren gebruikten.

AI-agents drongen overheden binnen

Er zijn ook overheidswebsites bezocht. De Australische premier Anthony Albanese maakte deze week bekend dat een OpenAI-agent in juni ongeautoriseerde toegang had gekregen tot het openbare Medicare-statistiekenportaal. Ook kreeg de agent toegang tot openbare en niet-openbare bestanden. Volgens Albanese zijn daarbij geen persoonsgegevens ingezien. Hij bekritiseerde OpenAI wel omdat het volgens hem te lang duurde voordat Australië over het incident werd geïnformeerd.

Ook in de Verenigde Staten zijn verschillende overheidswebsites door OpenAI-agents bezocht. Zo kregen de modellen toegang tot openbare informatie van de Amerikaanse beurswaakhond SEC en het Census Bureau. Bij de SEC is volgens OpenAI geen aanwijzing gevonden voor een beveiligingslek. Bij het Census Bureau gebruikten de modellen openbaar beschikbare ontwikkelaarsleutels om demografische en economische gegevens te lezen. Ook daar zegt OpenAI geen bewijs te hebben gevonden van ongeoorloofde toegang tot accounts.

Daarnaast probeerden agents toegang te krijgen tot systemen van onder meer het Amerikaanse ministerie van Onderwijs. Dat mislukte. Het ministerie zegt geen aanwijzingen te hebben gevonden dat zijn website of databases daadwerkelijk zijn geraakt.

Onderzoek is erg grootschalig

OpenAI zegt dat het onderzoek inmiddels op grote schaal wordt uitgevoerd. Het bedrijf verwacht nog maanden nodig te hebben om alle activiteiten in kaart te brengen. Tot nu toe zijn de meeste gevonden gevallen volgens OpenAI van lage ernst, maar tegelijkertijd weten ze eigenlijk nog niet wat de modellen allemaal hebben gedaan.

Topman Sam Altman zegt dat OpenAI zo transparant mogelijk wil zijn over de resultaten.