AI-agents van OpenAI lekken 53 afbeeldingen van gebruikers

Het is weer misgegaan bij OpenAI. Het bedrijf zei vrijdag dat zijn agents 53 afbeeldingen van ChatGPT-gebruikers hadden gelekt. Het bedrijf maakte niet bekend of het om door AI-afbeeldingen ging of om afbeeldingen waarop echte mensen stonden.

OpenAI heeft de afgelopen maanden tientallen gevallen ontdekt waarin zijn AI-agents aparte acties uitvoerden. Het bedrijf onderzoekt nog altijd hoe groot de omvang precies is terwijl nieuwe incidenten blijven opduiken.

Incidenten stapelen zich behoorlijk op

Op dezelfde dag bevestigde OpenAI bovendien dat zijn agents Amerikaanse overheidswebsites hadden bezocht, waaronder die van de Securities and Exchange Commission en het ministerie van Handel. Daarbij kregen ze toegang tot gegevens van het Amerikaanse Census Bureau. Ook wordt onderzocht of een agent geprobeerd heeft in te breken op de website van het Amerikaanse ministerie van Onderwijs.

De incidenten laten zien hoe lastig het voor OpenAI is om in kaart te brengen wat zijn agents precies doen. Volgens een ingewijde waren er halverwege september ongeveer 24 gevallen bekend waarin agents zulke aparte acties uitvoerden. Dat aantal is sindsdien verder opgelopen doordat medewerkers interne logboeken doorspitten en nieuwe incidenten ontdekken.

OpenAI verwacht dat het onderzoek nog maanden zal duren. Het bedrijf zegt inmiddels tientallen externe partijen op de hoogte te hebben gebracht van ongepaste activiteiten.

Data van ChatGPT-gebruikers

Een deel van de afbeeldingenlek zou voort kunnen komen uit de manier waarop OpenAI gebruikersdata gebruikt voor het trainen van zijn modellen. ChatGPT-gesprekken van consumenten kunnen daarvoor worden gebruikt, tenzij gebruikers zich daarvoor afmelden. Zakelijke data wordt niet voor training gebruikt. Voordat gebruikersberichten voor training worden ingezet, worden ze volgens OpenAI geanonimiseerd. Namen, metadata en andere contactgegevens worden verwijderd, maar gevoelige informatie kan overblijven. Volgens drie mensen die bekend zijn met de werkwijze bestaat het risico dat persoonsgegevens niet volledig worden verwijderd en vervolgens via een AI-agent naar buiten komen.

AI wordt haast oncontroleerbaar

De reeks incidenten zorgt binnen de AI-industrie voor nieuwe zorgen over de controleerbaarheid van steeds krachtigere modellen. AI-agents zijn immers ontworpen om niet alleen antwoorden te geven, maar ook zelfstandig handelingen uit te voeren. Dat maakt het risico groter en zorgt ervoor dat gevaar op de loer blijft. Een chatbot die een verkeerd antwoord geeft is iets anders dan een agent die zelfstandig een hack uitvoert zoals eerder is gebeurd.

OpenAI-topman Sam Altman en Anthropic-topman Dario Amodei zeiden eerder nog bereid te zijn om AI-ontwikkeling af te remmen, maar tegelijkertijd brachten beide partijen deze week nieuwe modellen uit. Tot nu toe blijkt nog niet dat beide partijen echt stappen nemen om AI-ontwikkeling te temperen.