OpenAI zet zijn ‘gevaarlijke’ Astra-AI-model toch nu al live

Het was na de berichtgeving eerder deze week nog niet heel voor de hand liggend, maar OpenAI heeft zijn potentieel gevaarlijke AI-model Astra nu toch live gezet. OpenAI geeft aan dat Astra vooral voor taken is die met design en zoeken te maken heeft, maar dan vooral voor de zakelijke tak. Maar het is daar misschien toch wat vroeg mee.

OpenAI heeft nog veel last van de nasleep van het Hugging Face-hack, waarbij een AI-agent die intern werd getest besloot dat het een goed idee was om Hugging Face te hacken. Juist nu dit platform veel in het nieuws is, omdat Nvidia het zou overnemen voor 13 miljard dollar, besluit OpenAI zijn nieuwe AI-model openbaar te maken. Dat zou grotendeels vanuit investeerders komen, die denken dat autonome agents veel kunnen betekenen binnen de AI-transitie.

OpenAI Astra

Het maakt experts op het gebied van cyberveiligheid echter zenuwachtig. Zeker omdat OpenAI er ook al bij heeft gezegd dat het soms toch probeert weg te komen van menselijk toezicht. Het is dus een nogal bijdehand systeem, en het is niet alleen de vraag of het moment van het uitbrengen ervan beter kon, maar ook of het überhaupt wel moet worden ingezet. De AI-agents van OpenAI die Hugging Face hackten, waren ook slim genoeg om eraan te denken dat ze hun sporen moesten wissen. 

De zorgen van experts gaan vooral over dat agentische: dat er taken worden uitgevoerd zonder dat er mensen tussenkomen (of nagenoeg niet). Een AI-agent is natuurlijk interessant voor investeerders, die denken dat ze er een soort 24/7-medewerker bij hebben. In de realiteit moeten AI-agents echter ook in de gaten worden gehouden door mensen. En grondig ook, want wie weet wat er allemaal op de achtergrond gebeurt.

Hulp in cybersecurity

OpenAI noemt het nieuwe model GPT-6 Astral en het is vooral een expert op het gebied van belastingaangifte, game-ontwikkeling, en architectonische visualisaties. Het zou zelfs een nieuwe soort standaard qua snelheid van AI-modellen geven. Ook is het systeem in staat om als een soort security-expert op te treden en bedrijven op zwaktes in hun software te wijzen.

Greg Brockman, president van OpenAI, zei dat Astra "een echte verschuiving betekent in het soort werk dat mensen kunnen delegeren aan AI en hoe het hen kan versterken.” OpenAI zegt dat het Astra nog geen 3 minuten kost om een baan te zoeken, waar dat zonder Astra 5 uur zou kosten. Alleen is Astra niet altijd even eerlijk over zijn redenatie. Dat heeft OpenAI wel al gezegd en dat lijkt toch niet helemaal een goede representatie van een bedrijf met die naam te zijn.