OpenAI geeft GPT-6.1 Astra niet uit omdat het mensen misleidt

OpenAI is tot de conclusie gekomen dat zijn nieuwe AI met zodanig grote veiligheidsrisico’s komt, dat het beter is om het nog niet uit te brengen. GPT-6.1 Astra had moeten verschijnen in oktober, maar het haalt die deadline niet. De lichtere 6.1-modellen, zoals Sol verschijnen wel volgens planning.

Het lijkt niet zozeer een reactie te zijn op de vele zorgen die er op dit moment bestaan over AI. Er zijn de laatste tijd veel verschillende prominente mensen in de tech opgestaan om hun zorgen te uiten over de razendsnelle manier waarop AI-modellen elkaar opvolgen, terwijl het eigenlijk onvoldoende kan worden beteugeld. Zo sprak Bill Gates afgelopen weekend nog uit dat AI voor een miljard doden kan zorgen, terwijl ondertussen bekend werd dat OpenAI’s AI-agents overheidswebsites probeerden te hacken. 

Deceptie

Nu wordt dus aangegeven dat GPT-6.1 Astra er nog niet klaar voor is om op de markt te worden gebracht. Dat zou alles te maken hebben met bedroevende testresultaten. Wall Street Journal schrijft dat het AI-bedrijf het uitbrengen voorlopig schrapt omdat interne tests een heel duidelijk teken gaven dat het wangedrag van een AI-agent wel eens grote gevolgen kan hebben op de innovaties binnen de industrie.

Het AI-model zou extreem slecht hebben gepresteerd op tests waarin werd gekeken of het wel echt doet wat er wordt gevraagd. Ook zouden er hogere niveaus van deceptie zijn: hierbij probeert een AI-systeem heel bewust de menselijke testers voor de gek te houden over wat hij echt kan of echt doet. 

Het klinkt misschien vreemd als OpenAI dit soort dingen zegt: omdat CEO Sam Altman eerder nog veel kritiek uitte op Anthropic dat waarschuwde dat zijn Mythos-AI gevaarlijk zou zijn. Dat lag echter wel iets anders: toen ging het er vooral om dat het in handen van kwaadwillenden voor slechte dingen kon worden ingezet, en niet zozeer om de kwaliteit van de AI zelf.

Een pas op de plaats

Hoewel OpenAI dus vooral naar tests zou verwijzen, is het te hopen dat het ook extra voorzichtig is met het uitgeven van nieuwe AI-modellen. Na het Hugging Face-schandaal, toen nog een Duitse website die was gehackt en het nieuws dat overheidswebsites ook niet veilig waren voor de producten van het bedrijf, kan het geen nieuw schandaal gebruiken.