Meta, Anthropic, Google en OpenAI moeten op het matje komen bij Trump

De Amerikaanse president Trump gaat om tafel met grote techbedrijven om te spreken over AI-veiligheid. Dit gesprek komt niet uit de lucht vallen: nadat meerdere AI-agents van OpenAI waren ontsnapt uit hun testomgeving is er een brandbrief uitgegaan vanuit verschillende experts en bedrijven. Nu wordt dit met de president besproken.

Niet dat het alleen bij OpenAI mis is gegaan: ook Anthropic ontdekte na onderzoek dat daar een uitbraak van AI is geweest. De Amerikaanse regering zou tests voor geavanceerde AI-modellen hebben afgerond en daarover wil het graag om tafel met Meta, Anthropic, Google en OpenAI. Ze zitten dinsdag met functionarissen in het Witte Huis om te kijken naar vrijwillige veiligheidstests door de overheid. Het testonderwerp zijn dan de meest geavanceerde Amerikaanse AI-modellen. 

Een veiligheidstest voor AI-modellen

De Amerikaanse overheid is bezorgd over de steeds krachtiger wordende AI-modellen die voor cyberaanvallen kunnen worden ingezet. De regering heeft zelf al vrijwillige cybersecuritytests ontwikkeld en wil deze nu bespreken met de bedrijven van wie de AI-modellen waarschijnlijk door dat testproces heen zullen moeten gaan. Wie er precies komen is onbekend. Hoe de overheid de tests precies voor zich ziet is ook nog een mysterie. Dat zal het eerst met de techbedrijven bespreken. En, gezien de cyberveiligheid, misschien verder met niemand.

De schrik zit er goed in als het om het verhaal OpenAI-Hugging Face gaat, omdat de malafide agent zelfs berichten zou hebben achterlaten over hoe toekomstige versies van zichzelf de interne maatregelen konden ontsnappen. Ook voor OpenAI is het schrikken, want de overheid denkt dat het bedrijf wetten op consumentenbescherming heeft geschonden.

CEO Sam Altman van OpenAI is vorige week al in het Witte Huis geweest om de details van de vrijwillige tests en de komende AI-producten te bespreken, En mogelijk zou de Verenigde Staten de kunst kunnen afkijken van zijn grote concurrent China, waar AI al onderhevig is aan een gecentraliseerd systeem.