Anthropic-CEO wil dat AI-bedrijven minder snel AI ontwikkelen

De CEO van Anthropic, dat zelf enkele maanden geleden met zijn ‘gevaarlijke’ AI Mythos kwam, maakt zich zorgen over de ontwikkeling van AI. Hij denkt dat het te snel gaat en roept de AI-wereld op om het rustiger aan te doen. 

In een lange brief geeft CEO Dario Amodei aan dat hij denkt dat het verkeerd gebruiken van AI op de loer ligt en dat er een raamwerk van drie stappen moet komen om de ontwikkeling te vertragen en meer tijd te creëren om de risico’s in kaart te brengen en daar oplossingen voor te bedenken. Zijn blog is onder andere door Sam Altman van OpenAI en Elon Musk van SpaceXAI gecomplimenteerd: zij stellen dat hij met goede ideeën komt en Altman zegt dat hij ook met dit soort dingen bezig is.

Op de rem

In We Must Pace the Frontier schrijft Amodei: “Ik geloof dat AI in de komende 5 tot 10 jaar de meeste ernstige ziektes zou kunnen genezen, de economische groei sterk zou kunnen versnellen, een wereld van overvloed en zeggenschap zou kunnen creëren, en een renaissance van democratie en vrijheid zou kunnen inluiden. (...) Zorgvuldig ingezet kan AI het nieuwste zijn in een lange reeks technologische wonderen die de mensheid vooruit hebben geholpen en verheven.”

Hij schrijft echter ook dat AI risico’s met zich meebrengt en door de kracht van de technologie, die risico’s ernstig zijn. “Ze omvatten het risico van controleverlies over AI-systemen, misbruik van AI voor cyberaanvallen en bioterrorisme, en ernstige economische ontwrichting. Een race to the bottom, aangejaagd door commerciële belangen, kan deze risico's nog acuter maken.” Hij zegt dat hij er in de afgelopen maanden van overtuigd is geraakt dat er meer voorzichtigheid is vereist voor het aanpakken van de risico’s. Hij denkt dat de vooruitgang nog steeds snel zal lijken, ook als het tempo waarin de mogelijkheden van AI-modellen worden verbeterd was worden afgeremd.  

Externe checkers

Amodei zou graag zien dat er binnen AI-bedrijven reviewers komen van derde partijen die alle tools tot hun beschikking hebben. Ook wil hij dat AI-bedrijven onderling afspraken maken over veiligheidsstandaarden en limieten op het tempo van vooruitgang. Hij geeft wel aan dat overheden hierbij ook van belang zijn, zeker met het oog op het juridische gedeelte, maar ook het naleven van de afspraken. Hij stelt dat democratische overheden waar AI-bedrijven actief zijn aan de slag moeten.