Experts luiden noodklok: 'AI bedreigt mensheid, meer regels nodig'

Vooraanstaande experts op het gebied van AI willen dat de gevaren van kunstmatige intelligentie net zo hoog op de politieke agenda komen te staan als nucleaire dreiging en pandemieën.

De ontwikkelingen rond kunstmatige intelligentie gaan de afgelopen maanden razendsnel. AI-experts kunnen de vorderingen zelf ook al bijna niet meer bijhouden, laat staan wetgevers en het algemene publiek. In maart riepen duizenden experts daarom al op tot een pauze in de ontwikkeling van de technologie en AI-pionier Geoffrey Hinton vertrok onlangs bij Google om te waarschuwen voor de gevaren van AI.

AI-experts stellen het in een nieuwe verklaring nog simpeler: "Het beperken van het risico van het uitsterven van de mensheid door AI zou een wereldwijde prioriteit moeten hebben naast andere risico's op maatschappelijke schaal, zoals pandemieën en een kernoorlog." Met de oproep willen de ondertekenaars de gevaren van AI zo duidelijk en dringend mogelijk overbrengen aan het publiek en aan regeringen.

Grote namen onder het statement

De oproep is ondertekend door tal van grote namen op gebied van AI en computerwetenschap. De bij Google vertrokken Hinton heeft zijn naam onder de oproep gezet, net zoals Yoshua Bengio, net als Hinton één van de grondleggers van de kunstmatige intelligentie. Sam Altman, topman van ChatGPT-maker OpenAI heeft ook getekend, evenals Demis Hassabis, topman van Google DeepMind.

Verder zien we de naam van Dario Amodei, topman van Anthropic, achter de chatbot Claude, met het indrukwekkende geheugen. En de lijst gaat verder: veel bestuurders van AI-bedrijven, en veel professoren en onderzoekers op gebied van AI van vooraanstaande universiteiten als Berkeley, Stanford, MIT, Cambridge, Harvard en Oxford.

Bewust geen hele lijst

Deze nieuwste waarschuwing zou een 'coming-out' zijn voor topmensen en experts, die zich privé veel meer zorgen maken over de technologie waar zij in de praktijk aan werken. Dat zegt Dan Hendrycks, topman van het Center for AI Safety dat de oproep heeft gepubliceerd. "Er is een veelvoorkomende misvatting, zelfs in de AI-gemeenschap, dat er maar een handvol doemdenkers zijn", aldus Hendrycks. "Maar in feite uiten veel mensen privé hun bezorgdheid over deze dingen."

Volgens Hendrycks is ook bewust gekozen voor een zeer kort statement, in plaats van een hele lijst van eventuele oplossingen. "Als je dat doet, verwater je de boodschap", aldus Hendrycks. En dus telt de waarschuwing 22 woorden, en wordt bewust de vergelijking gemaakt met pandemieën en kernoorlog.

Regulering vooral nog veel gepraat

Hoewel de topmensen met hun handtekening oproepen tot regulering, blijft het in de praktijk vooral nog bij gesprekken. Topmensen als Altman, Hassabis en Amodei spraken de afgelopen weken zowel in de VS als in de EU met wetsmakers.

Maar als er sprake was van de strenge regels, zou er volgens geruchten door die topmensen zijn gedreigd met terugtrekken van hun AI-diensten uit Europa – iets dat later door Altman werd ontkend.

Luister ook onze podcast: