AI-paniek: angstzaaierij, afleidingsmanoeuvre of complot? Wat is hier aan de hand?

Een opvallende waarschuwing van Anthropic-topman Dario Amodei kon rekenen op nog opvallendere bijval van OpenAI's Sam Altman, Google DeepMind en Elon Musk. Alle vier willen zogenaamd de rem op AI-ontwikkeling zetten. Experts kijken vreemd op, China spreekt van 'angstzaaierij. Hoe zit het nou echt?

Anthopic-topman Amodei waarschuwde in een lange brief voor de gevaren van de snelheid waarop AI nu ontwikkeld wordt. Hij wijst op risico's zoals 'losbrekende' agents die op eigen houtje bedrijven hacken. Inderdaad een zorgelijk punt, waardoor het best logisch klinkt dat Amodei snel bijval kreeg van grote concurrent Sam Altman van OpenAI. Ook Demis Hassabis van Google DeepMind kan zich vinden in de woorden van Amodei. Dat zelfs de dwarse Elon Musk het eens is met de twee, is al wat opvallender.

Oplossing voor de dreiging is een pas op de plaats, vinden de vier van de grootste AI-bedrijven ter wereld dus. Bovendien willen ze opeens toezicht van overheden, met name de Amerikaanse overheid, en ook onafhankelijke toezichthouders. De Amerikaanse president Trump lijkt de memo nog niet ontvangen te hebben: hij wuift de zorgen weg en wil grote concurrent China vooral voorblijven. Waarschijnlijk hadden de grote AI-bedrijven Trump liever aan hun zijde gehad – want, spoiler: hier wordt en smerig spelletje gespeeld – maar Trump ziet de race het liefst gewoon op volle snelheid doorgaan: gevaren of niet.

'Remmen? Rem dan!'

Belangrijke adviseurs van Trump vragen zich hardop af waarom Amodei en de rest van de AI-leiders niet gewoon zelf iets doen aan het tempo van de AI-ontwikkeling, als ze zich zo'n zorgen maken. "De makkelijkste manier om geen superintelligentie te bouwen, is om af te spreken die niet te bouwen", aldus David Sacks in reactie op Amodei's blog. Sacks is medevoorzitter van Trumps raad van adviseurs voor wetenschap en technologie. "Het eisen van je eigen regelgevingskader naar voorkeur als de prijs van die eis zal eruitzien als chantage van het publiek en het politieke systeem", schreef Sacks, en daar raakt hij de kern.

Critici zien namelijk ook een soort kartelvorming in de plotselinge saamhorigheid. De vier grote AI-bedrijven hebben een hoop gezamenlijke belangen, waar ze liever geen extra moeilijkheden bij willen hebben – zoals de open-source AI-beweging uit onder meer China, maar ook écht strenge wetgeving zien ze niet zitten. Dus wat doe je dan? Zelf het narratief vormgeven, zodat je de touwtjes in handen houdt.

Zijn chatbots echt losgelagen, of komt dat gewoon goed uit?

Dat narratief spin je rond een vermeende dreiging, want het klinkt wel echt eng, die zelf-hackende agents van verschillende bedrijven. Toch gebeuren zulke hacks door chatbots al veel en veel langer, beschrijft auteur Corey Doctorow. Niet de eerste de beste: hij bedacht de term 'enshittification' en schrijft veel over digitaal recht, copyright en de digitale economie. Een belangrijke alinea een blogpost van afgelopen weekend:

Zo klinkt het al een stuk minder eng, toch? Ja: het is knap en spannend wat die chatbots bij elkaar hebben gehackt, maar ook wat je kan verwachten als je chatbots zonder datalimiet hun gang laat gaan. AI-bedrijven moeten vooral beter opletten – maar dat doen ze niet want het credo in Silicon Valley is 'move fast and break things'. 

Bovendien is zo'n vaag doembeeld als 'oeps, de computer ging op eigen houtje hacken' een geweldig doembeeld voor als je regels wil – zeker als je die regels snel wil, en zoveel mogelijk naar je eigen hand. En het helpt ook als we ons zorgen maken om zo'n doembeeld – terwijl AI nu al op slagvelden wordt gebruikt en datacenters het klimaat verder onder druk zetten. Dat zegt AI-deskundige Timnit Gebru tegen Wired. Eind 2020 al werd ze door Google ontslagen wegens haar felle kritiek op de werkelijke gevolgen van AI, sindsdien onderzoekt ze alle nare gevolgen van AI – van ingebouwd racisme tot de autonome killer-drones die nu al in de strijd tussen Oekraïne en Rusland worden ingezet.