Evoluerende AI kan grote risico’s opleveren (die we niet kunnen beheersen)

Verschillende onderzoekers waarschuwen voor de opkomst van evolueerbare AI (ook wel eAI genoemd). Dit zijn systemen die Darwiniaanse evolutie kunnen ondergaan, die daardoor unieke risico’s met zich meebrengen.

Die risico’s kunnen we alleen begrijpen en beperken door te kijken naar de lessen uit de evolutiebiologie. Die leert ons dat je evoluerende systemen moeilijk kunt beheersen, omdat die de neiging hebben “egoïstische” actoren voort te brengen. Bij AI verhoogt dit de kans dat het systeem niet meer handelt volgens menselijke doelen (de zogenaamde alignment).

Overleving opeisen

De AI hoeft hiervoor niet superintelligent te zijn om schade aan te richten en kan al gevaarlijk worden voordat het een menselijk niveau bereikt. Omdat AI en mensen dezelfde middelen delen, kan een zelf-replicerend systeem vitale bronnen voor overleving opeisen. Bovendien lokt elke vorm van controle resistentie uit, vergelijkbaar met bacteriën die antibiotica leren omzeilen.

Mettertijd wordt de dreiging er niet minder op, aangezien eAI verworven eigenschappen kan doorgeven en zichzelf doelgericht kan verbeteren, in plaats van te wachten op toevallige veranderingen. Hoe intelligenter het systeem wordt, hoe groter de kans dat het mensen kan misleiden met als doel aan onvermijdelijke controle te ontsnappen. De auteurs pleiten daarom voor een stevige vangrails. Zo moet de reproductie van AI-systemen onder gecentraliseerde menselijke controle blijven.