Anthropic-veiligheidsexpert: 'meer dan 10% kans dat AI mensheid uitroeit'

Een veiligheidsexpert van AI-bedrijf Anthropic denkt dat er meer dan 10 procent kans bestaat dat AI de mensheid binnen het komende decennium uitroeit.

Op X reageert Evan Hubinger van Anthropic op een bericht van AI-onderzoeker Jacob Coxon, die schrijft: "De mensen die AI bouwen, geloven oprecht dat AI ons allemaal tegen het einde van dit decennium kan uitroeien. Dat is geen marketingstunt." 

Hubinger specificeert dat de kans groter dan tien procent is, dat AI de mensheid binnen de komende tien jaar uitroeit. "Ik geloof dat Anthropic wel zijn best doet, maar we hebben nog geen plan om alignment voor superintelligentie op te lossen en we zijn ook niet duidelijk op weg in de juiste richting." 

Hubinger zegt dat het risico van de huidige modellen laag is, maar dat hij zich vooral zorgen maakt over superintelligentie dat voortkomt uit AI dat zichzelf verbetert. Die zelfverbetering gaat volgens de onderzoeker sneller dan verwacht.