Anthropic is bang voor AI die zichzelf beter maakt

Anthropic is bang voor AI die zichzelf beter maakt

Praat mee!
Redacteur

AI-bedrijf Anthropic vindt dat de hele sector even gas terug moet nemen. In een rapport dat het donderdag publiceerde, pleit het zelfs voor een wereldwijde pauze bij de ontwikkeling van de allerzwaarste AI-systemen. Anthropic is namelijk bang dat we de controle gaan verliezen. 

Jack Clark, de medeoprichter van het bedrijf, vergelijkt de situatie in een interview met de Britse openbare omroep BBC met een auto waarbij alleen het gaspedaal werkt. Een rempedaal zit er nog niet op en dat begint langzaamaan ongemakkelijk te worden. Remmen op de motor kent immers ook zijn limieten.

Een pauze inlassen is echter makkelijker gezegd dan gedaan. Als één bedrijf stopt, sprinten de concurrenten gewoon vrolijk verder. Daarom moet zo'n rem er volgens Anthropic internationaal komen, met afspraken tussen grote AI-bedrijven en tussen landen onderling. Vooral de VS en China zouden mee moeten doen, anders heeft het weinig zin. 

Sneeuwbaleffect

AI wordt inmiddels steeds meer ingezet om snellere AI te ontwikkelen. Daardoor ontstaat een soort sneeuwbaleffect. Anthropic vreest een systeem dat zichzelf slimmer maakt zonder dat er nog veel mensen aan te pas komen. Zover is het volgens het rapport nog niet en het is ook niet onvermijdelijk dat het zo loopt. Maar de mens speelt bij elke nieuwe stap in de ontwikkeling een steeds kleinere rol, zo waarschuwt het bedrijf.

De komende maanden wil Anthropic AI-bedrijven, overheden en wetenschappers daarom om de tafel krijgen om te kijken hoe zo'n pauze in de praktijk vorm zou kunnen krijgen. Of dat gaat lukken, is koffiedik kijken. 

;