OpenAI-wetenschapper: ‘Niemand is klaar voor de gevolgen van AI’

Dat er een grote groep mensen is die niets van AI moet hebben is bekend, maar nu zegt een topwetenschapper van OpenAI dat we als mensheid niet klaar zijn voor de consequenties van kunstmatige intelligentie. 

Het gaat om een van de hoogste wetenschappelijk adviseurs bij het bedrijf, Jakub Pachocki. Hij stelt dat we extreem voorzichtig moeten zijn over hoe snel AI zich ontwikkelt. Hij zegt zelfs dat er misschien vaker ingegrepen moet worden om te zorgen dat mensen wel de touwtjes in handen houden als het om AI gaat. 

OpenAI Astra

Hij zegt dat hij zich zorgen maakt dat niemand is voorbereid op de snelle opkomst van intelligentie. De timing is daarbij interessant: OpenAI heeft net zijn gevaarlijkste AI op de markt gezet, namelijk AI-model Astra. Temidden van meerdere incidenten waarbij zijn AI-agents zijn uitgebroken. 

Het zijn zeker in het licht van wat er recent bij OpenAI heeft plaatsgevonden bepaald geen geruststellende woorden. Toen uitkwam dat OpenAI-agents Hugging Face hadden gehackt, zei OpenAI dat dit nog nooit was gebeurd. Echter wist het toen al dat het wel degelijk eerder was gebeurd, namelijk met een Duitse website. Dat deze waarschuwing vanuit een medewerker komt is dus extra reden tot zorg.

Niet dat hij per se zijn eigen werkgever als de grote boosdoener afschildert: hij geeft juist aan dat het bedrijf een geautomatiseerde versie van hemzelf, Pachocki dus, moet bouwen: een AI-onderzoeker die bijhoudt wat de staat van AI is en hoe snel het zich ontwikkelt. “We gaan naar een wereld met heel intelligente machines en we moeten zorgen dat de transitie ernaartoe goed uitpakt voor de mensheid,” schrijft hij.

AI Act

In ieder geval is er binnen de Europese Unie nu een AI Act van kracht. Sinds 2 augustus moeten AI-bedrijven bewijzen dat hun krachtigste modellen niet op eigen houtje cyberaanvallen kunnen lanceren of om de menselijke controle heen kan werken. Dat moet worden bewezen voor een product in Europa op de markt komt.