We begrijpen AI steeds minder goed (maar het begrijpt ons wél steeds beter)

Twee wetenschappers waarschuwen dat de vooruitgang van AI ons begrip ervan begint te overstijgen, terwijl AI-modellen zelf ons net steeds beter leren begrijpen.

De waarschuwing staat in een editorial in het wetenschappelijke vakblad Science, geschreven door Eric Horvitz, hoofdwetenschapper bij Microsoft, en Robert West, onderzoeker aan de Zwitserse universiteit EPFL. Zij wijzen op drie ontwikkelingen.

De eerste is dat AI een steeds grotere rol speelt bij het ontwerpen en verbeteren van andere AI. Dat gebeurt in wat de auteurs "hoog-dimensionale ruimtes die de intuïtie tarten" noemen. In mensentaal: de systemen worden beter, maar mensen begrijpen steeds minder hoe dat komt.

Daarnaast beginnen AI-agents onderling te communiceren op manieren die steeds minder op de menselijke taal gaan lijken. Tegelijkertijd modelleren AI-systemen menselijk gedrag steeds nauwkeuriger. 

We verliezen onze grip

Dit alles kan er volgens de onderzoekers toe leiden dat we extreem krachtige maar oncontroleerbare AI’s gaan bouwen. Een mogelijk gevolg is dat we AI’s maken die ons vertellen wat we willen horen in plaats van wat waar is. Als zo’n model bedreven genoeg wordt, zouden we volgens de onderzoekers niet eens merken dat het gebeurt.

Toch zijn ze hoopvol. Een aantal maatregelen die we nu kunnen nemen, volgens hen: zorg ervoor dat AI zijn eigen ontwerpkeuzes kan uitleggen aan mensen, dat AI-taal detecteerbaar wordt en dat we statistische benchmarks die vaak eigenlijk niet veel zeggen vervangen door realistischere testomgevingen.