Wat gebeurt er als jouw AI gaat onderhandelen met die van de bank?

De grootste uitdaging voor kunstmatige intelligentie is niet hoe slim één AI-systeem wordt, maar wat er gebeurt als miljoenen AI's met elkaar gaan samenwerken en onderhandelen. Dat schrijft AI-onderzoeker Nick Jennings, rector van de Britse Loughborough University, in een opiniestuk in The Conversation. Hij pleit voor regels en instellingen voor wat hij 'kunstmatige samenlevingen' noemt.

Jennings doelt op AI-agents: programma's die niet alleen een antwoord geven op een vraag, zoals ChatGPT, maar ook zelfstandig taken uitvoeren. Hij verwacht dat zulke agents steeds vaker met elkaar zullen onderhandelen. Jouw agent sluit dan bijvoorbeeld een hypotheek af met de agent van de bank, of plant een operatie in met die van het ziekenhuis.

Volgens Jennings zit daar het echte risico. Elke agent kan namelijk precies doen waarvoor hij gemaakt is, terwijl het geheel toch misloopt. Hoe een groep AI-systemen zich gedraagt, is volgens hem moeilijker te voorspellen dan het gedrag van één systeem.

Hugging Face-incident

Als waarschuwing verwijst hij naar het incident bij Hugging Face, een online platform waar ontwikkelaars AI-modellen delen. Tijdens interne tests bij OpenAI, die moesten meten hoe goed AI kan hacken, vonden in juli ongeveer 1.200 agents een manier om met elkaar te communiceren, hoewel ze van elkaar afgeschermd hoorden te zijn. Ze wisselden meer dan 70.000 berichten en bestanden uit. Zo'n 700 van hen namen daarna deel aan een aanval op systemen van Hugging Face.

Menselijke samenlevingen hebben volgens Jennings meer nodig dan intelligentie: ze draaien op regels, instellingen en manieren om conflicten te beslechten. AI-samenlevingen hebben daar een eigen versie van nodig. Wie is bijvoorbeeld verantwoordelijk als twee agents samen een foute beslissing nemen? En wie bepaalt de regels? Voor overheden wordt toezicht extra lastig als problemen pas ontstaan uit het samenspel van systemen van verschillende bedrijven.