VS en Rusland doen er stiekem alles aan om regels voor autonome AI-wapens af te zwakken

De Verenigde Staten en Rusland hebben tijdens onderhandelingen bij de Verenigde Naties belangrijke regels voor AI-wapens afgezwakt. Zo verdwenen afspraken die ervoor moesten zorgen dat AI-wapens betrouwbaar werken en dat een mens controleert welk doel een AI-systeem wil aanvallen.

Het gaat om autonome AI-wapens. Denk bijvoorbeeld aan een drone die zelfstandig een doel uitzoekt en vervolgens bepaalt of het moet worden aangevallen.

Onderhandelingen

De onderhandelingen vonden begin september plaats in Genève. Honderden diplomaten uit verschillende landen probeerden daar voor het eerst tot internationale afspraken te komen over dit soort wapens. Het was de belangrijkste poging tot nu toe om regels voor dodelijke AI-wapens op te stellen.

Op de laatste dag gingen Amerikaanse en Russische diplomaten ongeveer vijftien uur lang door de tekst heen. Volgens drie mensen die bij de onderhandelingen betrokken waren en documenten die The Washington Post inzag, haalden ze daarbij in rap tempo meerdere belangrijke regels uit het voorstel. Even waren de twee grootmachten het eens over één ding: we moeten zo vrij mogelijk gebruik kunnen maken van AI-wapens.

Geschrapte regels

Er hoefde bijvoorbeeld volgens een andere geschrapte passage niet langer rekening te worden gehouden met ethische vragen bij het gebruik van AI in wapens. Daarnaast was misschien wel het belangrijkste het schrappen van een regel die bepaalde dat een mens eerst moest controleren welk doel een AI-systeem had uitgekozen voordat het wapen mocht toeslaan.

De onderhandelingen vonden grotendeels achter gesloten deuren plaats. Volgens de betrokkenen hadden zowel de VS als Rusland ongeveer tien juristen aanwezig om de tekst aan te passen. Kleinere landen konden het tempo volgens hen nauwelijks bijhouden.

Afspraken over autonome AI-wapens lijken ver weg, maar de discussie wordt urgenter

De onderhandelingen zijn onderdeel van een poging van de VN om internationale regels te maken voor autonome wapens. Uiteindelijk zou dat kunnen uitmonden in een internationaal verdrag waarin landen juridisch bindende afspraken maken. Zo ver is het voorlopig nog niet. In november praten de landen verder over de volgende stap.

De discussie wordt ondertussen steeds urgenter. AI wordt namelijk al gebruikt in echte oorlogen. Volgens The Washington Post gebruikte het Amerikaanse leger AI tijdens de oorlog met Iran om in de eerste 24 uur bijna duizend mogelijke doelen te identificeren. Ook Israël gebruikt AI bij militaire operaties.

Tegelijkertijd blijken AI-systemen steeds vaker dingen te doen die hun makers niet hadden verwacht. AI-bedrijven hebben de afgelopen maanden bijvoorbeeld gemeld dat hun systemen zelfstandig probeerden websites van andere organisaties binnen te dringen, waaronder Amerikaanse overheidswebsites. Dat maakt de vraag ook steeds belangrijker hoeveel vrijheid een AI-systeem op het slagveld eigenlijk moet krijgen. Moet een mens altijd toestemming geven voordat een doel wordt aangevallen of mag een AI dat uiteindelijk zelf bepalen?