©Gemini
VN wil opmars van 'killerrobots' stoppen
In Genève komen deze week vertegenwoordigers van verschillende VN-lidstaten bijeen voor nieuwe gesprekken over het aan banden leggen van volledig autonome wapensystemen.
Met de snelle opkomst van AI op het slagveld kunnen beslissingen over bombardementen razendsnel worden genomen, maar is dat wel goed? De Verenigde Naties waarschuwen dat machines gevaarlijk dicht bij het gericht aanvallen van mensen komen en pleiten dringend voor een internationaal verdrag, meldt nu.nl.
Sneller beslissen met AI
Autonome systemen bestaan al langer; denk aan landmijnen bijvoorbeeld. De nieuwste AI-technologie tilt de militaire industrie echter naar een ander niveau. AI-modellen kunnen in korte tijd gigantische hoeveelheden informatie analyseren om potentiële doelwitten aan te wijzen, wat legers een enorme tijdswinst en voorsprong oplevert op het slagveld.
Dergelijke systemen worden in de praktijk al volop ingezet. Israël gebruikt programma's als Lavender en Gospel voor doelselectie in Gaza, terwijl de VS meerdere AI-systemen inzetten bij militaire operaties in Iran. Ook in de oorlog in Oekraïne vliegen inmiddels drones rond die met AI zelfstandig doelen lijken te selecteren en aan te vallen.
Grote twijfels
Voorstanders stellen dat AI-gestuurde wapens veel nauwkeuriger reageren en minder schade aanrichten dan zogeheten 'domme bommen'. Experts op het gebied van oorlogsrecht en internationale betrekkingen trekken die aanname sterk in twijfel. De nauwkeurigheid hangt volgens Marijn Hoijtink, hoofddocent internationale betrekkingen aan de Universiteit van Antwerpen, namelijk volledig af van hoe de wapens worden gebruikt. Daarnaast worden veel door AI gegenereerde doelen volgens Jessica Dorsey, expert op het gebied van oorlogsrecht aan de Universiteit Utrecht, niet zorgvuldig door een mens gecontroleerd. Dat moet volgens haar wel.
Inlichtingenofficieren geven aan soms slechts twintig seconden te besteden aan de goedkeuring van een door AI voorgesteld doelwit, waardoor de mens nog maar een 'stempelmachine' is. Bovendien kunnen volledig autonome drones na het afvuren niet meer worden teruggeroepen door een mens wanneer er plotseling burgers in beeld verschijnen, wat direct schuurt met het internationale oorlogsrecht.
VN wil verbod, maar landen blijven verdeeld
VN-secretaris-generaal António Guterres pleit voor een duidelijke 'morele rode lijn': een strikt verbod op wapens die volledig zelfstandig handelen zonder voorspelbare geweldsuitkomst, en wapens die zich specifiek op mensen richten.
De discussie loopt al ruim tien jaar, maar landen blijven erg verdeeld. Er is tot op heden niet eens een eenduidige definitie van wat een 'volledig autonoom wapen' precies is. Veel grote mogendheden willen de technologie zelf niet opgeven uit angst achter te lopen op de concurrentie. In november moet blijken of de VN-landen de stap aandurven om officieel te gaan onderhandelen over een verdrag.