Beeld © Getty
Beeld © Getty
Zelflerende wapens

Techleiders tekenen belofte tegen wapens met AI

18 juli 2018 13:35

Enkele vooraanstaande techleiders, onder wie Elon Musk en de oprichters van Google-bedrijf DeepMind, beloven geen wapens met kunstmatige intelligentie te ontwikkelen.

De leiders tekenden de belofte van het Future of Life-instituut, een onofficieel samenwerkingsverband tussen onderzoekers en bedrijven die kunstmatige intelligentie (AI) ontwikkelen. De ondertekenaars van de belofte waarschuwen dat wapensystemen met kunstmatige intelligentie zonder menselijke tussenkomst doelwitten kunnen selecteren en aanvallen. Dat levert volgens hen een morele en pragmatische dreiging op.

"De ondertekenaars zijn het er allemaal mee eens dat de keuze om een mens te doden nooit door een machine genomen zou moeten worden", stelt het pleidooi. "Duizenden onderzoekers van kunstmatige intelligentie zijn het er over eens dat het wegnemen van het risico, de toerekenbaarheid en de moeilijkheid van het doden van mensen van autonome wapensystemen zeer krachtige instrumenten voor onderdrukking en geweld maakt. Zeker wanneer die apparaten gelinkt worden aan surveillancesystemen."

Druk op politici

De ondertekenaars hopen met de belofte politici zo ver te krijgen om regels te maken rond zelfdenkende wapensystemen. Hoewel het gebruik van traditionele wapens in tal van verdragen beperkt is, bestaan er nog geen wetten tegen wapens met AI. Experts zien het liefst wettelijke beperkingen, voordat de ontwikkeling van kunstmatige intelligentie verandert in een wapenwedloop.

De brief is ondertekend door tal van universiteiten, professoren en onderzoekers op het gebied van kunstmatige intelligentie. Ook getekend hebben de drie mede-oprichters van het Google-AI-project DeepMind, Tesla-topman Elon Musk, Skype-oprichter Jaan Tallinn en vooraanstaande AI-onderzoekers Stuart Russell, Yoshua Bengio, en Jürgen Schmidhube.

Ophef over AI van Google

Google beloofde onlangs al geen AI te ontwikkelen die kan worden gebruikt voor wapens of  of andere technologieën die erop gericht zijn mensen te verwonden. Ook mag de AI van Google niet worden ingezet voor technologieën die schade kunnen berokkenen. Als de kans op schade wel bestaat, moeten de voordelen van die AI daar ruimschoots tegenop wegen, schreef Google-ceo Sundar Pichai. 

Google kwam met de publicatie van zijn AI-principes nadat er ophef was ontstaan over de levering van kunstmatige intelligentie aan het Amerikaanse ministerie van Defensie. Amerikaanse militairen gebruiken algoritmes van Google om de precisie van drone-aanvallen te verbeteren.

Miniatuurvoorbeeld
Lees ook

'EU kan achterstand kunstmatige intelligentie inhalen'

Volg Bright

Like ons op Facebook.

Volg ons op Twitter en Instagram.

En subscribe je op ons YouTube-kanaal.