Gezichtsherkenning

Amazon-topman: niet verantwoordelijk voor techmisbruik

17 juni 2019 13:34

Amazon is niet verantwoordelijk voor de wijze waarop klanten zijn gezichtsherkenningssoftware Rekognition gebruiken.

Dat zegt Amazons chief technology officer Werner Vogels in een interview met de BBC. Vogels vergelijkt de gebruikte kunstmatige intelligentie met staalfabrieken: soms wordt het staal gebruikt om couveuses voor baby's te maken, soms voor de productie van wapens.

Volgens Vogels is het juiste en ethische gebruik van de software niet de verantwoordelijkheid van Amazon: uiteindelijk is het aan de samenleving en de politiek om te beslissen onder welke voorwaarden de technolgie wordt ingezet.

"De technologie wordt op veel plaatsen voor de juiste zaken gebruikt", verklaart Vogels tegenover de BBC. Amazon wijst op een Amerikaanse ngo die Rekognition gebruikt om vermiste tieners op te sporen door prostitutie-advertenties te doorzoeken.

Omstreden

Ondanks het gebruik voor het opsporen van vermiste kinderen is Rekognition omstreden, ook onder werknemers van Amazon zelf. Vorige zomer schreven medewerkers van het bedrijf een open brief aan ceo Jeff Bezos waarin zij hem opriepen om te stoppen met het verkopen van gezichtsherkenningssoftware aan opsporingsdiensten.

Ook de Amerikaanse burgerrechtenorganisatie ACLU is zeer kritisch over de software. “Rekognition is een krachtig spionagesysteem om rechten te schenden en mensen op ras te beoordelen”, aldus de ACLU.

Onschuldige burgers

Volgens tegenstanders van Rekognition kan de gezichtsherkenningssoftware ertoe leiden dat onschuldige burgers ten onrechte worden aangemerkt als voortvluchtige criminelen. Bij een testje door de ACLU bleek dat Rekognition 28 leden van het Amerikaanse Congres onterecht identificeerde als crimineel. Ondanks dergelijke kritiek blijft Amazon de software leveren aan politiediensten.

Microsoft besloot onlangs om zijn gezichtsherkenningstechnologie niet aan een politiedienst te verkopen. Het bedrijf vreest dat gebruik van zijn software ertoe zal leiden dat onschuldige minderheden vaker staande zullen worden gehouden. Microsoft-ceo Satya Nadella noemde veel van de huidige toepassingen van gezichtsherkenning begin dit jaar ‘verschrikkelijk’.

Surveillance-technologie

Nadella is niet de enige tech-ceo die zich zorgen maakt over de maatschappelijke gevolgen van sommige innovaties. In een toespraak op Stanford zei Apple-ceo Tim Cook zondag dat technologiebedrijven verantwoordelijkheid moeten gaan nemen voor de chaos die ze creëren. Hij waarschuwde onder meer voor de gevaren van surveillance-technologie.

Miniatuurvoorbeeld
Lees ook:

Tim Cook: 'houd techbedrijven verantwoordelijk voor chaos'

Miniatuurvoorbeeld
Lees ook:

Microsoft: '1984' dreigt door gezichtsherkenning