Microsoft verkoopt gezichtsherkenning niet aan politie

Microsoft heeft 'nee' verkocht aan een politiedienst die het gezichtherkenningssysteem van het bedrijf wilde gebruiken voor politieauto’s en bodycams.

Volgens het softwarebedrijf zou gebruik van het systeem ertoe leiden dat onschuldige vrouwen en minderheden relatief vaak staande zouden worden gehouden, meldt Reuters. Het systeem zou minder goed onderscheid kunnen maken tussen verschillende vrouwen en minderheden, omdat het voornamelijk is getraind met behulp van foto’s van witte mannen.

Tijdens een conferentie op Stanford University vertelde Brad Smith van Microsoft dat de politiedienst uit de Amerikaanse staat Californië bij elke auto die agenten aan de kant zetten een gezichtsscan zou willen maken van de inzittenden. De gezichten zouden vergeleken moeten worden met een database van verdachten. Om welke politiedienst het precies ging, liet Smith in het midden.

Onder vuur

Met het beleid om de gezichtsherkenning niet te verkopen aan Amerikaanse politiediensten onderscheidt Microsoft zich van Amazon, dat juist al enige tijd onder vuur ligt omdat het zijn gezichtsherkenningssoftware Rekognition levert aan politiediensten. Onder meer de Amerikaanse burgerrechtenorganisatie ACLU heeft Amazon opgeroepen om daarmee te stoppen.

De Californische politiedienst is niet de enige belangstellende voor de gezichtsherkenningssoftware die door Microsoft de deur wordt gewezen. Volgens Smith heeft het softwarebedrijf ook geweigerd om zijn technologie te verkopen aan een niet nader genoemd ondemocratisch land dat de gezichtsherkenning wilde gebruiken in zijn hoofdstad.

Big Brother

Smith heeft zich in het verleden vaker kritisch uitgelaten over gezichtsherkenning. Eind vorig jaar waarschuwde hij voor Big Brother-achtige toestanden, waarbij overheden burgers overal kunnen volgen. Bij die gelegenheid pleitte hij ook voor meer regelgeving rondom gezichtsherkenning. “Voordat we op een dag wakker worden en vaststellen dat 2024 wel heel erg lijkt op het boek ‘1984’.”

Waar gebruik van gezichtsherkenning in totalitaire landen toe kan leiden, werd deze week nog maar eens duidelijk door een onthulling van The New York Times. De krant bericht dat verscheidene Chinese politiediensten gezichtsherkenningssoftware inzetten om etnisch te profileren. De politie gebruikt de software om Oeigoeren, een onderdrukte minderheid in China, te monitoren.