Zorgen om politie-inzet gezichtsherkenning Amazon

Amazon ligt onder vuur vanwege de software voor gezichtsherkenning, die het aan politiekorpsen in de VS verkoopt.

Amazons technologie voor gezichtsherkenning 'Rekognition' wordt al sinds 2016 ingezet in de Amerikaanse staat Oregon. Het systeem wordt door de politie ingezet om verdachten met behulp van kunstmatige intelligentie op te sporen op videobeelden. Amazon zei eind vorig jaar zelf al dat de opsporingstijd van verdachten daalde van twee tot drie dagen tot enkele minuten, dankzij de software.

Mensenrechtenwaakhond American Civil Liberties Union (ACLU) maakt zich zorgen over de technologie en luidt nu de noodklok. ACLU heeft documenten in handen waarin Rekognition wordt toegelicht. Het blijkt dat de politiemacht uit Oregon zijn database met 30.000 portretfoto's van ooit gearresteerde mensen heeft opengesteld aan de software. Met een speciale app kan personeel foto's van verdachten vergelijken met die database.

Ook zou Amazon de politie aanmoedigen om contact op te nemen met potentiële andere klanten voor de technologie, zoals een bedrijf dat bodycams maakt. De kleine camera's die op het lichaam worden gedragen zijn de afgelopen jaren in opkomst en moeten er onder meer voor zorgen dat agenten hun macht niet misbruiken, omdat hun handelen altijd wordt opgenomen.

'Rechten schenden'

Maar de ACLU vreest dat bodycams gepaard met automatische gezichtsherkenning de politie veranderen in een surveillance-apparaat. Samen met 40 andere organisaties heeft ACLU een brief geschreven aan Amazon-ceo Jeff Bezos. "Rekognition is een krachtig surveillancesysteem dat direct beschikbaar is om rechten te schenden en mensen op ras te beoordelen", schrijven de organisaties. "Met Rekognition levert Amazon deze gevaarlijke toezichtsmachten rechtstreeks aan de overheid."

Amazon zegt dat Rekognition nuttige toepassingen heeft. "Het nut van dergelijke AI-diensten zal alleen maar toenemen naarmate meer bedrijven beginnen met het gebruik van geavanceerde technologieën", aldus Amazon. "Onze kwaliteit van leven zou veel slechter zijn als we nieuwe technologie zouden verbieden, omdat sommige mensen kiezen die te misbruiken. Stel je voor dat klanten geen computer konden, kopen omdat het mogelijk was om die computer voor illegale doeleinden te gebruiken."