Gezichtsherkenning faalt: zwarte Amerikanen ten onrechte gearresteerd

In de Verenigde Staten gebruikt de politie steeds vaker systemen met gezichtsherkenning om verdachten op te sporen. Maar steeds vaker worden de verkeerde mensen gearresteerd. Tot nu toe lijkt het erop dat vooral zwarte Amerikanen daar het slachtoffer van zijn.

Verschillende politieafdelingen in de VS gebruiken AI om daders van misdaden op te sporen. In de stad Baltimore alleen werden vorig jaar meer dan 800 mensen op die manier opgespoord. Maar critici zeggen al jaren dat de technologie niet even accuraat werkt en raciale ongelijkheden zelfs kan versterken. 

Dat begint ook steeds duidelijker te worden als je naar de cijfers kijkt. De afgelopen jaren zijn in het land zes klachten ingediend, allemaal door zwarte Amerikanen, omdat ze ten onrechte gearresteerd werden nadat gezichtsherkenningstechnologie werd gebruikt. Onrechtmatige arrestaties van zwarte Amerikanen door het gebruik van AI gebeuren al minstens sinds 2020.

Algoritmes getraind met vooral witte gezichten

Uit recent onderzoek, dat in vakblad Government Information Quarterly werd gepubliceerd, blijkt dat de technologie een disproportionele impact heeft op zwarte mensen. Volgens de auteurs van de studie komt dat omdat de databanken die gebruikt worden om algoritmes te trainen, vooral witte gezichten bevatten. Daardoor zou de technologie niet in staat zijn om zwarte gezichten van elkaar te onderscheiden. 

Uit het onderzoek blijkt ook dat, hoewel over het algemeen meer foto’s van witte mensen worden gebruikt om de algoritmes te trainen, er in databanken disproportioneel veel mugshots van zwarte mensen voorkomen, foto’s van gearresteerde criminelen. Daardoor zou AI zwarte gezichten sneller als criminelen markeren.

Ook in Nederland

Toch groeit de technologie in sneltempo aan populariteit. Meer dan een op vier lokale politiedepartementen in de VS gebruiken gezichtsherkenning. Op federaal niveau is dat zelfs al de helft. Dat terwijl de technologie er in het overgrote merendeel van de gevallen niet in slaagt om de correcte persoon op te sporen.

Ook in Nederland gebruikt de politie gezichtsherkenning om criminelen op te sporen. Daarvoor worden twee databases gebruikt met in totaal meer dan 10 miljoen foto’s op, van minstens 7 miljoen mensen. De eerste database bevat enkel foto’s van zo’n 1,2 miljoen mensen die in verband zijn gebracht met misdaden. De tweede, grotere database, bevat vooral foto’s van mensen buiten de Europese Unie, die niet per se iets te maken hebben met de criminaliteit.

De aanstaande AI-wet, waar in EU-verband aan wordt gewerkt, verbiedt gezichtsherkenning via slimme camera's in de openbare ruimte.