Amazon-software ziet zwarte vrouw vaak aan voor man

De omstreden gezichtsherkenningssoftware van Amazon, Rekognition, heeft bij vrouwen met een donkere huid moeite om het geslacht vast te stellen.

Amazon Rekognition scoort daarbij veel slechter dan de gezichtsherkenningssoftware van IBM en Microsoft. Dat blijkt uit deze week gepubliceerd onderzoek van het MIT Media Lab, waarover The New York Times bericht.

Blanke mannen worden wel altijd goed herkend door Rekognition, zo blijkt uit het onderzoek. Bij blanke vrouwen doen zich wel problemen voor: in 19 procent van de gevallen classificeert de software hen als mannen.

Bij vrouwen met een donkere huid gaat Rekognition nog veel vaker de mist in: bij 31 procent denkt de software dat zij mannen zijn. Ter vergelijking: de gezichtsherkenningssoftware van Microsoft denkt in 1,5 procent van de gevallen dat een vrouw met donkere huidskleur een man is.

Foutmarge

Bij een onderzoek dat een jaar geleden uitkwam, scoorde Microsoft wel een stuk slechter: destijds classificeerde vrouwen met een donkere huidskleur een op de vijf keer als man. IBM deed het toen nog slechter.

Amazon wijst er tegenover The New York Times op dat de MIT-onderzoekers geen gebruik hebben gemaakt van de nieuwste versie van Rekognition. Volgens het bedrijf was er bij een interne test geen sprake van een hogere foutmarge bij personen met een donkere huidskleur.

Kritiek op Amazon

Amazon heeft het afgelopen jaar de nodige kritiek gekregen omdat het bedrijf Rekognition levert aan politiediensten. De Amerikaanse burgerrechtenorganisatie ACLU en Amazon-werknemers en -aandeelhouders hebben het bedrijf opgeroepen om daarmee te stoppen.

Concurrenten van Amazon hebben eveneens hun bedenkingen over het gebruik van gezichtsherkenningssoftware door opsporingsdiensten. Zo heeft Microsoft de overheid herhaaldelijk gevraagd om regels op te stellen.

Volg Bright op YouTube voor meer tech-video's