Gezichtsherkenning Microsoft herkent donkere huidskleuren beter

Microsoft heeft zijn gezichtsherkenning op het gebied van donkere huidkleuren verbeterd.

Het aantal fouten bij het herkennen van mannen met een donkere huidkleur is 20 keer lager dan voorheen, meldt Microsoft. Bij vrouwen met een donkere huid is het aantal foutmeldingen negen keer lager. Door die verbeteringen zijn de verschillen in geslaagde gezichtsherkenning veel kleiner geworden tussen verschillende bevolkingsgroepen, zegt Microsoft.

Diversiteit

Het bedrijf heeft zijn systemen beter gemaakt door die te trainen met meer diverse datasets. Kunstmatige intelligentie leert door grote hoeveelheden data te analyseren en te vergelijken, in dit geval portretfoto's.

"Als we zelflerende systemen trainen om beslissingen van een vooringenomen samenleving na te bootsen, met behulp van gegevens die door die maatschappij worden gegenereerd, dan zullen die systemen de vooroordelen overnemen", zegt Microsoft-onderzoeker Hanna Wallach.

Gezichtsherkenning van zowel Microsoft als andere bedrijven heeft het meeste moeite met het herkennen van vrouwen met een donkere huidkleur. Ook haarstijlen, juwelen en brillen zijn moeilijk voor de kunstmatige intelligentie. Om het systeem beter te maken heeft Microsoft zijn datasets niet alleen vergroot, maar ook nieuwe, meer diverse data verzameld. Daarmee is het systeem van Microsoft ingesteld op het herkennen van de gezichten aan meer precieze details.

Kritiek

In 2015 ging Google nog diep door het stof toen de Google Foto's-app een foto van een zwarte vrouw labelde als gorilla. Inmiddels zijn er grote stappen gezet op het gebied van automatische gezichtsherkenning. Zo zijn er zorgen rond de inzet van Amazon-gezichtsherkenning voor het automatisch zoeken naar criminelen. Activisten en personeel vrezen een surveillancestaat. In China is dat al praktijk, en wist software eerder dit jaar een verdachte uit 60.000 concertgangers te vissen.

Ook Microsoft levert zijn software voor gezichtsherkenning aan de Amerikaanse overheid. Zo wordt de software gebruikt door de Amerikaanse immigratiedienst, die door het scheiden van ouders en kinderen in opspraak raakte. Ruim 150 medewerkers van Microsoft ondertekenden een petitie waarin Microsoft-CEO Satya Nadella werd opgeroepen te stoppen met het leveren aan clouddiensten aan de immigratiedienst. Daar ging Nadella niet op in, wel beloofde hij dat Microsoft niet meewerkt aan het scheiden van families aan de grens.