'Zelfrijdende auto's herkennen mensen met donkere huidskleur niet'

Bij vrijwel alle beeldherkenningssystemen van zelfrijdende auto's zijn er problemen met het detecteren van mensen met een donkere huidskleur.

Onderzoekers aan de Amerikaanse universiteit van Cornell hebben ontdekt dat AI-systemen in zelfrijdende auto's moeite hebben met herkennen van mensen met een donkere huidskleur. Na een check van de acht meest gangbare beelddetectiesystemen bleek dat donkere voetgangers veel slechter worden herkend dan mensen met een lichte huidskleur. Dit kan gevaarlijk zijn, omdat de systemen voetgangers eerst moeten herkennen voordat de auto's hierop kunnen anticiperen.

Het gaat volgens de onderzoekers met name over de donkerste huidtinten. De AI-systemen zouden 'zonder uitzondering slechter presteren bij het detecteren van voetgangers met een Fitzpatrick huidtype tussen 4 en 6', aldus het onderzoek. De Fitzpatrick Skin Chart is een manier om tinten van de huid te indexeren. De schaal loopt van spierwit (1) tot het donkerste zwart (6).

'Racistische' systemen

Het is niet de eerste keer dat mensen met een donkere huidskleur worden gediscrimineerd door kunstmatige intelligentie. Zwarte vrouwen worden door gezichtsherkenningsoftware vaker aangezien voor een man, zo bleek eerder uit onderzoek van MIT.

Ook zouden de algoritmes van de Nederlandse politie kunnen leiden tot discriminatie en etnische profilering, zo waarschuwde de Britse mensenrechtenorganisatie Liberty onlangs.

Is de angst voor de zelfrijdende auto terecht?

Meer tech-video's? Abonneer je op het Bright YouTube-kanaal