China gebruikt AI voor 'geautomatiseerd racisme'
Terwijl westerse techbedrijven geregeld in opspraak komen omdat hun kunstmatige intelligentie per ongeluk racistisch uitpakt, zien ze in China het probleem niet. Chinese politiediensten maken gebruik van geavanceerde gezichtsherkenning om een etnische minderheid in de gaten te houden.
Het gezichtherkenningssysteem dat op een groot aantal plaatsen wordt ingebouwd in het uitgebreide Chinese netwerk van bewakingscamera's, kijkt louter naar Oeigoeren, schrijft The New York Times. Het systeem slaat aan op de uiterlijke kenmerken van de Oeigoeren en houdt bij waar zij zich bevinden.
Deskundigen noemen het systeem tegenover de Amerikaanse krant het eerste bekende voorbeeld van een overheid die kunstmatige intelligentie gebruikt voor etnische profilering, oftewel geautomatiseerd racisme.
De Oeigoeren zijn een onderdrukte islamitische minderheid in de westelijke provincie Xinjiang. Bijna een miljoen Oeigoeren zitten opgesloten in kampen, waar ze volgens de Chinese autoriteiten 'heropgevoed' worden. Volgens critici van China zijn het in feite concentratiekampen waar de Oeigoeren gedwongen worden om te werken.
Automatisch waarschuwen
The New York Times heeft gesproken met verscheidene mensen die kennis hebben van het systeem. Ook heeft de krant inzage gehad in databases die de politie gebruikt en materiaal van de AI-bedrijven die het systeem hebben ontwikkeld.
Een van de betrokken startups, CloudWalk geheten, prijst het systeem aan met de belofte dat het 'gevoelige groepen' kan herkennen. "Als er eerst een Oeigoer in een buurt woont, en er binnen 20 dagen zes Oeigoeren verschijnen, dan kan het systeem automatisch een waarschuwing sturen", schrijft het bedrijf op zijn website.
Uit documenten blijkt dat een groot aantal politiediensten in verschillende provincies en steden belangstelling heeft voor de technologie. In de centraal gelegen Chinese stad Sanmenxia wordt het systeem nu al een half miljoen keer per maand gebruikt om vast te stellen of iemand al dan niet een Oeigoer is.