© Bogdan Kulynych

Fotoalgoritme Twitter 'ziet het liefst dunne, feminiene mensen'

Een aantal van de gezichten die zijn aangemaakt om het algoritme van Twitter te testen.

Wedstrijd vooroordelen vinden

Fotoalgoritme Twitter 'ziet het liefst dunne, feminiene mensen'

10-08-2021 19:05 Laatste update: 19:16

Het foto-afknipalgoritme van Twitter heeft liever dunne, jonge, vrouwelijke mensen met een lichte huidskleur. Dat blijkt vandaag uit de resultaten van een wedstrijd die Twitter organiseerde om vooroordelen in het algoritme op te sporen.

Twitter-topman Dantley Davis bood afgelopen jaar zijn excuses aan voor het 'racistische' algoritme van de site. Dit algoritme, dat Twitter gebruikt om de previewversie van foto's aan te maken, bleek mensen met een donkerdere huidskleur uit te sluiten en zich vooral te richten op mensen met een lichtere huidskleur.

Daarop besloot Twitter om het algoritme in de mobiele app voorlopig helemaal niet meer te gebruiken. Ook schreef het bedrijf een wedstrijd uit om zoveel mogelijk van dit soort vooroordelen in het algoritme op te sporen.

Algoritme wil lichte of warme huidskleur

De winnaar van die wedstrijd, Bogdan Kulynych, is als student verbonden aan de Zwitserse EFPL-universiteit. Hij maakte een reeks gezichten aan. Van elk gezicht maakte hij varianten met andere huidskleuren, leeftijden en geslachtskenmerken. De meest doorslaggevende aanpassing bleek de huidskleur: hoe warmer of lichter de huid, hoe sneller de foto op het gezicht werd uitgesneden. 

Daarna bleek geslacht het belangrijkst: in 25 procent van de gevallen werden foto's met een "stereotype feminiener uiterlijk" sneller centraal gesteld door het algoritme. Ook dunnere gezichten kregen sneller de aandacht van het algoritme. 

Dit was de eerste keer dat Twitter ooit een dergelijke competitie gehouden heeft om zijn eigen algoritmen te bestuderen. Kulynych won 3.500 dollar (2.985 euro) met zijn onderzoek. 
 

Geen grijze haren

Uit ander onderzoek dat voor de competitie werd uitgevoerd, bleek dat Twitters fotoalgoritme mensen met wit of grijs haar liever mijdt. Ten slotte werd ook duidelijk dat een Engelse tekst sneller werd uitgelicht dan een tekst in het Arabische schrift. 

Volgens Rumman Chowdhury, de baas van Twitters team dat het ethisch gebruik van algoritmen bestudeert, toont dit onderzoek aan dat onze eigen "onrealistische" ideeën over wat mooi is, doorsijpelen in dit soort filters. Met de resultaten van deze wedstrijd hoopt Twitter het algoritme te verbeteren.

Minder last van SNURKEN: helpen deze gadgets echt?