Facebook vindt beoordelen haatberichten nog moeilijk

Het lukt Facebook lang niet altijd om door gebruikers gemarkeerde haatberichten op de juiste manier te beoordelen.

Dat blijkt uit een test van ProPublica, dat vaker functies van Facebook op de proef stelt die haatberichten of oneerlijke behandeling tegen moeten gaan. Dit keer confronteerde de site Facebook met 49 berichten die door lezers waren ingestuurd.

Facebook zou die berichten verkeerd hebben beoordeeld, door haatberichten online te laten staan of juist door legitieme berichten te verwijderen. ProPublica toont op zijn site een aantal van die berichten. Het gaat daarbij vaak om racistische, seksistische en discriminerende plaatjes en teksten.

Facebook stelt dat het in 22 van de 49 gevallen niet goed heeft gehandeld. De moderetoren zouden in die gevallen een fout hebben gemaakt, en niet volgens de richtlijnen gehandeld zijn. In 19 gevallen oordeelden de moderatoren volgens Facebook wel correct. In nog eens 6 gevallen waren berichten wel tegen de regels van Facebook, maar waren de berichten niet juist gerapporteerd of waren de berichten al verwijderd.

Excuses

"We hebben spijt van de fouten die we hebben gemaakt – die staan niet voor de gemeenschap die wij willen helpen bouwen", zegt Facebook-topman Justin Osofsky in een verklaring tegenover ProPublica. "We moeten het beter doen."

In 2018 wordt het veiligheidsteam van Facebook in omvang verdubbeld, tot 20.000 medewerkers. Volgens Osofsky verwijdert Facebook nu zo'n 66.000 haatberichten per week, maar is niet elk aanstootgevend bericht ook echt een haatbericht.

Een woordvoerder van Facebook zegt ook dat de richtlijnen die moderatoren gebruiken soms nog wat letterlijker zijn dan het bedrijf zou willen. Omdat Facebook elk bericht hetzelfde wil beoordelen, komen creatief geschreven haatberichten nog weleens door de controle. Volgens de letter van de regels van Facebook doen die berichten niets fout, hoewel ze toch sterk aanstootgevend kunnen zijn.

Zware baan

Eerder deze week kwamen verhalen van moderatoren van Facebook en YouTube naar buiten. Dat personeel moet dagelijks honderden tot duizenden berichten, plaatjes en filmpjes bekijken en beoordelen. Voormalig moderatoren spreken van 'de slechtste baan in tech' en klagen over psychologische gevolgen.

Niet alleen moeten de moderatoren snel en constant werken om populaire sites schoon te houden van racisme en haat, ook zien zij dagelijks de meest walgelijke zaken voorbij komen.