YouTube: handen vol aan verwijderen terreurvideo's
Content modereren

YouTube: handen vol aan verwijderen terreurvideo's

03-05-2019 08:00 Laatste update: 08:07

Medewerkers van YouTube bekeken in de eerste drie maanden van dit jaar ruim een miljoen video's die mogelijk terroristisch waren.

Van die video's bleken er 90.000 daadwerkelijk de regels van YouTube te overtreden, zo schrijft het bedrijf in een brief aan het Amerikaanse Huis van Afgevaardigden.

De videosite besteedt naar eigen zeggen jaarlijks honderden miljoenen dollars aan het modereren van video's, meldt persbureau Reuters. Bij Google werken meer dan tienduizend mensen die zich bezighouden met het beoordelen van content.

YouTube en andere sites zoals Facebook en Twitter liggen al geruime tijd onder vuur omdat ze volgens critici te weinig zouden ondernemen tegen terroristische en andere schadelijke content.

Schutter

Recent laaide de discussie weer op nadat een extreemrechtse man twee terroristische aanslagen pleegde bij moskeeën in Nieuw-Zeeland. De schutter zond zijn acties live uit via Facebook. Het sociale netwerk verwijderde de video nadat de livestream was beëindigd.

De kunstmatige intelligentie die Facebook inzet om mogelijk gewelddadige video’s tijdig te herkennen, waarschuwde niet tijdens de uitzending. Een vertegenwoordiger van Facebook, Neil Potts, verklaarde vorige maand tijdens een hoorzitting in het Britse Lagerhuis dat dat kwam omdat het een video betrof "die we niet eerder hadden gezien".

Achilleshiel

Daarmee legde Potts de achilleshiel van het huidige moderatiesysteem bloot. Vanwege de enorme hoeveelheid content die gebruikers plaatsen, zetten sociale media kunstmatige intelligentie in om dubieuze content op te sporen. Dergelijke systemen kunnen echter niet alle overtredingen detecteren.

Het gevolg is dat sociale media daarnaast moderators van vlees en bloed moeten aanstellen die video’s, afbeeldingen en berichten handmatig beoordelen. Dat leidt weer tot nieuwe problemen. Veel moderators klagen over stress en beginnen in sommige gevallen ook te geloven in de complottheorieën die ze juist moeten verwijderen.