Facebook zet kunstmatige intelligentie in tegen wraakporno

Facebook introduceert een nieuwe AI-tool die wraakporno moet detecteren. De tool werkt ook bij foto’s en video’s met bijna-naaktbeelden.

De technologie moet Facebook en Instagram helpen om wraakporno sneller op te sporen en te verwijderen. Het sociale netwerk zegt dat de nieuwe AI-tool wraakporno al kan detecteren nog voordat iemand er melding van heeft gedaan.

Volgens Facebook is dat belangrijk omdat slachtoffers zelf vaak geen melding doen als de beelden online verschijnen, omdat ze dan nieuwe wraakacties vrezen. Daarnaast weten sommige slachtoffers niet dat de beelden worden verspreid.

Behalve naar de beelden zelf kijkt de software ook naar de teksten bij de beelden. Als uit die teksten blijkt dat degene die de beelden heeft geüpload iemand te kakken wil zetten, dan gaan de alarmbellen af.

Digitale vingerafdruk

Sinds eind 2017 biedt Facebook mensen die vrezen dat hun naaktfoto’s via het sociale netwerk worden, al de mogelijkheid om beelden in een database te laten zetten.

Na het uploaden van je naaktfoto’s via Messenger maakt Facebook een digitale vingerafdruk (hash) van elke foto. Probeert een andere gebruiker dezelfde foto’s te uploaden via Facebook of Instagram, dan worden de beelden automatisch geblokkeerd.