'Prioriteit 1' faalt: X en Grok laten nog steeds kinderporno door

Het aanpakken van kindermisbruikmateriaal op X (het voormalige Twitter) moest Elon Musks allerhoogste prioriteit worden. Maar uit een gezamenlijke analyse van The New York Times en het Canadian Center for Child Protection (CCCP) blijkt dat het platform nog steeds enorm faalt.

Niet alleen laten de automatische filters reeds bekende illegale beelden door, ook Musks AI-chatbot Grok werd gebruikt om seksueel materiaal van kinderen te genereren.

Grok ontkleedt kinderen

Onderzoek van het CCCP wees uit dat Grok begin dit jaar door gebruikers werd geprompt om tientallen seksueel getinte foto's van kinderen te genereren. In verschillende gevallen lieten gebruikers de bot foto's van bekende misbruikslachtoffers bewerken om ze in bikini of lingerie af te beelden. X greep pas in nadat een storm van maatschappelijke en politieke kritiek ontstond.

Hoewel X de beeldfunctie van de chatbot inmiddels heeft aangepast, noemt Imran Ahmed van het Center for Countering Digital Hate de bevindingen 'een van de grootste bedrijfsmatige mislukkingen' ooit.

Vingerafdrukken negeren

Naast de gevaren van Grok schiet ook de normale filtertechnologie van X ernstig tekort. Grote techbedrijven als Meta en Google maken gebruik van een wereldwijde databank van de Amerikaanse organisatie NCMEC. Deze bevat unieke digitale 'vingerafdrukken' van eerder aangetroffen misbruikmateriaal, waardoor bekende foto's automatisch geblokkeerd worden tijdens het uploaden.

The New York Times schreef een programma dat X doorzoekt op illegale content en ontdekte tientallen afbeeldingen die gewoon openbaar op het platform stonden. Een derde van de gevonden beelden bleek geregistreerd te staan in diezelfde NCMEC-database. Eén specifieke foto die al meer dan zeven jaar bekend is bij de autoriteiten stond ruim een uur online, werd tientallen keren bekeken en ook nog eens herplaatst. De autoriteiten vragen zich nu sterk af waarom X de database niet gewoon goed gebruikt.

"Je ziet dit gedrag bij geen enkel ander groot socialmediabedrijf", stelt Lloyd Richardson, technologiedirecteur bij het Canadese centrum. "Het is volstrekt onacceptabel dat beelden die automatisch verwijderd horen te worden, gewoon blijven staan."

X wijst naar miljoenen blokkades

In een reactie claimt X een strikt zerotolerancebeleid te voeren. Volgens het bedrijf zijn er in de afgelopen maand alleen al 780.000 accounts geschorst wegens het verspreiden van misbruikmateriaal. Dit jaar zou X al 1,3 miljoen meldingen hebben gedaan bij de autoriteiten, wat resulteerde in 543 arrestaties.