Slachtoffer klaagt Musks AI-bedrijf aan: Grok zou getraind zijn op beelden van misbruik

Een Amerikaanse vrouw die als kleuter seksueel misbruikt werd, klaagt SpaceXAI aan, het bedrijf van Elon Musk dat onder meer chatbot Grok maakt. Volgens de vrouw is Grok getraind op echte beelden van haar misbruik.

De klacht werd woensdag ingediend bij een federale rechtbank in Californië. Het slachtoffer werd begin jaren 2000 misbruikt toen ze nog een kleuter was. Het beeldmateriaal daarvan werd online verkocht en zou nog altijd circuleren. De identiteit van de vrouw wordt niet bekendgemaakt.

De beelden zijn bekend bij de Amerikaanse kinderbeschermingsorganisatie NCMEC en het Canadian Centre for Child Protection, die er een digitale vingerafdruk van hebben gemaakt. Als ze daarna ergens anders opduiken, kunnen ze worden opgespoord.

Nu is dat gebeurd op X, het socialmediaplatform van SpaceXAI. Dat meldde het Canadese centrum aan het slachtoffer. Er zouden beelden van haar zijn gevonden die door Grok zijn gegenereerd.

Beelden als trainingsdata

Volgens de klacht, die door de website Ars Technica online is geplaatst, gaat het niet enkel om de beelden die door gebruikers zijn gemaakt. De gebruiksvoorwaarden van Grok bepalen namelijk dat beelden die de chatbot genereert, zelf als trainingsdata gebruikt kunnen worden. Ook posts op sociaalmediaplatform X, dat eveneens is opgeslokt door SpaceXAI, mogen daarvoor gebruikt worden.

De kans bestaat dus dat het materiaal nu in de trainingsdata van Grok zit. Voor die claim is voorlopig wel geen hard bewijs. In de klacht staat enkel dat materiaal met bekende digitale vingerafdrukken deel uitmaakt van de dataset, maar niet specifiek de beelden die van haar zijn gemaakt.

De vrouw wil een groepsvordering namens alle slachtoffers van wie jeugdbeelden zo werden gebruikt. Ze eist een schadevergoeding, de vernietiging van alle door Grok gegenereerde misbruikbeelden op de servers van het bedrijf en een blokkade op elke geseksualiseerde output. X, dat onder SpaceXAI valt, heeft nog niet publiekelijk gereageerd.