xAI sleept gebruiker voor de rechter en probeert zo zelf buiten schot te blijven

Elon Musks AI-bedrijf xAI heeft voor het eerst een van zijn eigen gebruikers aangeklaagd wegens het maken van illegale seksuele beelden met chatbot Grok. Het bedrijf vraagt de rechter om te bepalen dat niet xAI, maar de gebruiker zelf verantwoordelijk is, een zet die ook in een veel grotere rechtszaak van pas kan komen.

De man in kwestie leeft in de staat South Carolina en werd eerder dit jaar aangehouden voor het bezit en de verspreiding van kindermisbruikbeelden die hij met Grok maakte. Concreet gebruikte hij maandenlang twee accounts om foto's van slachtoffers te 'ontkleden'. Het jongste slachtoffer zou zo'n tien jaar oud zijn geweest. xAI zegt te hebben meegewerkt aan zijn arrestatie.

Grok zou een deel van de opdrachten van de man hebben geweigerd, zo blijkt uit de documenten, die ingekeken werden door de website Ars Technica, maar hij zou de filters hebben omzeild door zijn prompts aan te passen. Welke prompts uiteindelijk wél werkten, maakt xAI niet bekend.

Steeds meer druk op xAI

Het AI-bedrijf staat onder toenemende juridische druk. Zo is er een class action-rechtszaak in de maak namens kinderen van wie met Grok ongepaste beelden zijn gemaakt. Tegen die achtergrond is de zaak in South Carolina veelzeggender dan ze op het eerste gezicht lijkt: xAI vraagt de rechter om Grok te erkennen als een neutraal instrument dat volledig onder controle van de gebruiker staat. 

Elke afbeelding is volgens die redenering het resultaat van wat iemand intikt en dus niet het probleem van xAI zelf. Een uitspraak in het voordeel van xAI zou die stelling alvast juridisch gewicht geven en de positie van het bedrijf in de grotere class action kunnen versterken.