Nederlandse rechtbank bepaalt: ‘Grok mag zonder toestemming geen naaktplaatjes meer maken’

xAI en Grok mogen van de Nederlandse rechtbank niet langer seksuele afbeeldingen maken of verspreiden zolang de persoon op de afbeeldingen hiertoe geen toestemming heeft gegeven. Het betekent dat er op X in Nederland een grote verandering moet worden doorgevoerd.

Tegelijkertijd is het eigenlijk voorsorteren: over een paar maanden verbiedt Europa sowieso tools en platforms waarmee mensen afbeeldingen kunnen laten uitkleden. Voor Nederland geldt nu dat X/xAI/Grok geen mensen meer mag uitkleden zonder hun nadrukkelijke toestemming. Dat geldt niet alleen voor volledig naakt: ook semi-naakt is niet langer toegestaan, zo heeft de voorzieningenrechter uitgesproken. Het geldt voor alle mensen die in Nederland wonen. 

Offlimits en Fonds Slachtofferhulp

De rechtszaak komt bij Offlimits vandaan, een organisatie die online misbruik bestrijdt. Het spande de rechtszaak aan met Fonds Slachtofferhulp. Het begon een maand geleden met een kort geding tegen xAI, de AI-kant van X/Grok. Het was op Grok/X eerst voor iedereen mogelijk om afbeeldingen van anderen te veranderen in naaktbeeld, inclusief kinderen. 

Vervolgens werd dit beperkt en konden alleen betalende gebruikers het nog doen. Het is een omstreden keuze van Elon Musk om dit zo aan te pakken en er is dan ook veel kritiek op. De EU startte een onderzoek en in Nederland pakt het nu dus al anders uit. Het is een primeur: er zijn nog weinig rechters die uitspraak hebben gedaan over de verantwoordelijkheid van xAI bij deze activiteiten.

Boete van 100.000 euro

Als de bedrijven van Musk niet meewerken, dan moeten ze voor elke dag dat het nog mogelijk is om mensen naakt of halfnaakt te maken op basis van hun foto een boete betalen van 100.000 euro. xAI-advocaten hebben eerder al gezegd dat het onmogelijk is om te garanderen dat er geen misbruik wordt gemaakt van hun platform. xAI heeft nu nog geen reactie gegeven op de uitspraak van de rechter.