©Jana Beamer / Flickr
Elon Musk’s AI genereert naaktbeelden Taylor Swift zonder dat iemand erom vraagt
Grok, de AI-tool van Elon Musk’s X, ligt opnieuw onder vuur. Slechts weken na ophef over antisemitische uitspraken waarin het zichzelf MechaHitler noemde, blijkt het model nu zonder expliciete opdracht naaktbeelden van Taylor Swift te genereren.
Amerikaanse techwebsite The Verge heeft ontdekt dat de nieuwe videofunctie van Grok wel heel erg los gaat bij relatief normale opdrachten. Jess Weatherbed, de journalist die aan de haal ging met de nieuwe functie, ondervond dit aan den lijve door een simpele opdracht over Taylor Swift in het model te gooien.
Daarvoor selecteerde ze de nieuwe Spicy-functie van Grok en vroeg ze om een video van Taylor Swift die feest viert op Coachella. Het resultaat was een AI-gegenereerde video van Taylor Swift die haar kleren uittrekt en vervolgens begint te dansen in een string.
Grok gaat helemaal los met Taylor Swift
Het verontrustende is dat Weatherbed niet op zoek was naar dergelijke beelden. De AI werd niet gehackt of gemanipuleerd, maar poepte standaard maar liefst dertig beelden uit na één prompt. Hoewel het losgeslagen taalmodel op zichzelf al een probleem is, maakt het feit dat er vorig jaar neppe naaktbeelden van Swift viraal gingen op X, het verhaal er niet beter op.
Destijds benadrukte X nog op een zero tolerance-beleid met betrekking tot non-consensuele naaktbeelden, maar daar lijkt Grok zich weinig van aan te trekken. Wel verzet het taalmodel zich tegen het genereren van dergelijke beelden van kinderen en geeft het standaard lege resultaten bij directe verzoeken om Swift naakt af te beelden.
Maar in de Spicy-modus lijkt het systeem er weinig problemen mee te hebben, wat vragen oproept over controle en veiligheid.
Take It Down
X heeft nog niet gereageerd op de bevindingen van The Verge en Elon Musk deelt vooral lyrische berichten over Grok Imagine. Maar dat er werk aan de winkel is, mag duidelijk zijn.
Hoewel dat voor Grok sowieso noodzaak is, moeten platforms vanaf 2026 ook voldoen aan de Take It Down Act. De Amerikaanse wet verplicht om non-consensuele seksuele content, inclusief AI-gegenereerde deepfakes, direct te verwijderen. Als Grok blijft ontsporen, zoals het tot op heden regelmatig doet, dan loopt het bedrijf juridisch risico.
Lees meer over AI en mis niets met de Bright-app.