OpenAI zet na Sora ook deze omstreden AI-plannen in de ijskast

Sinds de release van ChatGPT leek er geen einde te komen aan de dadendrang van OpenAI. Het bedrijf bleef zijn portfolio maar vullen met nieuwe apps en functies, maar daar lijkt deze week een draai in te zijn gekomen. Opeens trok OpenAI de stekker uit AI-videogenerator Sora en nu verdwijnt ook de omstreden ‘adult mode’ in de ijskast.

De zogeheten adult mode moest het mogelijk maken om meer expliciete, erotische gesprekken te voeren met ChatGPT. Het ging nadrukkelijk om tekst, geen beelden of video’s. Een soort sexting, maar dan met een AI-bot. Een opmerkelijke functie waar nogal wat risico’s aan kleven.

Dat zorgde voor externe kritiek, maar ook intern waren er al zorgen over de mogelijke impact op gebruikers. Denk aan risico’s rondom verslaving, vervaging tussen echte en digitale relaties en de invloed op kwetsbare groepen. Daarnaast speelden er ook praktische problemen.

Erotische content brengt extra risico's met zich mee

Wanneer je erotische content toevoegt aan je dienst, worden bestaande gevaren ineens een stuk groter. Leeftijdscontrole komt bijvoorbeeld nog meer onder een vergrootglas te liggen. Zelfs met verificatie is het lastig om volledig te voorkomen dat minderjarigen toegang krijgen tot dit soort content. Voor een bedrijf is dat een enorm risico.

Ook privacy wordt ineens nog belangrijker. Erotische gesprekken met AI zijn extreem persoonlijk en dat roept extra vragen op over hoe die data wordt opgeslagen en gebruikt. Experts waarschuwen zelfs voor een nieuw fenomeen: “intimate surveillance”. Daarbij kunnen gevoelige gesprekken onderdeel worden van datasets. Als gebruiker wil je dat dit soort persoonlijke data goed beschermd is.

OpenAI stopt ook met Sora

Zo trapt OpenAI deze week dus stevig op de rem. Naast de adult mode verdwijnt ook Sora. Het plotselinge verdwijnen van de AI-videogenerator kwam als een verrassing. Hoewel de officiële reden voor deze beslissing nog niet is gegeven, lijkt het erop dat OpenAI meer focus wil leggen op andere projecten, zoals een mogelijke ‘super app’.