OpenAI’s Sora 2 veroorzaakt verontrustende trend met vrouwen en meisjes

OpenAI’s Sora 2 wordt gebruikt voor een verontrustende trend die de afgelopen dagen sociale media over lijkt te nemen. Het gaat om hyperrealistische AI-gegenereerde video’s van vrouwen en meisjes die gewurgd worden. 

De video’s verspreiden zich razendsnel over TikTok en X, duren vaak tien seconden lang en dragen vaak verontrustende titels die ook met de inhoud van de video’s te maken hebben. Naast het maatschappelijke probleem dat bij deze trend komt kijken, is dit ook een duidelijk teken van hoe kunstmatige intelligentie misbruikt kan worden. 

Waar er bij veel beelden nog te zien is dat het om AI gaat, mede dankzij het watermerk van Sora 2, zijn er inmiddels ook video’s waarin dit watermerk is weggehaald. Daardoor is het, gezien het realisme, ontzettend lastig om te bepalen welke beelden echt zijn en welke niet. 

OpenAI Sora 2 zoekt de grenzen sociale media 

Hoewel de breinen achter de video’s het probleem is, laat het ook zien hoe het op dit moment met de online veiligheid is gesteld. Waar OpenAI’s Sora 2 het genereren van dergelijke video’s dus mogelijk maakt, is het ook niet lastig om de richtlijnen van sociale media-platformen te overschrijden. 

Vooral TikTok en X laten steken vallen op dit gebied. Op beide platformen gaan de video’s viraal, ondanks dat het delen van gewelddadige of schokkende inhoud verboden is. TikTok handelde pas nadat een aantal journalisten het bedrijf wees op de problematische video’s, waar er bij X helemaal niets gebeurde. Ondanks het feit dat meerdere gebruikers melding deden. 

De verontrustende en absurdistische trend heeft inmiddels ook zijn weg gevonden naar overheden. Het Verenigd Koninkrijk reageert bijvoorbeeld door alle pornografische beelden van wurging, echt of AI, strafbaar te maken. Daarbij groeit wereldwijd de druk op bedrijven als OpenAI en platformen als TikTok en X om echte veiligheidsmaatregelen in te bouwen. 

Lees meer over AI en mis niets met de Bright-app.