©Unsplash
Wildgroei aan deepfake-porno: 'Google, Microsoft en X doen er te weinig tegen'
Deepfake-porno, gemaakt met AI-modellen, is inmiddels bijna 4 miljard keer bekeken. Ook is er nu 9 keer zoveel van zulke porno met gezichten van anderen dan in 2019, toen de trend opkwam. De AI-porno wordt mede mogelijk gemaakt door techbedrijven als Google, Amazon, Microsoft en X.
Bij deepfake-porno worden gezichten van beroemde personen op bestaande porno geplakt. Dat ziet er steeds realistischer uit, dankzij alle vorderingen in AI. Natuurlijk zijn de beroemdheden daar niet blij mee: zij worden zonder toestemming betrokken in pornografie. Inmiddels zijn er zo'n 150.000 deepfake-pornovideo's, 9 keer meer dan in 2019, die in totaal 3,8 miljard keer bekeken zijn. De toename blijkt uit onderzoek van de analist Genevieve Oh, meldt Bloomberg.
De technologie is sterk verbeterd en tal van sites bieden gebruikers de keuze uit gezichten van beroemde vrouwen, zoals Emma Watson en Taylor Swift. Maar het is ook mogelijk om de gezichten van vrienden of kennissen op bestaande porno te laten plaatsen, met AI.
Gestuwd door techbedrijven
De populariteit en beschikbaarheid van de deepfake-porno wordt volgens Bloomberg gestuwd door de grote techbedrijven. Google zou de belangrijkste aanvoerroute zijn voor de populaire deepfake-pornosites. X, voorheen Twitter, heeft een los beleid rond naakt en op het platform gaat regelmatig deepfake-porno rond. De clouddiensten van Amazon, Microsoft en Cloudflare worden ondertussen volop gebruikt voor het hosten van de porno.
Die verschillende bedrijven en platforms maken het ingewikkeld om de deepfake-porno te bestrijden. Medewerkers van de populaire game-streamer Amouranth hebben een dagtaak aan het rapporteren van elke nieuwe deepfake-pornovideo. "Het is een constante strijd", aldus Amouranth. "Jezelf zien in porno waar je geen toestemming voor hebt gegeven voelt vies op een ranzig, emotioneel, menselijk niveau."
Google belooft beterschap
Critici en experts vinden dat techbedrijven actiever moeten handelen om de porno te bestrijden. Wie op Google zoekt naar 'deepfake porno' plus de naam van een bekendheid, wordt doorverwezen naar tal van sites vol met die video's. Google stelt in een reactie dat de resultaten al gerangschikt zijn om schokkende resultaten te vermijden, maar het blijft ingewikkeld. "We werken actief aan meer beveiliging om mensen te beschermen", aldus Google.
Het blijft dan ook een kat-en-muisspel, waarbij het steeds makkelijker wordt om de deepfakes te maken. Vooralsnog slagen zelfs de grootste spelers er kennelijk niet in om de wildgroei in toom te houden.
Het is verboden, handhaving is lastig
In Nederland zijn er in principe genoeg regels en wetten tegen deepfake-porno, zelfs zonder dat de wet daarop is aangepast. Dat constateerde het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) van het ministerie van Justitie en Veiligheid vorig jaar. Het probleem zit 'm in de handhaving, want het maken van deepfakes is zo makkelijk en vrijblijvend, dat het kwaad met een paar klikken al is geschied. De Tweede Kamer stemde vorig jaar voor een gedeeltelijk verbod op deepfake video's.