Meta verwijdert flirterige celebrity-chatbots na ophef

Meta heeft chatbots laten circuleren die de namen en gezichten van beroemdheden zoals Taylor Swift, Scarlett Johansson, Anne Hathaway en Selena Gomez gebruikten, en dat terwijl ze er geen toestemming voor hebben gegeven. Uit onderzoek van persbureau Reuters blijkt dat zowel gebruikers als Meta-medewerkers zelf dergelijke bots hebben gemaakt. Een medewerker ontwikkelde onder meer meerdere Swift-avatars die zich voordeden als parodieën.

Ongepaste beelden en gedrag

De chatbots werden ingezet op Facebook, Instagram en WhatsApp en deden zich vaak voor als de echte artiesten of acteurs. Tijdens tests door Reuters bleken ze regelmatig seksuele avances te maken of zelfs fotorealistische, intieme beelden te genereren. In sommige gevallen ging het om avatars van minderjarige acteurs, wat leidde tot de productie van afbeeldingen die eigenlijk niet gegenereerd mogen worden.

Meta erkent dat dit in strijd is met de eigen richtlijnen. Volgens woordvoerder Andy Stone mogen er wel beelden van publieke figuren worden gemaakt, maar is “naakt, intiem of seksueel suggestief materiaal” verboden. Hij sprak van tekortschietende handhaving en benadrukte dat de inhoud eigenlijk geblokkeerd had moeten worden.

Juristen plaatsen vraagtekens

Juristen plaatsen vraagtekens bij de rechtmatigheid van het gebruik van zulke digitale dubbelgangers. Volgens de Californische ‘right of publicity’-wet mag iemands naam of uiterlijk namelijk niet zonder toestemming commercieel worden benut. Omdat de bots de beroemdheden rechtstreeks imiteerden, zou Meta in strijd met deze regels hebben gehandeld.

Risico’s voor beroemdheden en publiek

Vakbond SAG-AFTRA waarschuwt dat dergelijke bots reëel gevaar kunnen opleveren. Fans of stalkers kunnen zich hechten aan digitale versies van artiesten die zich voordoen als het echte werk, met mogelijke gevolgen voor de veiligheid van beroemdheden. Daarom pleit de bond voor federale wetgeving die stemmen, gelijkenissen en persona’s van individuen beter beschermt tegen misbruik door AI.

Interne bots en miljoenen interacties

Ook intern bleken medewerkers van Meta experimenten te hebben uitgevoerd met bots die openlijk seksueel getinte rollen aannamen. Sommige kregen miljoenen interacties voordat ze weer offline werden gehaald. Meta zegt dat het om testprojecten ging, maar verwijderde de digitale personages nadat Reuters navraag deed.

Meer lezen over AI? Download dan de Bright-app en abonneer je op onze nieuwsbrief!