John Cena’s en Judy Dench’s AI-stemmen praten met kinderen over seks

Je kunt via Meta AI kiezen voor de stemmen van beroemdheden, waardoor je met John Cena een praatje kunt maken over de toren van Pisa, of met dame Judy Dench over wie nou toch de volgende James Bond zou kunnen worden. Maar je kunt ook met hen over seks praten, ongeacht je leeftijd. Dat blijkt uit een onderzoek van de Wall Street Journal.

Meta AI

De krant voerde de afgelopen maanden honderden gesprekken met de Meta AI-chatbot en de door gebruikers gemaakte chatbots binnen Facebook en Instagram. In een van de gesprekken beschreef de chatbot met de stem van John Cena uitvoerig aan een 14-jarig meisje hoe een agent Cena met een 17-jarige fan betrapte en hem vertelde: “John Cena, je bent gearresteerd voor verkrachting.” 

Meta zegt dat het helemaal niet zo vaak voorkomt. Het schat dat in een maand tijd ongeveer 0,02 procent van de antwoorden van Meta AI aan minderjarigen seksueel zijn. Het zegt dat dit voorbeeld waar WSJ mee komt “zo gefabriceerd is, dat het marginaal en hypothetisch is”. Maar het zegt ook dat het desondanks heeft gezorgd dat er extra maatregelen worden getroffen. Die maatregelen moeten zorgen dat het “andere gebruikers die uren spenderen aan het manipuleren van Meta-producten tot er extreme gesprekken ontstaan” moeilijker wordt gemaakt om dit voor elkaar te krijgen.

Minderjarigen

Het moge duidelijk zijn dat Meta het artikel van WSJ te ver vindt gaan. Ook wordt er niet per se heel expliciet over seks gepraat, maar een 17-jarige fan en dan ook nog verkrachting, dat zijn wel zeer serieuze onderwerpen die misschien beter niet aan een AI-chatbot moeten worden overgelaten, zeker niet als die ook door minderjarigen wordt gebruikt. Wat Meta precies doet om deze kans kleiner te maken, dat is onduidelijk.

Kom op 17 mei naar onze E-bike Party en probeer ruim 50 verschillende e-bikes. Met de code BEP2025-50 krijg je 50 procent korting op je kaartje.