Bright
Meta's beleidsregels lieten AI-bots sensuele gesprekken met kinderen voeren
Meta heeft zijn Meta AI en alle andere chatbots expliciet toegelaten om ‘sensuele’ gesprekken te voeren met kinderen, meldt Reuters op basis van een intern beleidsdocument van Meta.
Het gaat hier om het betrekken van een kind bij ‘romantische of sensuele gesprekken’. Bovendien is de kunstmatige intelligentie van Meta in staat om valse medische informatie te verstrekken en racistische antwoorden te geven. Denk dan aan het beweren dat zwarte mensen ‘dommer zijn dan witte mensen’.
Interne beleidsdocument
In het interne beleidsdocument dat Reuters heeft ingezien staan de normen die Meta-AI en andere chatbots sturen op Facebook, WhatsApp en Instagram.
Meta bevestigt het feit dat het interne document van hen is, maar zegt ook direct de delen waarin stond dat het voor chatbots was toegestaan om te flirten en romantische rollenspellen met kinderen te spelen te hebben verwijderd. Dit naar aanleiding van vragen van het persbureau.
Reactie Meta
Het is overigens niet zo dat Meta dit ziet als ‘wenselijke’ of zelfs ‘ideale’ AI-antwoorden, maar ze hebben het wel toegestaan. Meta-woordvoerder Andy Stone zei dat het bedrijf bezig is met het herzien van het document en dat dergelijke gesprekken met kinderen nooit toegestaan hadden moeten zijn. “We hebben duidelijke beleidsregels over wat voor reacties AI-personages kunnen bieden, en die beleidsregels verbieden content die kinderen seksualiseert en rollenspellen tussen volwassenen en minderjarigen seksualiseert.”
Meer lezen over AI? Download dan de Bright-app en abonneer je op onze nieuwsbrief!