Meta past chatbots aan na gevaarlijke gesprekken met kinderen

Meta past zijn AI-chatbots aan na de kritiek van de afgelopen maand. De bots kunnen nu niet meer flirten met minderjarigen en gaan gesprekken over zelfdoding uit de weg. De aanpassing volgt op onderzoeken die aantoonden dat de AI gevaarlijke gesprekken voerde.

Na aanhoudende kritiek kondigt Meta nieuwe aanpassingen aan voor zijn AI-chatbots. Het bedrijf past de training van de bots aan, waardoor ze niet langer praten met minderjarigen over gevoelige onderwerpen zoals zelfverminking, suïcide en eetstoornissen. Volgens een woordvoerder van Meta zullen de bots gebruikers voortaan doorverwijzen naar de juiste autoriteiten en hulpbronnen, in plaats van zelf een gesprek te voeren, laat staan advies te geven.

Ook 'ongepaste romantische gesprekken' met kinderen worden nu vermeden. De woordvoerder erkent dat de AI-bots voorheen wel in dergelijke gesprekken waren betrokken en noemt dit een ‘vergissing’.

Gepersonaliseerde AI-persona's

Het bedrijf zegt verder dat het de toegang tot bepaalde AI-persona’s gaat beperken voor minderjarigen. Het gaat hierbij om chatbots die "ongepaste gesprekken" zouden kunnen voeren. Dit gaat niet om de bots van Meta zelf, maar ook om persona's die door gebruikers zijn gemaakt en openbaar zijn gedeeld, zoals de AI-persona’s 'Step Mom' en 'Russian Girl'. 

De aanpassingen volgen op een reeks onthullingen. Zo schreef persbureau Reuters op basis van een intern beleidsdocument dat Meta zijn AI-bots expliciet toestond ‘romantische of sensuele’ gesprekken met kinderen te voeren. Een onderzoek van The Washington Post ging nog een stap verder en liet zien dat Meta's AI-bot minderjarigen aanmoedigde tot een eetstoornis en hielp bij het plannen van zelfmoord. 

Meer lezen over AI? Download dan de Bright-app en abonneer je op onze nieuwsbrief!