Pas op met AI-speelgoed: knuffelbeer praat met kids over kinks en wapens

Steeds meer speelgoed krijgt AI, zodat kinderen bijvoorbeeld met hun knuffelbeertje kunnen praten. Het blijkt alleen vaak mis te gaan, want de speeltjes praten onder andere over seks, wapens en de dood.

Amerikaanse consumentenorganisatie Public Interest Research Group heeft vier AI-speeltjes getest en vond er geen enkele veilig voor kinderen. 

Het meest zorgwekkend bleek Kumma, een knuffelbeertje met een sjaaltje om. Kumma vertelde onder andere waar gevaarlijke objecten zoals pillen, plastic tassen, messen en lucifers te vinden zijn. Ook wist de beer te vertellen hoe je lucifers moet gebruiken.

De dood

Maar het werd al snel erger. De beer vertelde over kinks, waaronder seksuele rollenspellen tussen een leraar en een student. Ook werden onderwerpen zoals religie, seks en de dood besproken. Kumma draait op GPT-4o van OpenAI. 

De maker van Kumma, het Chinese bedrijf FoloToy, heeft na het onderzoek het verkoop van de beer gepauzeerd. Er zal in samenwerking met experts nieuwe veiligheidsmaatregelen worden genomen

Privacy

De consumentenorganisatie waarschuwt dat deze speeltjes niet alleen vreemde dingen kunnen zeggen, maar ook constant meeluisteren. Het is niet altijd duidelijk wat er met de informatie gebeurt die wordt opgenomen. Daardoor is dit soort speelgoed ook nog eens een ramp voor de privacy.

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.