AI-speelgoed is gevaarlijk voor kinderen, stelt onderzoek

Ze zijn schattig, ze praten terug en ze hebben een “persoonlijkheid”: AI-knuffelbeesten. Er is ook een keerzijde: uit onderzoek blijkt dat ze kinderen schade kunnen toebrengen.

In de Verenigde Staten zijn er staten waar ze de knuffels willen verbieden en dit onderzoek kan de overheid daar wel eens bij gaan helpen. Toen een kind tegen het speelgoed zei: ‘Ik hou van jou’ strafte de AI het af door te zeggen: ‘Ik help je graag herinneren dat de interacties binnen de regels moeten blijven.” Het was een van de 14 kinderen die geobserveerd werden terwijl ze, waar hun ouders bij waren, met Gabbo speelden, een knuffel van Curio die op een game-handheld lijkt. Naast deze speelsessies waren er ook online enquêtes, was er een focusgroep met professionals die met jonge kinderen werken en een workshop met mensen van goede doelen.

AI-speelgoed

Het onderzoek werd verricht door de University of Cambridge (via de BBC) en toont aan dat het speelgoed soms verkeerd interpreteert wat een kind emotioneel gezien nodig heeft en dat is een probleem. De sociale signalen die een kind geeft worden niet door AI herkend en dat maakt de interactie tussen de twee moeizaam. Daarnaast is het een privacykwestie: de onderzoekers denken dat er maatregelen zouden moeten komen voor AI-speelgoed en dat de etiketten meer moeten aangeven over het speelgoed, zodat bij aankoop duidelijker is wat men kan verwachten.

Toch is het niet allemaal slecht: het AI-speelgoed zou het leerproces ondersteunen, zeker waar het om taalvaardigheid en communicatievaardigheden gaat. Als het speeltje het kind in ieder geval goed begrijpt. Ouders zien vaak vooral de educatieve voordelen van dit speelgoed (en daar wordt ook volop mee geadverteerd), maar er zijn ook veel zorgen rondom dit speelgoed. Zeker als er geen menselijke supervisor is, brengt dit risico's met zich mee.

Kinderen en AI

Ook spelen er nu meerdere rechtszaken waaruit bleek dat een AI-chatbot jongeren ook net over het randje kan duwen. Zeker als er al psychische problemen zijn, dan kan een isolement waarin iemand alleen maar met een AI-chatbot spreekt grote gevolgen hebben. Uiteindelijk zit er in zo’n AI-speeltje ook een soort AI-chatbot, zij het vaak een iets meer aan banden gelegd exemplaar.

Zeker nu AI-knuffeldieren zo in opkomst zijn zal er meer onderzoek moeten worden gedaan naar de interactie met kinderen. En zal ongetwijfeld ook de overheid een grotere rol gaan spelen, zoals dat nu mondjesmaat al in de Verenigde Staten aan de hand is.