Google Gemini vormt een risico voor kinderen en tieners, blijkt uit risicoanalyse

Een Amerikaanse non-profitorganisatie, die zich richt op de veiligheid van kinderen, concludeert dat Google Gemini een veiligheidsrisico vormt voor kinderen onder de achttien jaar. Google claimt dat het specifiek beleid voert voor jonge gebruikers en dat er waarborgen bestaan.

Common Sense Media, een Amerikaanse non-profitorganisatie gericht op de veiligheid van kinderen, heeft Google Gemini bestempeld als een 'hoog risico' voor jongeren (.pdf). De kern van de kritiek is dat de versies voor kinderen en tieners in feite aangepaste versies voor volwassenen zijn, met alleen wat extra veiligheidsfilters. Volgens de organisatie zouden AI-producten voor een jong publiek vanaf de basis ontwikkeld moeten worden met de veiligheid en ontwikkelingsfase van kinderen als uitgangspunt, in plaats van een bestaand product te beperken.

Uit de analyse blijkt dat Gemini nog steeds "ongepast en onveilig" materiaal kan delen met kinderen, zoals informatie over seks, drugs en alcohol. Bijzonder zorgwekkend is het potentieel voor schadelijk advies over mentale gezondheid. Die bezorgdheid wordt versterkt door recente gebeurtenissen, waarbij AI een rol zou hebben gespeeld bij zelfdodingen van tieners. Zo lopen er rechtszaken tegen concurrenten als OpenAI na tragische incidenten. Zo heeft onder meer een zestienjarige zelfmoord gepleegd, vermoedelijk met hulp van ChatGPT.

De uniforme aanpak

Common Sense bekritiseert ook de uniforme aanpak, waarbij de chatbot geen onderscheid maakt tussen de behoeften van jonge kinderen en tieners. Een AI-platform zou zich moeten aanpassen aan de verschillende ontwikkelingsstadia van gebruikers, vindt de organisatie. De kwestie krijgt extra gewicht door het nieuws dat Apple overweegt Gemini te gebruiken voor zijn vernieuwde, AI-gestuurde Siri. Dit zou de blootstelling aan de genoemde risico’s aanzienlijk kunnen vergroten, tenzij Google veiligheidsmaatregelen treft, aldus Common Sense Media.

Google benadrukt dat het specifiek beleid en waarborgen heeft voor gebruikers onder de achttien. Hoewel het bedrijf toegeeft dat sommige reacties niet optimaal zijn en het extra maatregelen getroffen heeft, twijfelt het of de test van Common Sense uitgevoerd is met functies die daadwerkelijk beschikbaar zijn voor jongeren. Een positief punt dat beide partijen erkennen, is dat Gemini duidelijk communiceert dat het een computerprogramma is en geen menselijke vriend. Dat kan helpen ongezonde emotionele bindingen te voorkomen.

Lees meer nieuws over kunstmatige intelligentie en mis niets met onze Bright-app.