ChatGPT gaat binnenkort je leeftijd controleren, minderjarigen krijgen eigen versie

OpenAI bereidt een ingrijpende wijziging voor in ChatGPT: het systeem gaat proberen je leeftijd te raden. Als dat niet betrouwbaar genoeg blijkt, kan er zelfs een ID-controle volgen. Minderjarigen krijgen daarnaast een aangepaste versie van de chatbot, met extra veiligheidsmaatregelen.

Het bedrijf werkt aan een AI-model dat op basis van taalgebruik een inschatting maakt van de leeftijd van een gebruiker. Het gaat volgens OpenAI niet om een waterdichte methode, maar om een hulpmiddel. Zo kan de chatbot bijvoorbeeld sneller herkennen of iemand een kind, tiener of volwassene is. Dat moet helpen om gesprekken beter af te stemmen op de gebruiker en misbruik te voorkomen.

In situaties waarin leeftijd cruciaal is – zoals bij toegang tot expliciete content – wil OpenAI de optie openhouden om gebruikers te vragen hun leeftijd met een officieel ID-bewijs te bevestigen. Daarmee zou ChatGPT meer gaan lijken op sociale netwerken of games die al strikte leeftijdsgrenzen hanteren. In de EU gelden voor zulke diensten bovendien al zulke controle-eisen, die binnenkort verscherpt worden. Het is goed denkbaar dat ook AI-chatbots binnekort onder die eisen komen te vallen.

Een eigen versie voor tieners

OpenAI zegt tieners een 'balans te willen bieden tussen vrijheid en bescherming'. Jongeren krijgen straks een aparte versie van ChatGPT die veiliger is ingericht. Zo kunnen ze wel leren, experimenteren en creatief bezig zijn, maar zijn gevoelige onderwerpen zoals zelfbeschadiging of expliciete inhoud beperkt.

Die aanpak is niet zonder reden. Uit gesprekken met experts en ouders bleek dat jongeren ChatGPT gebruiken voor huiswerk, creatieve projecten of gewoon om vragen te stellen die ze misschien niet durven te bespreken met volwassenen. Tegelijkertijd zijn er zorgen over schadelijke adviezen of ongepaste gesprekken. Onlangs werd OpenAI bovendien aangeklaagd voor mede-verantwoordelijkheid voor de zelfdoding van een tiener. Ook wordt de eerste moordenaar onderzocht die zich door ChatGPT liet aanmoedigen. 

ChatGPT zal daarom bijvoorbeeld niet meer in detail ingaan op onderwerpen rond zelfmoord wanneer de gebruiker een tiener is. In plaats daarvan verwijst de chatbot door naar professionele hulpbronnen. Volgens OpenAI-topman Sam Altman gaat het erom “de juiste balans te vinden tussen privacy, veiligheid en autonomie voor jongeren”.

Wat betekent dit voor gebruikers?

Voor volwassenen verandert er voorlopig weinig, behalve dat er mogelijk vaker naar een leeftijdscheck wordt gevraagd. Voor tieners en kinderen betekent het een aparte omgeving met extra vangrails. Daarmee begeeft OpenAI zich op nieuw terrein: het personaliseren van AI op basis van leeftijd.

Dat roept ook vragen op. Hoe accuraat kan een AI leeftijd voorspellen uit tekst? En wat betekent verplichte ID-verificatie voor de privacy van miljoenen gebruikers? 

Meer AI-nieuws en mis niets met onze Bright-app.