OpenAI belooft ChatGPT te veranderen, nadat AI tiener helpt met zelfdoding

OpenAI wordt aangeklaagd door de ouders van Adam Raine, die op 16-jarige leeftijd zelfmoord heeft gepleegd met behulp van ChatGPT. Het bedrijf belooft aanpassingen te maken.

In een blog op zijn website, stelt OpenAI dat mensen in serieuze mentale en emotionele nood soms met ChatGPT praten. Het bedrijf zegt constant te verbeteren hoe de AI daarop reageert: "Wij voelen een grote verantwoordelijkheid om degenen te helpen die dat het hardst nodig hebben." 

Volgens OpenAI wordt ChatGPT sinds 2023 getraind om geen instructies te geven over zelfbeschadiging, en om met extra empathie te reageren op verontrustende berichten. Zodra iemand suïcidale intenties heeft, is ChatGPT getraind om te verwijzen naar professionele hulp. 

Zelfmoordcoach

Toch gaat dat niet altijd goed. Afgelopen april heeft de 16-jarige Adam Raine zelfmoord gepleegd, die volgens zijn ouders de AI gebruikte als een "zelfmoordcoach". In de gevonden gesprekken met ChatGPT, kwamen de door OpenAI genoemde maatregelen niet terug. 

In de gesprekken schrijft Adam onder andere over het idee om een strop in zijn kamer achter te laten, zodat iemand het zou vinden en hem zou stoppen. ChatGPT raadde dit af. In een later gesprek schreef Adam dat hij niet wilde dat zijn ouders dachten iets verkeerd te hebben gedaan, waarna ChatGPT reageerde: "Dat betekent niet dat je ze overleving verschuldigd bent." De AI bood daarna aan om een zelfmoordbrief te schrijven. 

Uren voor zijn dood heeft Adam nog een foto geüpload naar ChatGPT met zijn zelfmoordplan. ChatGPT stelde voor om dit plan te "upgraden". 

Ouderlijk toezicht

OpenAI schrijft dat de ingebouwde maatregelen vooral goed werken in korte gesprekken en bij lange gesprekken minder betrouwbaar zijn. Het bedrijf zegt de maatregelen te versterken, zodat ze ook in lange gesprekken blijven werken. 

Daarnaast wil OpenAI het makkelijker maken om hulpdiensten te contacteren voor mensen die de intentie tot zelfbeschadiging tonen. Ook worden er tools voor ouderlijk toezicht gemaakt, zodat ouders beter weten hoe hun tieners ChatGPT gebruiken. 

Lees meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.

Denk je aan zelfdoding? Neem dan 24/7 gratis en anoniem contact op met 0800-0113 of chat op 113.nl