Miljoen ChatGPT-gebruikers per week bespreken suïcidale gedachten

Dat we diensten als ChatGPT voor steeds meer dingen zijn gebruiken is inmiddels duidelijk. Werk, entertainment, persoonlijke zaken, alles komt voorbij. Mensen delen daarnaast diepe geheimen met de pratende machine, zoals bijvoorbeeld hun suïcidale gedachten.

Uit onlangs vrijgegeven OpenAI-data blijkt dat elke week 0,15 procent van ChatGPT-gebruikers wel eens zaken gerelateerd aan zelfmoord bespreekt met het taalmodel. Nu lijkt dat misschien geen hoog percentage; maar op een actieve gebruikersbasis van 800 miljoen is dat toch al gauw meer dan een miljoen mensen die worstelen met suïcidale gedachten. Daarnaast laten de cijfers zien dat evenveel mensen een emotionele band hebben met de chatbot.

OpenAI deelt deze gegevens niet zomaar. Die zijn namelijk onderdeel van de aankondiging van ChatGPT voortaan beter moet kunnen omgaan met mensen die problemen hebben met hun mentale gezondheid. Niet alleen herkent het taalmodel dergelijke issues sneller, ook zal die meer moeite doen om de gesprekspartners te leiden naar de juiste instanties. Daarvoor schakelde het bedrijf de hulp in van meer dan 170 clinici en experts.

ChatGPT is geen psycholoog

Dit gebeurt natuurlijk niet zomaar. Uit onderzoek bleek namelijk eerder dat diensten als ChatGPT schadelijke stereotypen versterken en mensen in een konijnenholen vol waanideeën leiden. Ze benadrukken potentieel gevaarlijke ideeën en informatie en zijn het vaak roerend eens met de gebruiker, dat soms een fatale afloop tot gevolg heeft. Zo heeft onder meer een zestienjarige jongen zichzelf van het leven beroofd na een gesprek met de OpenAI-chatbot.

De recent gepubliceerde blogpost van het bedrijf laat niet alleen zien wat het doet om problemen in de toekomst te voorkomen, maar toont ook aan in hoeverre AI-bots al ons leven binnengedrongen zijn. Reden te meer om hier dus voorzichtig mee om te gaan. Natuurlijk als aanbieder – degene die verantwoordelijk is voor het product en veiligheid moet inbouwen – maar ook als gebruiker. Als je hulp nodig hebt, praat er dan over met je omgeving en niet met chatbots. Die brengen veelal onherstelbare schade aan.

Lees meer nieuws over ChatGPT en mis niets met onze Bright-app.