ChatGPT wil weten wie je noodcontact is

OpenAI heeft aangekondigd dat je nu een Trusted Contact kunt opgeven. Het gaat om een noodcontact waar ChatGPT aan kan refereren wanneer een gesprek zou kunnen uitmonden in zelfbeschadiging of erger. 

Een volwassen ChatGPT-gebruiker kan een ander persoon opgeven als vertrouwd contact en die wordt dan in het gesprek genoemd wanneer het de verkeerde kant op dreigt te gaan. ChatGPT zal dan aanraden om met die persoon contact op te nemen. Maar het wordt niet geheel bij de gebruiker neergeletgd. Er wordt een automatische melding gestuurd naar het contact om aan te geven dat ze even een check-in kunnen gebruiken. Wel is het in het geval van Trusted Contact aan de gebruiker zelf om het in te stellen.

Trusted Contact op ChatGPT

OpenAI lijkt wat voorzichtiger met de geestelijke gezondheid van zijn gebruikers te willen omspringen nu er verschillende rechtszaken tegen de AI-chatbot zijn gestart omdat mensen met psychische problemen bijvoorbeeld in een isolement kwamen of waanbeelden kregen (en erger). OpenAI gebruikt een combinatie van technologie en mensen om mogelijk schadelijke incidenten te controleren. Hebben incidenten te maken met zelfbeschadiging, dan worden ze altijd bekeken door mensen. OpenAI zou ernaar streven het binnen een uur te hebben bekeken.

Als het interne team van OpenAI besluit dat er inderdaad sprake is van een risico, dan wordt het Trusted Contact ingeschakeld. Dat kan via een sms’je, een e-mail of een notificatie in de app. Er wordt aan de contactpersoon niet aangegeven wat er is besproken om zo de privacy van de gebruiker te bewaken. Verder heeft ChatGPT sowieso een standaardmelding dat je het beste professionele hulp kunt zoeken als het gesprek een bepaalde kant opgaat