Gemini AI gaat gebruikers meer doorverwijzen naar zorgprofessionals: dit is waarom

Google heeft zijn Gemini AI-model geüpdatet om gebruikers meer aan te sporen om een beroep te doen op geestelijke gezondheidszorgvoorzieningen. Dat is absoluut geen toeval, want het bedrijf wordt in de VS inmiddels aangeklaagd in een zelfmoordzaak waarin Gemini een behoorlijke rol zou hebben gespeeld.

Als een gesprek de suggestie wekt dat een gebruiker zich in een mentale crisis bevindt, zal Gemini voortaan direct een speciale interface tonen met links naar snel toegankelijke geestelijke gezondheidszorgvoorzieningen. Denk aan suïcidepreventielijn, maar ook telefoonnummers van crisisdiensten. Daarnaast zal de chatbot meer empathische reacties geven als hij merkt dat een gebruiker kampt met mentale problemen. Verwijzingen naar zorgprofessionals blijven constant in beeld tijdens het gesprek met de chatbot.

De update komt absoluut niet uit de lucht vallen: in de VS worden AI-bedrijven al langere tijd aangeklaagd in zelfmoordzaken waarin slachtoffers voor hun daad met een chatbot hebben gesproken. Die zou hen volgens aanklachten richting zelfmoord hebben geduwd. Een recent voorbeeld waar Gemini bij betrokken zag je begin maart. In de aanklacht wordt volgens The Verge gesproken over een 36-jarige Amerikaan die door Gemini richting een reeks gewelddadige daden werd geduwd, waarna zelfmoord volgde.

Google schakelde medische experts in voor update

Google lijkt met de update vooral het beste beentje voort te zetten om te laten zien dat het begaan is met het lot van mensen met mentale problemen. Het bedrijf zegt 30 miljoen dollar te investeren in preventielijnen door heel de VS. Voor de update heeft het advies ingewonnen bij medische experts en de Gemini-ervaring zal voortdurend worden geüpdatet om gebruikers richting zorgprofessionals te bewegen.

Verder benadrukt de techgigant dat Gemini geen vervanger is voor professionele zorg, therapie of de crisisdiensten. Wel erkent Google dat mensen de chatbot wel gebruiken om medische informatie in te winnen in geval van een (mentale) crisis. Met zijn inspanningen doet Google naar alle waarschijnlijkheid net wat meer dan concurrenten als OpenAI en Anthropic om kwetsbare gebruikers te beschermen, maar volgens een onderzoek van ruim een half jaar oud blijft ook Gemini een risico, vooral onder kinderen en tieners.

Kamp je met psychische klachten? Neem dan contact op met MIND via 0900-1450. Denk je aan zelfdoding, dan kun je -eventueel anoniem- bellen met 113 via 0800-0113.