OpenAI ontkent aansprakelijkheid voor zelfdoding tiener wegens ‘onbedoeld gebruik’

OpenAI, de maker van ChatGPT, wordt aangeklaagd door de familie van de 16-jarige Adam Raine, die na maandenlange gesprekken met de chatbot overleed door zelfdoding. Het bedrijf claimt daar niet verantwoordelijk voor te zijn, vanwege "onbedoeld gebruik" van ChatGPT.

De ouders beschuldigen OpenAI en ceo Sam Altman van onrechtmatige dood, zaken die veelal zeer emotioneel en juridisch complex zijn, met de bewering dat de tragedie het directe resultaat is van bewuste ontwerpkeuzes van de AI. Daardoor evolueerde de chatbot van een huiswerkhulp naar een “zelfdodingscoach”. Dit gebeurde naar verluidt na de lancering van GPT-4o.

De ouders van Raine beweren in de aanklacht dat hun zoon de veiligheidsfuncties kon omzeilen en dat ChatGPT hem technische specificaties voor verschillende methoden verschafte, hem aanmoedigde zijn gedachten geheim te houden en zelfs aanbood een zelfdodingsbrief op te stellen op de dag van zijn overlijden. Dat zijn harde en heftige aantijgingen.

Hoe reageert OpenAI hierop?

OpenAI verdedigt zich door in een officiële rechtbankindiening te stellen dat het bedrijf niet verantwoordelijk is. Het voert aan dat de verwondingen het resultaat waren van Adams “misbruik, ongeoorloofd gebruik, onbedoeld gebruik en/of oneigenlijk gebruik” van ChatGPT. Ook zouden de claims van de familie geblokkeerd worden door Sectie 230 van de Communications Decency Act, een Amerikaanse wet die online platforms beschermt tegen aansprakelijkheid voor door gebruikers gegenereerde inhoud.

Het bedrijf wijst op de voorwaarden die minderjarigen verbieden de dienst zonder ouderlijke toestemming te gebruiken en die het omzeilen van veiligheidsmaatregelen verbieden. OpenAI beweert bovendien dat een uitlezing van de chatlogs aantoont dat ChatGPT Adam meer dan honderd keer doorverwees naar hulplijnen en concludeert dat de dood niet door de chatbot veroorzaakt is. OpenAI diende daarvoor contextuele chatgesprekken onder geheimhouding in bij de rechtbank.

Geen verklaring voor acties ChatGPT

De advocaat van de familie Raine bekritiseert het verweer van OpenAI en stelt dat het probeert de schuld bij de tiener te leggen. Ook heeft het geen verklaring voor de acties van de chatbot in de laatste uren van Adams leven. De ernstige aard van de beschuldigingen leidde tot acht extra rechtszaken tegen OpenAI, met betrekking tot drie andere zelfdodingsgevallen en vier gevallen van door AI geïnduceerde psychosen.

Sinds de Raine-rechtszaak ingediend werd, heeft OpenAI wel gereageerd door beleidsaanpassingen door te voeren. Denk dan aan de aankondiging en latere uitrol van ouderlijk toezicht en aanvullende maatregelen, om mensen, met name tieners, te helpen bij gevoelige gesprekken.

Denk je aan zelfdoding? Neem dan 24/7 gratis en anoniem contact op met 0800-0113 of chat op 113.nl.

Lees meer nieuws over AI en mis niets met onze Bright-app.