OpenAI in de problemen: aangeklaagd wegens dodelijke gewelddaden

OpenAI, het bedrijf achter ChatGPT, wordt samen met CEO Sam Altman aangeklaagd door de Amerikaanse staat Florida. Het zou mensen namelijk helpen bij het plegen van gewelddadige moorden en ook bij zelfdoding.

“Vandaag hebben we de eerste door een staat geleide rechtszaak in het land aangekondigd tegen OpenAI en zijn CEO Sam Altman,” zei procureur-generaal van Florida James Uthmeier. “OpenAI en Altman hebben interne en externe veiligheidswaarschuwingen genegeerd, hebben kinderen in groot gevaar gebracht en hebben een gevaarlijk product toegelaten tot miljoenen inwoners van Florida.”

Massaschietpartij in Florida

De aanklacht stelt onder andere dat ChatGPT een rol zou hebben gespeeld bij de dodelijke schietpartij aan de Universiteit van Florida vorig jaar. De schutter zou zelf hebben gezegd hulp te hebben gevraagd aan de chatbot. Het bedrijf heeft echter elke verantwoordelijkheid voor de tragedie stellig ontkend. “De massaschietpartij van vorig jaar op Florida State University was een tragedie, maar ChatGPT is niet verantwoordelijk voor dit verschrikkelijke misdrijf,” aldus een woordvoerder.

Volgens de aanklacht zouden misleidende claims en de onzorgvuldige introductie van ChatGPT hebben geleid tot hulp bij geweld, zelfdoding, reputatieschade, verminderd kritisch denken en verslaving bij minderjarigen door dataverzameling zonder ouderlijk toezicht.

Eerder aangeklaagd

Dit is alweer het zoveelste voorbeeld van AI-bedrijven die worden bekritiseert vanwege de mentale en fysieke gevolgen van hun producten. Vorig jaar werd OpenAI nog aangeklaagd vanwege de zelfdoding van een tiener in Californië.