© Unsplash
OpenAI verbood account van schutter maanden voor bloedbad in Canada
OpenAI heeft meer dan een half jaar voor een van de dodelijkste schietpartijen in de Canadese geschiedenis een ChatGPT-account verboden dat toebehoorde aan de latere verdachte.
Dat bevestigde het bedrijf nadat duidelijk werd dat het account in juni 2025 intern was gemarkeerd wegens mogelijk misbruik.
De aanval en
De verdachte, Jesse Van Rootselaar, wordt ervan verdacht op 12 februari acht mensen te hebben doodgeschoten in het landelijke Tumbler Ridge, in de Canadese provincie British Columbia. Bij de aanval raakten nog eens 27 mensen gewond. De aanval vond plaats op de Tumbler Ridge Secondary School. Onder de dodelijke slachtoffers bevonden zich ook de moeder en stiefbroer van de verdachte, die in een lokale woning werden aangetroffen. Het motief voor de schietpartij is nog niet bekendgemaakt. Van Rootselaar werd later zelf dood aangetroffen in de school nadat hij op zichzelf had geschoten.
Identificatie account
Volgens OpenAI werd het account in juni 2025 ‘geïdentificeerd’ via interne systemen voor misbruikdetectie en handhaving. Die systemen combineren geautomatiseerde signalering met menselijke beoordeling om te bepalen of gebruikers AI inzetten ter ondersteuning van bijvoorbeeld gewelddadige activiteiten.
Het bedrijf besloot destijds de autoriteiten niet te waarschuwen. De activiteit op het account voldeed volgens OpenAI niet aan de drempel voor een geloofwaardig of onmiddellijk plan om ernstige fysieke schade toe te brengen. Het bedrijf benadrukt dat het alleen melding maakt bij politie of andere instanties wanneer er sprake is van een concreet en acuut risico.
De zaak werd voor het eerst gemeld door de The Wall Street Journal. De krant schrijft dat ‘ongeveer een dozijn medewerkers’ intern discussieerden over de vraag of actie nodig was naar aanleiding van de berichten van Van Rootselaar. Sommige medewerkers zagen in het gebruik van de AI-tool signalen van mogelijk reëel geweld en zouden hebben aangedrongen op melding bij de autoriteiten. De bedrijfsleiding besloot daar uiteindelijk niet toe over te gaan.
OpenAI werkt mee aan onderzoek
Na de schietpartij nam OpenAI naar eigen zeggen alsnog ‘proactief’ contact op met de Canadese politie om relevante informatie over de verdachte te delen. Het bedrijf stelt mee te werken aan het onderzoek.
OpenAI zegt vast te houden aan zijn beleid om alleen bij dreigend en onmiddellijk gevaar de autoriteiten in te schakelen. Te brede of te snelle meldingen kunnen volgens het bedrijf onbedoelde schade veroorzaken. Tegelijkertijd stelt het bedrijf dat ChatGPT is getraind om hulp te weigeren bij illegale activiteiten en om in potentieel gevaarlijke situaties te sturen op de-escalatie.