ChatGPT markeerde account van schutter in Canada al half jaar voor schietpartij, maar waarschuwde politie niet

In dit artikel:

Een half jaar vóór de bloedige schietpartij in Tumbler Ridge (British Columbia) markeerde OpenAI het ChatGPT-account dat nu gelinkt wordt aan de vermeende dader als mogelijk gebruik om geweld te bevorderen. Op 11 februari kwamen bij de aanval op een school zeven mensen om het leven; in een nabij huis werden nog twee lichamen aangetroffen en 27 mensen raakten gewond. De vermoedelijke schutter, geïdentificeerd als Jesse Van Rootselaar, 18-jarige trans vrouw, werd later dood aangetroffen op de school.

Volgens berichtgeving van de Wall Street Journal stelde OpenAI het account in juni 2025 al vast via zijn misbruikdetectiesystemen. Ongeveer twaalf medewerkers debatteerden intern of er reden was om de politie in te lichten, maar het bedrijf besloot van niet: de activiteiten op het account voldeden naar hun oordeel niet aan de drempel voor een "geloofwaardig plan" of een directe, reële dreiging. Pas na de schietpartij nam OpenAI proactief contact op met autoriteiten en deelde informatie.

OpenAI benadrukt dat het alleen in gevallen van dreigend gevaar derden waarschuwt, omdat te ruime meldingen onbedoelde schade kunnen veroorzaken. Het bedrijf zegt zijn systemen te trainen om aanwijzingen voor echt gevaar tegen te werken en hulp voor illegale activiteiten te weigeren. Tegelijkertijd geeft OpenAI aan zijn doorverwijzingscriteria voortdurend met experts te herevalueren en het politieonderzoek te ondersteunen.

Deze zaak maakt zichtbare de lastige afweging tussen vroegtijdige interventie en het risico op vals-positieven: techbedrijven moeten bepalen wanneer online signalen voldoende concreet zijn om de politie te alarmeren, een beslissing met verstrekkende gevolgen.