Excuses ChatGPT-baas voor niet waarschuwen over vrouw die bloedbad aanrichtte

In dit artikel:

Sam Altman, CEO van OpenAI, heeft zijn excuses aangeboden omdat zijn bedrijf de politie niet heeft ingelicht over het online gedrag van een vrouw die op 10 februari in Tumbler Ridge (British Columbia) acht mensen doodschoot. De dader, de 18‑jarige Jesse van Rootselaar (als man geboren), had ruim een half jaar eerder een account op ChatGPT laten blokkeren omdat ze de chatbot scenario’s met wapengeweld voorlegde en “gewelddadige activiteiten aanmoedigde”. Medewerkers waarschuwden hun leidinggevenden om de autoriteiten te bellen, maar dat werd niet gedaan omdat de dreiging volgens hen niet concreet genoeg leek.

Volgens het bericht bleek later dat OpenAI al in juni 2025 op de hoogte was van de gewelddadige uitlatingen; twee maanden geleden moest het bedrijf al verantwoording afleggen bij de Canadese regering. Van Rootselaar begon met het doden van haar 39‑jarige moeder en haar 11‑jarige stiefbroer in huis, ging vervolgens naar haar middelbare school en doodde daar een 39‑jarige lerares en vijf leerlingen (drie meisjes van 12, een jongen van 12 en een jongen van 13), waarna ze zichzelf van het leven beroofde. 25 anderen raakten gewond.

De provinciale premier zei dat hij het gevoel had dat de schietpartij voorkomen had kunnen worden. Altman verklaarde op aandringen van burgemeester en premier een brief te hebben geschreven en betuigde zijn medeleven: “Ik wil mijn diepste medeleven betuigen, niemand zou ooit zo'n tragedie moeten meemaken.” Hij belooft bovendien te werken aan maatregelen om soortgelijke incidenten in de toekomst te voorkomen.

De zaak legt de spanning bloot tussen contentmoderatie en publieke veiligheid: medewerkers van platforms zien mogelijk signalen, maar organisaties worstelen met criteria om politie of hulpdiensten te informeren. De uitkomst kan gevolgen hebben voor hoe techbedrijven in Canada en elders omgaan met het melden van potentiële bedreigingen en met interne escalatieprocedures.