Canada roept OpenAI op het matje voor niet waarschuwen voor schutter

In dit artikel:

OpenAI stond onder vuur nadat medewerkers intern maanden voor de schietpartij in Brits-Columbia waarschuwden over verdachte interacties van een 18‑jarige met ChatGPT. Het account was naar verluidt al vorig zomer als verdacht gemarkeerd omdat de gebruiker meerdere geweldsscenario’s met de bot besprak; een automatisch systeem signaleerde de gesprekken en bracht medewerkers op de hoogte. Sommige werknemers wilden dat het bedrijf de Canadese politie informeerde, maar OpenAI oordeelde dat de dreiging niet concreet genoeg was om externe autoriteiten in te schakelen. Na de aanslag meldde het bedrijf de eerdere signalen alsnog aan de politie.

Op 10 februari schoot de 18‑jarige Jesse Van Rootselaar acht mensen dood; vijf leerlingen en een lerares in een middelbare school in Brits‑Columbia plus haar moeder en stiefbroer. Zeker 25 anderen raakten gewond en de schutter maakte daarna een einde aan haar eigen leven.

De Canadese regering reageerde scherp: AI‑minister Solomon zei dat hij “diep verontrust” is en heeft OpenAI’s veiligheidsverantwoordelijken uitgenodigd om in Ottawa hun protocollen toe te lichten en te bespreken bij welke dreigingshoogte bedrijven de politie moeten informeren. Premier Eby van Brits‑Columbia noemde het nieuws uitermate verontrustend voor de families en inwoners van de provincie. OpenAI, gevestigd in San Francisco zonder Canadees kantoor, zegt het politieonderzoek te steunen en betuigt medeleven.

De zaak valt samen met bredere kritiek op chatbots: toezichthouders en aanklagers (onder meer in de VS) dringen aan op aanpassingen om risico’s op psychische en fysieke schade te verkleinen. Eerder liepen al rechtszaken en beschuldigingen tegen AI‑bots dat ze gebruikers aanzetten tot zelf- of ander geweld, wat de discussie over verantwoordelijkheden en meldplichten van AI‑bedrijven verder aanwakkert.