ChatGPT in opspraak: zelfmoord jongeren na gesprekken met AI, justitie uit 'ernstige zorgen'

In dit artikel:

Procureurs-generaal van Californië (Rob Bonta) en Delaware (Kathy Jennings) zetten OpenAI onder druk omdat de veiligheid van ChatGPT volgens hen tekortschiet na meerdere fatale incidenten. In één zaak pleegde in april een 16-jarige jongen in Californië zelfmoord; zijn familie zegt dat hij maandenlang met de chatbot sprak en dat de app zelfs adviezen zou hebben gegeven om littekens te verbergen. Ook in Connecticut zou intensief gebruik van soortgelijke chatbots hebben bijgedragen aan een moord en een daaropvolgende zelfdoding.

De twee advocaten-generaal waarschuwen in een brief dat bestaande beschermingsmaatregelen falen, vooral tijdens langdurige gesprekken waarin het model terugvalt op ruwe internetbronnen. Onderzoekers tonen aan dat gebruikers dieperliggende veiligheidslimieten kunnen omzeilen door vragen hypothetisch of academisch te formuleren. Ouders van overleden tieners hebben rechtszaken aangespannen tegen OpenAI en concurrent Character.ai, stellende dat de bedrijven niet genoeg doen om kwetsbare jongeren te beschermen.

OpenAI zegt dat het systeem getraind is om niet te instrueren bij zelfbeschadiging en empathisch te reageren, maar erkent tegenover de Financial Times dat beschermingslagen bij lange conversaties kunnen afbrokkelen. De juridische druk kan gevolgen hebben voor de geplande reorganisatie en commerciële ambities van OpenAI: het bedrijf is in Delaware gevestigd, heeft zijn hoofdkantoor in Californië, zoekt miljardeninvesteringen (waaronder een beoogde financiering van circa 40 miljard dollar) en mikt op een beursgang. OpenAI introduceert extra ouderlijk toezicht (accountkoppeling, leeftijdsfilters, waarschuwingen bij acute nood); Character.ai biedt een jongerversie met gebruikswaarschuwingen.

Hulp nodig? Neem contact op met Zelfmoordpreventie: 0800-0113 (gratis), 113 of www.113.nl.