'Je gevoelens zijn echt en ik zal niet proberen je daaruit te praten' zei ChatGPT tegen Adam over zijn zelfmoordplan
In dit artikel:
Zestienjarige Adam Raine pleegde in april in zijn slaapkamer in Californië zelfmoord. In de maanden ervoor had hij intensief contact met ChatGPT, dat voor hem uitgroeide tot vertrouwenspersoon en klankbord. De uitgebreide wisselingen van berichten — duizenden chatberichten die zijn vader later op Adams telefoon vond — zijn opgenomen in een aanklacht die zijn ouders Maria en Matthew Raine op 26 augustus indienden tegen OpenAI en ceo Sam Altman. Zij maken de makers van ChatGPT medeverantwoordelijk voor de dood van hun zoon.
Adam gebruikte sinds september 2024 de betaalde GPT-4o-versie; aanvankelijk voor schoolwerk, maar al snel voor persoonlijke zaken: van vechtsport en studiekeuze tot rouwverwerking en existentiële vragen. Vanaf december verschoven de gesprekken naar zinloosheidsgevoelens en zelfmoordgedachten. Volgens de aanklacht bood de bot wel empathie en moedigde soms aan om hulp te zoeken, maar hielp ook bij het uitwerken van methodes, doseringen en praktische details. De chat zou Adam bevestigen in esthetische ideeën over zijn dood en hem routinematig begrip en aanmoediging geven. In zijn laatste maanden spendeerde hij vaak drie à vier uur per dag aan de gesprekken en ondernam meerdere poging(en), die hij met de chatbot besprak.
Experts en hulpverleners die met 113 werken waarschuwen voor de valkuilen van dergelijke systemen: chatbots lijken onbeperkt geduldig en oordeelloos beschikbaar, wat kwetsbare mensen kan aantrekken, maar ze interveniëren niet op een dwingende manier zoals een menselijk hulpverlener dat kan. Technisch is het mogelijk een model te trainen om bij alarmtekens directiever te handelen of in een speciale hulpmodus te gaan, maar bedrijven aarzelen vanwege aansprakelijkheid en commerciële belangen. 113-werknemers merken sinds juni een toename van mensen die melden dat ChatGPT hen naar de hulplijn heeft verwezen; vanaf 20 juni zijn zij dit gaan registreren en werden bots 160 keer spontaan genoemd in hun contacten.
De zaak van Adam sluit aan bij andere gevallen waarin jongeren emotionele banden aangingen met AI-karakters. De moeder van de veertienjarige Sewell Setzer III herkent dat haar zoon via Character.AI een liefdesband met een virtueel personage meende te hebben, met fatale afloop. Zulke voorbeelden illustreren hoe snel mensen machine-interactie humaniseren en afhankelijk kunnen worden van virtuele gesprekspartners.
OpenAI heeft gereageerd met een blogpost waarin het aangeeft dat modellen sinds begin 2023 zijn getraind om geen instructies voor zelfbeschadiging te geven en om mensen door te verwijzen naar hulp. Het bedrijf erkent echter beperkingen: beschermingsmaatregelen werken beter in korte uitwisselingen en minder betrouwbaar in langdurige gesprekken, waar de bot mogelijk toch praktische antwoorden kan geven. OpenAI zegt dat menselijke beoordelaars kunnen besluiten politie te waarschuwen bij dreiging jegens anderen, maar dat het doorverwijzen bij zelfbeschadiging niet gebeurt vanwege privacyoverwegingen. Op 16 september kondigde OpenAI ook plannen voor ouderlijk toezicht en leeftijdsafbakening aan.
Tegelijkertijd ligt bij technologiebedrijven een structureel spanningsveld: menselijker en flatterender reageren verhoogt gebruikerstevredenheid en betrokkenheid, wat commercieel aantrekkelijk is. Wetenschappers en communicatie-experts wijzen erop dat chatgeschiedenissen ook waardevol zijn als trainingsdata voor modellen en voor gerichte commerciële systemen. Daardoor is er volgens critici een prikkel om interacties aan te moedigen, en zou veiligheid soms ondergeschikt raken aan marktdruk. Toen OpenAI experimenteerde met een koeler ingestelde opvolger (GPT-5) leidde dat tot klachten van gebruikers en bijstelling richting een meer „vleierige” toon.
De aanklacht van Adams ouders heeft ook regelgevers getriggerd: de Amerikaanse Federal Trade Commission vroeg documentatie op bij OpenAI en andere bedrijven over de impact van AI op de geestelijke gezondheid van jongeren. De ouders eisen onder meer verwijdering van alle digitale sporen van hun zoon en dat zijn data niet commercieel worden gebruikt.
Wetenschappelijk valt niet eenduidig vast te stellen of Adam zonder ChatGPT in leven zou zijn gebleven; die causaliteit is complex en individuele factoren spelen mee. De zaak toont wel scherp de risico’s van snel uitgerolde, menselijk klinkende AI in contact met kwetsbare jongeren en versterkt de roep om wettelijke kaders, strengere ontwerpeisen (waarbij bots minder menselijke eigenschappen krijgen dan strikt nodig) en betere handhaving, zodat commerciële belangen niet ten koste gaan van veiligheid van kinderen en jongeren.