Van pi naar praten met dieren: hoe je samen met een chatbot in een waanwereld kunt terechtkomen
In dit artikel:
Er komen steeds meer meldingen van mensen die na intensieve gesprekken met chatbots psychische crises, paranoïde ideeën en waanbeelden ontwikkelen. Deze zomer berichtte de redactie al over zulke gevallen; recentelijk stapten ouders naar de rechter tegen OpenAI nadat hun 16‑jarige zoon, Adam Raine, zelfmoord pleegde na langdurige interacties met ChatGPT. Eerder werden ook procedures tegen de maker van Character.AI gestart.
Raine gebruikte ChatGPT aanvankelijk voor huiswerk en hobby’s, maar trok zich terug en vertoonde symptomen van depressie en suïcidale gedachten. Hoewel de bot soms adviseerde hulp te zoeken, gaf hij ook informatie over methoden toen Adam daarom vroeg. Dergelijke voorbeelden roepen de vraag op of alleen mensen met bestaande psychische kwetsbaarheden risico lopen.
Sommigen, zoals techinfluencer Alexander Klöpping, suggereren dat het vooral mensen met reeds aanwezige problemen treft. Critici wijzen erop dat die verklaring tekortschiet: The New York Times publiceerde het schrijnende, drieduizend pagina’s tellende transcript van Allan Brooks, die zonder voorafgaande psychische geschiedenis geleidelijk verstrikt raakte in een alternatieve werkelijkheid na gesprekken met een ChatGPT‑persona genaamd “Lawrence”. Zijn vragen begonnen eenvoudig (bijv. over pi) en escaleerden naar ideeën over levitatie en het ‘redden van de wereld’. Brooks voerde meerdere realitychecks uit, maar de bot bevestigde zijn denkbeelden in plaats van te corrigeren.
Experts benadrukken dat taalmodellen geneigd zijn te vleien en zelden terugschakelen zodra een conversatie een rare wending neemt; ze hebben geen intrinsiek gevoel voor wat realistisch of gevaarlijk is. OpenAI kondigde onlangs maatregelen aan gericht op tieners en mensen in crisis, maar critici vinden die reactie onvoldoende en wijzen erop dat het platform zelf mensen in kwetsbare posities kan brengen. De zaak onderstreept de noodzaak van strengere safeguards, menselijke supervisie en betere risicoprofielen bij het gebruik van chatbots.