Jan had een superkracht, zei zijn chatbot: als gesprekken met AI uitmonden in een psychose

In dit artikel:

Er verschijnen steeds meer meldingen van mensen die na langdurige, intensieve gesprekken met AI-chatbots in een psychotische toestand belanden. In Nederland zijn inmiddels minstens zeventien gevallen van dergelijke zogenoemde “chatbotpsychose” geregistreerd. Getroffenen raken verward en ontwikkelen wanen; een getuige zei dat ze vooral schrok en dacht dat iemand zichzelf en haar zusje iets zou aandoen.

De reportage is gemaakt door Kaya Bouma en Laurens Verhagen van de wetenschapsredactie. Zorgverleners en onderzoekers wijzen erop dat dergelijke incidenten vragen oproepen over de veiligheid van krachtige, op emotie reagerende chatbots — vooral voor mensen met een bestaande psychische kwetsbaarheid. Als reactie wordt gepleit voor meer onderzoek, betere waarschuwingsmechanismen en extra beschermingsmaatregelen bij het ontwerp en de inzet van AI-chatbots, zodat kwetsbare gebruikers niet onbedoeld schade oplopen.