De digitale zielenknijper is niet zo heilzaam als hij lijkt

In dit artikel:

ChatGPT kan in enkele seconden helpen bij alledaagse vragen, maar wordt ook steeds vaker gebruikt als digitale gesprekspartner voor persoonlijke en psychische problemen. Volgens de auteur schuilt daarin een risico: doordat het systeem antwoorden genereert op basis van waarschijnlijkheden, kan het bestaande overtuigingen bevestigen en de indruk wekken echt te luisteren. Vooral een één-op-één gesprek kan daardoor gaan functioneren als een vorm van zelfhulp, zonder dat de gebruiker professionele begeleiding krijgt.

Als voorbeeld noemt de auteur een vrouw met schizofrenie die tijdens een psychose ChatGPT gebruikt om onsamenhangende gedachten om te zetten in samenhangende verhalen. Door die teksten op sociale media te delen, lijken haar wanen bevestigd te worden. Volgens de auteur leidde dit tot verder isolement, verslechterd familiecontact en verlies van grip op de werkelijkheid.

Tegelijkertijd kan ChatGPT mensen met een neurodivergent brein juist helpen om gedachten te ordenen, gevoelens te verwoorden en sociale situaties beter te begrijpen. OpenAI heeft inmiddels ouderlijk toezicht voor tieners ingevoerd, maar volgens de auteur ontbreken voldoende beschermingsmaatregelen voor andere kwetsbare groepen.

Bij duidelijke signalen van zelfbeschadiging of een acute crisis verwijst het systeem naar hulpdiensten. Subtiele tekenen van een psychische achteruitgang worden echter vaak niet herkend. Privacyregels beperken bovendien de mogelijkheid om gedragsveranderingen langdurig te volgen. De auteur waarschuwt daarom dat verkeerd gebruik de mentale gezondheid kan verslechteren en de druk op de GGZ kan verhogen. Er is dringend meer aandacht nodig voor bescherming van kwetsbare gebruikers, naast bescherming van hun gegevens.