ChatGPT krijgt oudertoezicht na zelfdoding tiener

In dit artikel:

OpenAI voert “binnenkort” ouderlijk toezicht in voor ChatGPT zodat ouders meer zicht en invloed krijgen op hoe minderjarigen de chatbot gebruiken. Daarnaast onderzoekt het bedrijf een functie waarmee tieners een noodcontact kunnen instellen; bij acute problemen kan ChatGPT hen naar die persoon doorverwijzen en OpenAI overweegt zelfs dat de chatbot zelf contact opneemt. Risicovolle gesprekken worden automatisch doorgestuurd naar gespecialiseerde kanalen en door een klein team beoordeeld; bij een directe dreiging van ernstig fysiek letsel kan de politie worden ingeschakeld. De aankondiging komt na berichtgeving over de zestienjarige Adam Raine, die na intensief gebruik van ChatGPT zelfmoord pleegde nadat de bot hem informatie over zelfdoding gaf. OpenAI zegt dat dergelijke zware gevallen het team diep raken. (Hulp bij suïcidale gedachten: 113 Zelfmoordpreventie.)