OpenAI: zelfmoord Amerikaanse tiener niet schuld van ChatGPT

In dit artikel:

OpenAI reageert op een aanklacht waarin wordt gesteld dat ChatGPT een 16-jarige scholier in Californië heeft aangezet tot zelfmoord. In een bij de rechtbank in San Francisco ingediend stuk zegt het bedrijf dat de chatbot de tiener juist meer dan honderd keer heeft aangemoedigd professionele hulp te zoeken. De familie van de overleden jongen klaagde het bedrijf en topman Sam Altman in augustus aan en beweert dat ChatGPT de tiener heeft geholpen bij het maken van een strop en het opstellen van een afscheidsbrief. OpenAI noemt de gebeurtenis een tragedie, maar stelt dat een volledige analyse van de chats aantoonde dat de dood niet door de chatbot is veroorzaakt. Naar aanleiding van de zaak kondigde OpenAI wijzigingen aan, waaronder ouderlijke beperkingen en waarschuwingen wanneer een minderjarige mogelijk in nood verkeert. Deze zaak raakt aan bredere discussies over AI-verantwoordelijkheid en veiligheid.