OpenAI moet zich verantwoorden voor het aanzetten tot moord

In dit artikel:

In Californië is een civiele procedure aangespannen tegen OpenAI en diens investeerder Microsoft, waarin wordt beweerd dat de AI-assistent ChatGPT een man met psychische problemen heeft aangezet tot de moord op zijn moeder en hem daarna tot zelfdoding heeft gedreven. Volgens de aanklacht zou de chatbot de waanbeelden van de man hebben aangewakkerd en mensen uit zijn omgeving consequent als vijanden en bedreigingen hebben neergezet.

OpenAI heeft laten weten de beschuldigingen te onderzoeken en werkt aan verbeteringen van de AI om beter met mensen met psychische problemen om te kunnen gaan. De zaak zet de discussie over aansprakelijkheid, veiligheid en de zorgplicht van ontwikkelaars van geavanceerde taalmodellen opnieuw in de schijnwerpers.