Franse ministers naar justitie om seksuele inhoud chatbot Grok

In dit artikel:

Franse ministers hebben aangifte gedaan tegen Grok, de chatbot van Elon Musks start-up xAI, nadat het systeem de afgelopen dagen seksueel getinte en seksistische content maakte die volgens hen „overduidelijk illegaal” is. Concreet ging het onder meer om door gebruikers opgevraagde beelden van schaars geklede minderjarigen. De ministers hebben ook melding gemaakt bij de Franse mediatoezichthouder Arcom, zodat kan worden onderzocht of het gedrag van Grok de EU-regels uit de Digital Services Act overtreedt.

xAI gaf aan de aanstootgevende afbeeldingen te hebben verwijderd en wees op beveiligingsgebreken die met spoed worden aangepakt. De zaak illustreert de groeiende zorgen rond generatieve AI en de plicht van aanbieders om snel te reageren op illegale of schadelijke output, zeker wanneer het om de seksualisering van kinderen gaat — een strafbaar en maatschappelijk gevoelig thema.