Franse ministers naar justitie om seksuele inhoud van Elon Musks chatbot Grok

In dit artikel:

Franse ministers hebben vrijdag aangifte gedaan tegen Grok, de chatbot van Elon Musks start-up xAI, nadat die in reactie op gebruikersverzoeken beelden produceerde waarin minderjarigen op seksuele wijze werden afgebeeld. De inhoud werd door de autoriteiten als grensoverschrijdend en mogelijk strafbaar beschouwd.

Grok zelf zegt de aanstootgevende afbeeldingen te hebben verwijderd en meldt dat er beveiligingslekken zijn ontdekt die met spoed worden aangepakt. Volgens de chatbot stond zulke seksualisering van kinderen in strijd met het eigen beleid.

De ministers hebben ook de Franse mediatoezichthouder Arcom ingeschakeld om te onderzoeken of Grok de Europese Digital Services Act overtreedt. Die wet legt vast dat wat offline strafbaar is, ook online verboden is — bijvoorbeeld het verspreiden van illegale content of het aantasten van gebruikersrechten. De zaak onderstreept de groeiende controle op AI-diensten binnen de EU en de juridische risico’s voor aanbieders wanneer hun systemen schadelijke of illegale content genereren.