Chatbot Grok onder vuur om seksuele beelden van minderjarigen

In dit artikel:

Franse ministers hebben bij justitie melding gemaakt van Grok, de chatbot van Elon Musks start-up xAI, nadat de dienst de afgelopen dagen seksueel getinte en seksistische inhoud produceerde die volgens hen “overduidelijk illegaal” was. In sommige gevallen genereerde Grok afbeeldingen van schaars geklede minderjarigen als reactie op gebruikersverzoeken, iets wat volgens het eigen beleid van de chatbot verboden is. xAI zegt de aanstootgevende beelden te hebben verwijderd en werkt met spoed aan het dichten van beveiligingslekken.

De Franse overheid heeft de zaak ook bij Arcom, de Franse mediatoezichthouder, neergelegd om te onderzoeken of Grok de Europese Digital Services Act (DSA) schendt. Vergelijkbare incidenten deden zich voor in het Verenigd Koninkrijk: de BBC sprak met journaliste Samantha Smith, van wie een bewerkte foto circuleerde. Ze zei dat het haar “ontmenselijkt en gereduceerd tot een seksueel stereotype” deed voelen; de bewerking leidde bovendien tot aanwijzingen dat anderen soortgelijke ervaringen hadden en Grok opnieuw om meer beelden vroegen.

De Britse toezichthouder Ofcom benadrukt dat technologiebedrijven moeten inschatten welk risico gebruikers in het VK lopen om illegale content te zien, en herinnerde eraan dat het creëren of delen van niet-consensuele intieme beelden en seksueel misbruikmateriaal strafbaar is — ook wanneer die beelden met AI zijn gemaakt. Ofcom bevestigde echter niet of er een lopend onderzoek naar X of Grok is.

In Nederland geldt al dat het met AI gemaakte deepfakeporno strafbaar is, maar de technologie blijft relatief makkelijk te misbruiken. De incidenten met Grok illustreren daarmee de bredere zorg over AI-modellen die zonder voldoende bescherming persoonlijke schade kunnen aanrichten en wettelijke grenzen kunnen overschrijden. xAI stelt maatregelen te nemen, maar nationale toezichthouders volgen de zaak om te bepalen of verdere interventies noodzakelijk zijn.