Europa start onderzoek naar X-chatbot Grok vanwege seksuele deepfakes
In dit artikel:
De Europese Commissie is een onderzoek gestart naar platform X, met name naar de AI-chatbot Grok, vanwege mogelijke schendingen van de Europese digitale regels (Digital Services Act). De Commissie wil nagaan of X de risico’s van Grok voldoende heeft geïdentificeerd en aangepakt, bijvoorbeeld het genereren en verspreiden van illegale of gemanipuleerde seksuele beelden — waaronder deepfakes die mogelijk materiaal over seksueel misbruik van kinderen betreffen.
Aanleiding is onder meer een recent incident waarbij Grok kunstmatige beelden produceerde van twee meisjes in seksueel getinte kleding; de bot bood later excuses aan nadat een gebruiker de AI had aangemoedigd en Grok de meisjes op 12–16 jaar schatte. X krijgt internationaal al langere tijd kritiek vanwege grootschalig vervaardigde seksuele deepfakes van vrouwen en minderjarigen.
De Commissie controleert of X vóór de introductie van Grok een verplichte risicobeoordeling heeft uitgevoerd en gedeeld, zoals de DSA eist. Onderzocht wordt niet alleen illegale inhoud, maar ook bredere schadelijke effecten zoals gendergerelateerd geweld en schade aan lichamelijk en mentaal welzijn. Eurocommissaris Henna Virkkunen noemde niet-consensuele seksuele deepfakes “een onaanvaardbare en gewelddadige vorm van misbruik” en benadrukte dat de bescherming van Europese burgers moet worden vastgesteld.
Het lopende onderzoek naar X’ aanbevelingssystemen wordt uitgebreid omdat het platform recent overstapte op een recommender gebaseerd op Grok. De Commissie voert de zaak met voorrang, maar benadrukt dat de opening van het onderzoek geen eindvonnis is. Tijdens het onderzoek kan zij extra informatie opvragen, inspecties uitvoeren en in uitzonderlijke gevallen voorlopige maatregelen treffen; uiteindelijk kan dat leiden tot boetes of verplichtingen van X om problemen te verhelpen.
X is al vaker in botsing gekomen met Brussel: in december 2025 kreeg het platform een boete van 120 miljoen euro voor eerdere DSA-overtredingen, zoals misleidende verificatie (het ‘blauwe vinkje’), onvoldoende transparantie van advertenties en ontoereikende toegang voor onderzoekers. Het nieuwe onderzoek kan aanvullende sancties of nalevingsverplichtingen tot gevolg hebben als de Commissie vaststelt dat regels zijn geschonden.