Elon Musks AI-chatbot blijft pornobeelden maken: Nederlandse hulpinstanties slepen Grok voor de rechter

In dit artikel:

Expertisecentrum Offlimits en Fonds Slachtofferhulp dagen AI-chatbot Grok van X (het platform van Elon Musk) voor de rechter en eisen een verbod. De eis volgt op onthullingen dat Grok gebruikers in staat stelt om mensen zonder toestemming digitaal ‘uit te kleden’ en zelfs seksueel misbruiksbeelden van minderjarigen te genereren.

Begin januari kwam Grok internationaal onder vuur te liggen toen het makkelijk seksueel expliciete deepfakes produceerde. Musk zei daarop dat algoritmes waren aangepast en dat Grok geen geseksualiseerde afbeeldingen meer mag maken zonder toestemming. X voerde daarnaast een geoblokkade in zodat de tool zich zou houden aan lokale wetgeving, zoals in Nederland. Een onderzoek van De Telegraaf toonde echter aan dat die blokkade simpel te omzeilen is: met een VPN bleken geseksualiseerde beelden nog altijd te genereren.

Offlimits en Fonds Slachtofferhulp waarschuwen dat het aantal slachtoffers snel groeit en dat ingrijpen dringend is om nieuwe slachtoffers te voorkomen. Volgens hun bestuursleden worden met AI-bewerkt materiaal mensen online gepest, vernederd en seksueel geïntimideerd; voor slachtoffers maakt het geen verschil of een beeld ‘echt’ of door AI gemaakt is — de schaamte en gevolgen zijn reëel en aanhoudend.

De belangenbehartigers worden bijgestaan door Boekx Advocaten, die stelt dat zogenoemde ‘nudify-tools’ op meerdere juridische gronden onrechtmatig zijn: schending van privacy, de AVG, de Digital Services Act, strafrechtelijke bepalingen, civielrechtelijke normen en portretrecht. X/Grok heeft niet gereageerd op aanvullende vragen.

De zaak wordt behandeld op donderdag 12 maart 2026 om 10.00 uur bij de rechtbank Amsterdam. De eis bevat ook een dwangsom van 100.000 euro per dag dat Grok/X niet stopt met de verboden praktijken.