Fonds Slachtofferhulp wil dat X stopt met naaktbeelden chatbot

In dit artikel:

Fonds Slachtofferhulp en expertisecentrum Offlimits hebben een kort geding aangespannen tegen socialmediabedrijf X om de AI-chatbot Grok onmiddellijk te laten stoppen. Volgens de organisaties is Grok de afgelopen maanden gebruikt om met kunstmatige intelligentie naaktbeelden te creëren van nietsvermoedende mensen, onder wie minderjarigen; dat is volgens hen juridisch verboden en strafbaar. Ze eisen een verbod op de tool en dat X ophoudt met het genereren en verspreiden van beeldmateriaal van seksueel misbruik van kinderen.

De eisers benadrukken dat de Nederlandstalige interface van Grok ook slachtoffers in Nederland maakt. Offlimits-directeur Robbert Hoving waarschuwt dat met AI bewerkte beelden worden ingezet voor pesten, vernedering en seksuele intimidatie en dat de lage drempel het massaal maken en verspreiden vergemakkelijkt. Fonds Slachtofferhulp-directeur Ineke Sybesma zegt: "Voor slachtoffers maakt het niet uit of een beeld ‘echt’ is of met AI gemaakt."

Internationaal lopen al onderzoeken: de Ierse privacytoezichthouder onderzoekt de ‘nudification’-functie omdat X’s Europese hoofdzetel in Ierland staat; meerdere landen hebben inmiddels beperkingen opgelegd of Grok geblokkeerd. Offlimits ontving vorig jaar meer dan 250 meldingen van AI-gecreëerde naaktbeelden, vier keer zoveel als een jaar eerder. Het kort geding is gepland voor donderdag 12 maart bij de rechtbank Amsterdam.