AI-chatbot Grok van Elon Musk moet in Nederland stoppen met uitkleedfunctie

In dit artikel:

De Amsterdamse voorzieningenrechter heeft donderdag bevolen dat xAI — het bedrijf achter de chatbot Grok op het socialmediaplatform X van Elon Musk — moet verhinderen dat de tool in Nederland naaktbeelden genereert van mensen zonder hun toestemming. De uitspraak verbiedt ook het (deels) ontkleden van afgebeelde personen en geldt specifiek voor personen die in Nederland wonen.

Het kort geding was aangespannen door het expertisecentrum Offlimits en Fonds Slachtofferhulp, die aanvoerden dat Grok het makkelijker maakte om op grote schaal seksueel misbruik te plegen door kleding digitaal te verwijderen; gebruikers konden bij elke foto vragen om kleding weg te halen, ongeacht of het om volwassenen of kinderen ging. Bloomberg meldde dat Grok duizenden zulke afbeeldingen per uur produceerde.

Bij niet-naleving moet xAI per dag een dwangsom van 100.000 euro betalen, met een maximum van 10 miljoen euro. De uitspraak komt tegelijk met een politiek besluit in Brussel: het Europees Parlement stemde voor een verbod op AI‑uitkleedapps dat naar verwachting vanaf juli in de hele EU van kracht wordt.

In Nederland was het onderwerp al onderwerp van discussie: het maken van deepfake‑naaktbeelden is verboden, maar de apps zelf vielen tot nu toe in een juridische grijze zone. Ministeriële en toezichthoudende instanties erkenden dat een passende handhavingsaanpak complex is. De zaak onderstreept de noodzaak van snelle technische en juridische maatregelen om slachtoffers van niet‑consensuele AI‑porno te beschermen.