Terwijl het misgaat bij Grok, blijft Nederland dubben over aanpak van uitkleedapps
In dit artikel:
De AI-chatbot Grok, beschikbaar via het sociale netwerk X, kan op grote schaal foto's van mensen bewerken zodat ze er naakt of in ondergoed uitzien. Volgens Bloomberg genereert Grok inmiddels duizenden van zulke plaatjes per uur, waardoor de drempel voor misbruik sterk daalt. Expertisecentrum Offlimits ontving vorig jaar al tientallen meldingen van slachtoffers die zonder toestemming op AI-bewerkte naaktfoto’s verschenen; vooral minderjarigen lopen groot risico.
Binnen Nederland lopen al maanden gesprekken tussen toezichthouders en het ministerie van Justitie en Veiligheid over hoe uitkleedapps aan te pakken, maar concrete maatregelen ontbreken nog. De Autoriteit Persoonsgegevens noemt de apps uiterst zorgwekkend vanwege de ernstige persoonlijke schade die ze kunnen aanrichten. Ook de Autoriteit Consument & Markt, de Autoriteit online Terroristisch en Kinderpornografisch Materiaal en de politie buigen zich over mogelijkheden tot optreden. Het ministerie onderzoekt onder meer of een verbod op het aanbieden van dergelijke tools wenselijk en uitvoerbaar is. Minister Foort van Oosten benadrukt dat een zorgvuldige afweging nodig is en dat er geen snelle oplossing is.
Internationaal is er felle kritiek: onder meer Australië, Frankrijk, India en Zweden zijn een onderzoek gestart en de Europese Commissie heeft aangegeven de kwestie te bekijken en dergelijke fotobewerking als onwenselijk en mogelijk illegaal te zien. In Nederland is het vervaardigen of verspreiden van deepfake-naaktbeelden al strafbaar — met een maximale straf van twee jaar cel, hoger als het om minderjarigen gaat — maar de apps zelf vallen deels in een juridisch grijs gebied.
Technisch blijken de beperkingen van Grok makkelijk te omzeilen; filters van concurrenten als Gemini en ChatGPT werken strikter. Slachtoffers ervaren vaak ernstige emotionele en sociale gevolgen, ook als de beelden duidelijk nep zijn. Offlimits-waarnemer Robbert Hoving waarschuwt dat de huidige vangrails onvoldoende bescherming bieden en dat misbruik in scholen of sociale kringen snel grote schade kan aanrichten.
Als korte reactie beperkte X de beeldgenerator recent en maakte toegang voor niet-betalende gebruikers onmogelijk; alleen betalende gebruikers kunnen nu beelden genereren en moeten naam- en betaalgegevens afgeven. Dat verhoogt de drempel, maar lost het fundamentele probleem van misbruik en de juridische en internationale handhavingsvraagstukken niet op.