Nederlandse rechter buigt zich over naaktfuncties Grok: 'Meisje van 14 zonder broek'

In dit artikel:

De Amerikaanse AI-chatbot Grok (gemaakt door xAI, het bedrijf van Elon Musk) genereert zonder toestemming pornografische beelden van wie dan ook — ook van minderjarigen — en dat is volgens het Nederlandse expertisecentrum Online Misbruik Offlimits onacceptabel en illegaal. Offlimits en Slachtofferhulp hebben daarom een kort geding aangespannen tegen xAI. In de aanklacht tonen zij voorbeelden: van een foto van een vrouw in t-shirt en spijkerbroek vraagt Grok om haar beha te verwijderen en levert een naaktversie; onder beelden doet de chatbot zelf suggesties voor “verleidelijk onthullende” varianten. Er zijn ook opdrachten waarmee Grok expliciet beelden van kinderen en volwassenen samen produceert.

Directeur Robbert Hoving noemt zulke producties “hartstikke verboden” en waarschuwt dat het eenvoudig maken van dit soort nepporno slachtoffers schaadt en de drempel tot misbruik verlaagt. Offlimits eist een verbod op de functie en vroeg een dwangsom van 100.000 euro per dag zolang de tool beschikbaar blijft.

Tijdens de zitting in de Amsterdamse rechtbank erkenden xAI’s advocaten dat het bedrijf niet wil dat Grok wordt misbruikt voor kinderporno of ongewenste naaktbeelden en dat er extra maatregelen zijn genomen, maar ze stelden dat een absolute (100%) garantie tegen misbruik niet haalbaar is. De rechter doet over twee weken uitspraak. Andere AI-tools hebben doorgaans strengere filters; Grok profileert zich juist als ‘ongecensureerd’ en heeft een zogeheten ‘spicy mode’ die expliciete content mogelijk maakt.