Rechter verbiedt uitkleedfunctie in chatbot Grok

In dit artikel:

De Amsterdamse rechtbank heeft de zogeheten ‘uitkleedfunctie’ van de chatbot Grok verboden na een kort geding aangespannen door Fonds Slachtofferhulp en Offlimits. Grok, ontwikkeld door xAI (het bedrijf van Elon Musk), kon met AI naaktbeelden genereren van zowel virtuele als vermeend echte personen — ook van kinderen. De eisers legden voorbeeldafbeeldingen voor waarop schaars geklede virtuele kinderen met volwassen mannen te zien waren.

De rechter oordeelt dat xAI door de tool onrechtmatig bijdraagt aan een klimaat van grensoverschrijdend online gedrag en dat het bedrijf als maker verantwoordelijk is voor het voorkomen van misbruik. Het verbod geldt voor het maken en verspreiden van zulke beelden in Nederland en voor personen die hier wonen. Een wereldwijde blokkade wilde de rechtbank niet opleggen. Bij niet-naleving geldt een dwangsom van €100.000 per dag tot maximaal €10 miljoen, en Grok mag niet via X worden aangeboden zolang het verbod niet wordt nageleefd. xAI voerde aan dat volledig voorkomen van misbruik niet haalbaar is, maar de rechter oordeelde dat de genomen maatregelen onvoldoende waren.