Rechter verbiedt uitkleedfunctie in chatbot Grok van Elon Musk

In dit artikel:

De rechtbank Amsterdam heeft donderdag verboden dat de chatbot Grok in Nederland nog zijn zogeheten ‘uitkleedfunctie’ aanbiedt. De onmiddellijke maatregel volgt op een kort geding dat het Fonds Slachtofferhulp en expertisecentrum Offlimits aanspanden. Grok is ontwikkeld door xAI, het Amerikaanse bedrijf van Elon Musk; met de functie konden gebruikers AI-opdrachten geven om naaktbeelden te genereren. Dat betrof niet alleen beelden van volwassene fictieve personen, maar ook beelden van kinderen en mogelijk gemanipuleerde of gefingeerde beelden van echte mensen. De eisers vorderden het verbod vanwege de risico’s voor slachtoffers en de kwetsbaarheid van minderjarigen; de rechtbank gaf daaraan gehoor, zodat de tool voorlopig niet meer in Nederland beschikbaar mag zijn in die vorm.