Rechtbank Amsterdam verbiedt uitkleedfunctie chatbot Grok in Nederland

In dit artikel:

Een rechtbank in Amsterdam heeft bepaald dat de AI-chatbot Grok — onderdeel van het socialmediaplatform X van Elon Musk — in Nederland de zogenaamde ‘uitkleedfunctie’ niet meer mag aanbieden. Het expertisecentrum tegen online misbruik Offlimits spande vorige maand een zaak aan omdat via Grok zonder toestemming mensen virtueel naakt gemaakt en die beelden makkelijk verspreid kunnen worden; ook bestaat het risico op productie van kinderpornografisch materiaal.

De rechter oordeelde dat de door het bedrijf genomen tegenmaatregelen onvoldoende zijn. Kort voor de zitting lukte het Offlimits nog om uitkleedvideo’s met Grok te genereren. Het verbod geldt specifiek voor beelden van in Nederland woonachtige personen en voor het maken en delen van dergelijke beelden binnen Nederland.

Bij iedere overtreding staat een boete van 100.000 euro, met een maximaal opeisbaar bedrag van 10 miljoen euro. Bovendien mag Grok geen onderdeel van X blijven zolang het mogelijk is zulke beelden te maken. Tegelijk stemde het Europees Parlement vandaag in met een verbod op uitkleedapps; vóór de zomer moeten vergelijkbare apps EU-breed verboden zijn.