Rechter verbiedt uitkleedfunctie AI-chatbot Grok

In dit artikel:

De voorzieningenrechter in Amsterdam heeft X en de AI-chatbot Grok verboden de functie aan te bieden waarmee gebruikers (virtueel) mensen kunnen uitkleden en die beelden kunnen verspreiden. Dagelijks dat de functionaliteit toch actief blijft, geldt een dwangsom van 100.000 euro, tot een maximum van 10 miljoen euro.

Grok is eigendom van xAI, het bedrijf van Elon Musk, en is geïntegreerd in X (voorheen Twitter). Expertisecentrum Offlimits en het Fonds Slachtofferhulp spanden in februari een kort geding aan omdat de chatbot zonder toestemming naaktbeelden van volwassenen en kinderen kon genereren en verspreiden. Hoewel xAI en X zeiden maatregelen te hebben genomen om misbruik tegen te gaan, vond de rechter die maatregelen onvoldoende overtuigend.

De eisers wilden een wereldwijd verbod, maar de rechter oordeelde daar niet over. Grok ligt al langer onder vuur; na incidenten werd de functie beperkt tot betalende gebruikers en lopen in meerdere landen onderzoeken. Ondertussen stemde het Europees Parlement voor een verbod op zulke uitkleedtools, maar de ingangsdatum van die wet is nog onduidelijk.