Rechter verbiedt uitkleedfunctie in chatbot Grok in Nederland

In dit artikel:

De rechtbank Amsterdam heeft Grok, een chatbot van Elon Musks bedrijf xAI, donderdag verboden om in Nederland een functie aan te bieden waarmee met AI naaktbeelden gemaakt konden worden. Het verbod volgde op een kort geding van Fonds Slachtofferhulp en expertisecentrum Offlimits; zij hadden de tool aangepakt omdat die ook (virtuele of nagemaakte) naaktbeelden van kinderen mogelijk maakte. Ter onderbouwing lieten de eisers voorbeelden zien van schaars geklede virtuele kinderen met volwassenen.

De rechter oordeelde dat xAI door de tool "onrechtmatig en toerekenbaar bijdraagt aan een klimaat van online grensoverschrijdend gedrag" en dat het bedrijf, dat controle over Grok heeft, misbruik moet voorkomen ook als het zelf de beelden niet creëert. Het verbod geldt specifiek voor het maken en verspreiden van dergelijke beelden in Nederland en voor afbeeldingen van personen die in Nederland wonen. Een wereldwijd verbod weigerde de rechtbank wegens gebrek aan bevoegdheid; de Europese Commissie voert wel al een eigen onderzoek.

xAI riskeert een dwangsom van 100.000 euro per dag tot maximaal 10 miljoen euro zolang de uitkleedfunctie actief blijft. Daarnaast mag Grok niet via X (voorheen Twitter) worden aangeboden zolang niet aan het verbod wordt voldaan. xAI verdedigde zich met het argument dat totaal voorkomen van misbruik niet haalbaar is en verwijst naar genomen maatregelen, maar de rechter zag voldoende twijfel over de effectiviteit daarvan.

Offlimits-bestuurder Robbert Hoving noemde de uitspraak een "baanbrekende" beslissing en benadrukte dat mensenrechten niet mogen wijken voor commerciële belangen. De zaak versterkt de discussie over verantwoordelijkheid van AI-aanbieders bij het voorkomen van schadelijke, seksueel getinte deepfakes.