Slachtofferhulp: verbod uitkleedfunctie is belangrijke mijlpaal

In dit artikel:

De rechter in Amsterdam heeft het gebruik van een uitkleedfunctie in de chatbot Grok verboden, een uitspraak die Fonds Slachtofferhulp en kenniscentrum Offlimits, die het kort geding aanspanden, als een belangrijke doorbraak voor slachtoffers van online seksueel misbruik zien. De tool kan met AI naaktfoto’s en -filmpjes genereren van zowel volwassenen als kinderen, zowel volledig virtuele personen als nepbeelden van echte mensen; de rechtbank stelt dat Grok bijdraagt aan „een klimaat van online grensoverschrijdend gedrag”.

Het verbod geldt formeel voor beelden van personen die in Nederland wonen en voor het maken en verspreiden van die beelden binnen Nederland. Fonds Slachtofferhulp wijst er echter op dat Grok niet controleert waar gebruikers wonen, waardoor de uitspraak in de praktijk neerkomt op een veel ruimere beperking. Het Europees Parlement stemde onlangs ook voor een verbod op dergelijke diensten. Directeur Ineke Sybesma benadrukt dat wetten alleen effectief zijn als ze worden gehandhaafd: „Wetgeving is essentieel, maar betekent pas iets als die ook wordt toegepast.” De zaak onderstreept zowel de juridische als handhavingsvraagstukken rond AI‑gedreven deepfakes en kinderporno.