Europees Parlement achter verbod op uitkleed-apps, gaat voor de zomer in

In dit artikel:

Het Europees Parlement stemt morgen over een verbod op AI‑tools die met één druk op de knop nepnaaktfoto’s maken. De maatregel, waar EU‑lidstaten eerder al overeenstemming over bereikten, richt zich op zogenaamde uitkleed‑apps en vergelijkbare functies in chatbots en zoekresultaten. Verwacht wordt dat de wet nog voor de zomer in alle EU‑landen geldt en het verbod een aanvulling wordt op de bestaande AI‑wetgeving.

Tot nu toe is het verspreiden van zulke beelden al strafbaar, maar het genereren ervan blijft makkelijk via grote generatieve AI‑systemen (zoals Grok) en via talloze websites die via zoekmachines opduiken. Onder het nieuwe verbod mogen zoekmachines dergelijke sites niet langer tonen; wie dat toch doet loopt risico op forse boetes. Ook wordt het chatbots verboden de uitkleedfunctie te ondersteunen.

Expertisecentrum Offlimits, dat al langer waarschuwt voor de risico’s, ziet het verbod als een belangrijke stap. De organisatie wijst op ernstige gevolgen voor slachtoffers: slechter slapen, schoolverzuim en in sommige gevallen suïcidale gedachten. Europarlementariër Kim van Sparrentak (GroenLinks‑PvdA), een voortrekker van Europese regels voor AI en sociale media, benadrukt dat het snel en eenvoudig misbruik mogelijk maakt en daarom moest worden aangepakt. CDA‑Europarlementariër Jeroen Lenaers noemt de technologie geen innovatie maar uitbuiting, mede vanwege het gebruik door kindermisbruikers.

De Nederlandse staatssecretaris voor Digitale Veiligheid, Aerdts, juicht de Europese aanpak toe en wil daarnaast slachtoffers ondersteunen bij het offline halen van materiaal; bij beelden van kinderen kan sprake zijn van kinderporno. Met het verbod probeert de EU zowel preventief op te treden tegen nieuwe vormen van seksueel misbruik als een signaal naar grote technologiebedrijven te sturen.