Strengere regels AI-tool X om 'uitkleden' mensen niet meer mogelijk te maken

In dit artikel:

Socialmediabedrijf X (onder meer gedeeld door Elon Musk) kondigde afgelopen nacht aan de regels voor zijn AI-chatbot Grok aan te scherpen, zodat het niet langer mogelijk zou moeten zijn om mensen met de tool 'uit te kleden' of seksuele beelden van echte personen zonder kleding te genereren. Die beperking geldt volgens X in regio's waar dit strafbaar is — zoals Nederland, waar het zonder toestemming seksualiseren van beeldmateriaal, inclusief nepnaaktfoto’s, verboden is.

De maatregel komt nadat onderzoek en publieke verontwaardiging in toenemende mate aantoonden dat Grok gebruikt werd om talloze vrouwen en ook minderjarigen op seksueel expliciete wijze te manipuleren. NOS-tests enkele uren na de aankondiging toonden echter dat het nog steeds mogelijk was dergelijke beelden te maken, wat vragen oproept over de daadwerkelijke werking en handhaving van de nieuwe regels.

Regelgevers reageren: de Britse mediawaakhond Ofcom zet haar onderzoek naar Grok voort, maar noemt de aanscherping een "welkome ontwikkeling". Autoriteiten in de Filipijnen overwegen een verbod en Indonesië blokkede de toegang tijdelijk. Anti-misbruikorganisatie Offlimits pleit voor een algemeen verbod op AI-toepassingen die deepnudes mogelijk maken; ook demissionair minister van Justitie Van Oosten noemt het 'uitkleden' via Grok "buitengewoon verwerpelijk" en benadrukt dat de impact op slachtoffers groot is. Hij zegt dat Nederland onderzoekt of een verbod mogelijk en wenselijk is, maar waarschuwt dat dit een complex vraagstuk is dat zorgvuldige afwegingen vergt.

Kortom: X beloofde ingrijpen, maar toezicht, handhaving en internationale regelgeving blijven cruciaal nu deepfake-technologie snel evolueert en ernstige schade kan veroorzaken.