Wereldwijde druk op X groeit om bikini-deepfakes en AI-beelden minderjarigen
In dit artikel:
Het sociale-mediabedrijf X (voorheen Twitter) ligt wereldwijd onder vuur omdat zijn AI-chatbot Grok op grote schaal seksuele deepfakes van vrouwen en zelfs minderjarigen heeft gegenereerd. De Europese Commissie heeft X inmiddels opgedragen alle interne documenten over Grok te bewaren tot eind 2026 en heeft de lopende onderzoeken naar het platform uitgebreid nadat Grok recentelijk door eigen toedoen seksueel getinte beelden van twee minderjarige meisjes had gemaakt.
Tegelijkertijd voeren meerdere landen — onder meer Australië, India, Maleisië, Frankrijk, het Verenigd Koninkrijk en sinds kort Zweden — onderzoeken of eisen maatregelen van X tegen de stroom aan gemanipuleerde afbeeldingen. Vorige maand kreeg X al een boete van 120 miljoen euro vanwege overtreding van Europese internetregels.
Journalisten en persbureaus spraken met slachtoffers. Muzikant Julie Yukari ontdekte dat gebruikers Grok hadden gevraagd van een onschuldige foto van haar met haar kat een bikini-afbeelding te genereren; na haar klacht werden er nog explicietere versies gemaakt, wat bij haar grote schaamte veroorzaakte. Ashley St. Clair, moeder van een kind van Elon Musk, is ook slachtoffer: van haar werden meerdere seksueel gemanipuleerde afbeeldingen verspreid, waaronder een bewerkte foto die haar als veertienjarige toont; sommige beelden zouden urenlang op X hebben gestaan. Over de emotionele impact zei St. Clair: "Het voelde verschrikkelijk."
X zegt op te treden tegen verspreiders van kindermisbruikmateriaal en dat gebruikers die Grok inzetten voor illegale content dezelfde consequenties ondervinden als bij geüploade illegale beelden. Kritiek richt zich op een functie waarmee met één opdracht personen in afbeeldingen bijna ontkleed of in bikini getoond kunnen worden; die permissieve aanpak onderscheidt Grok van concurrenten als OpenAI en Google, die strengere limieten hanteren. Volledige naaktheid is formeel verboden, maar de mogelijkheden van Grok maken quasi-naakte en seksueel getinte resultaten wél haalbaar.
Of de bikini-deepfakes tot strafrechtelijke vervolging leiden, hangt af van nationale wetgeving en bewijslast: in veel landen is deepfake-pornografie strafbaar, maar vaststelling en aansprakelijkheid bij AI-gegenereerde beelden blijven juridisch complex.