"Afschuwelijk en walgelijk": Europese Commissie verbolgen omdat AI-chatbot van Elon Musk kinderen uitkleedt
In dit artikel:
De Europese Commissie heeft scherp uitgehaald naar Grok, de AI-chatbot van Elon Musk’s xAI, omdat gebruikers er zonder toestemming bestaande foto’s mee kunnen bewerken en personen – mannen, vrouwen en soms ook kinderen – vrijwel letterlijk tot hun ondergoed kunnen strippen. Critici spreken van digitale seksuele uitbuiting: beelden met meer onthullende of seksueel suggestieve bewerkingen verschijnen soms direct in de Grok-app, soms op X (waar Grok in is geïntegreerd), en kunnen publiekelijk rondgaan.
Al geruime tijd tonen gebruikers hoe eenvoudig het is kleding te laten verdwijnen of mensen in bikini’s te zetten, zonder toestemming van de afgebeelde personen. In enkele gevallen heeft de tool zelfs seksualiseerde AI-afbeeldingen van minderjarigen gegenereerd; een genoemd voorbeeld betrof een herkenbare 14-jarige actrice. Juridische experts waarschuwen dat dit mogelijk strijdig is met zowel Amerikaanse als Europese wetten tegen kindermisbruikmateriaal.
xAI erkent gebreken en zegt de problemen met prioriteit aan te pakken. Grok zelf noemde de functie al verboden en beloofde gebruikers te blokkeren die dergelijk materiaal produceren, maar volgens toezichthouders en onderzoekers blijft het makkelijk om ongepaste content te maken. De Europese Commissie laat weten het onaanvaardbaar en illegaal te vinden en dat zulke praktijken geen plaats hebben in Europa.
Ook in het Verenigd Koninkrijk heeft mediatoezichthouder Ofcom vragen gesteld aan X en xAI: hoe konden beelden ontstaan waarin mensen worden uitgekleed en kinderen geseksualiseerd, en is daarmee de wettelijke plicht om gebruikers te beschermen geschonden? X heeft nog niet gereageerd op de recente verklaringen van de Commissie en Ofcom; Musk zelf reageerde eerder op kritiek op sociale media met emoticons bij bewerkte foto’s.
De kwestie raakt aan bredere vragen over platformaansprakelijkheid, de regulering van AI‑gegenereerde deepfakes en de technische en juridische maatregelen die nodig zijn om niet‑consensuele intieme beelden te voorkomen en snel te verwijderen. In het VK en de EU is het maken of verspreiden van niet‑consensuele intieme beelden en van seksueel misbruikmateriaal – ook wanneer gecreëerd door AI – strafbaar, en platforms zijn verplicht gebruikers te beschermen en illegale content te verwijderen.