Sociale media kunnen niet zonder moderatie, zeker wanneer het om het delen van informatie over kinderen gaat
In dit artikel:
Een zevenjarig meisje dat thuis zingt en door haar moeder op video wordt gezet, illustreert hoe alledaagse kinderbeelden razendsnel publiek en permanent kunnen worden. De ouders van ‘F.’ hebben enkele honderdduizenden volgers; hun eenvoudige filmpjes – inclusief volledige namen en geboortedatum – trekken massale aandacht en trekken ook ongewenste reacties en opslag van foto’s door onbekenden aan. Dit voorbeeld staat model voor het bredere fenomeen 'sharenting': ouders die foto’s en filmpjes van hun kinderen online delen, vaak zonder zicht op wie die beelden later gebruikt of misbruikt.
De opmars van toegankelijke AI vergroot de risico’s dramatisch. Onderzoekers van het Center for Countering Digital Hate (ccdh) rapporteerden begin 2026 dat Grok, de AI van xAI/X, op piekdagen tot tweehonderdduizend geseksualiseerde beelden per dag produceerde, waarbij van minderjarigen ongeveer elke 41 seconden een seksueel getint beeld werd gegenereerd. Zulke deepfakes kunnen kinderfoto’s misbruiken voor pesterijen, identiteitsfraude, stemimitaties of verspreiding op pornografische sites — een dreiging die in een Duits campagnefilmpje pijnlijk duidelijk werd gemaakt.
De maatschappelijke en juridische reactie is snel opgelaaid. In Nederland won het expertisecentrum Offlimits samen met Fonds Slachtofferhulp een kort geding tegen xAI: het bedrijf is verboden Nederlandse personen te “ontkleden” met zijn tool, onder dreiging van een dwangsom van 100.000 euro per dag (maximaal 10 miljoen). Internationaal zijn er politieacties en onderzoeken: een inval bij het hoofdkwartier van X in Parijs, verzoeken om rapporten in India en lopende onderzoeken in de VS, onder andere met verwijzing naar de recente Take it Down Act. EU-commissieleden noemen seksuele deepfakes van vrouwen en kinderen een onacceptabele vorm van geweld.
Tegelijk loopt in Brussel een bredere politieke discussie over hoe streng AI-regels moeten zijn. De EU werkt aan een AI-wet die bedrijven aan strikte veiligheid- en transparantie-eisen moet verbinden, maar de Europese Commissie stelde eind 2025 voor dat de wet wordt vertraagd en versimpeld om Europese concurrentiepositie te beschermen. Mensenrechtenorganisaties, privacywaakhonden en het College voor de Rechten van de Mens waarschuwen dat de voorgestelde ‘digitale omnibus’ de grondrechten kan verzwakken. Het Europees Parlement keurde begin maart wel een amendement goed dat per direct een verbod op zogenoemde ‘uitkleed-apps’ wil afdwingen.
Rechtszaken, mogelijke massaschadeclaims en stijgende meldingen illustreren dat verantwoordelijkheid en aansprakelijkheid onduidelijk zijn: ligt die bij AI-ontwikkelaars, platformeigenaren of makers van illegale content? Offlimits meldt een stijging van 260 procent in meldingen van AI-(naakt)foto’s binnen een jaar. Advocaten van xAI stellen in de rechtszaal dat volledige garantie onmogelijk is omdat kwaadwillenden manieren vinden om systemen te misbruiken.
Tegelijk proberen activisten en contentmakers het publiek te sensibiliseren onder hashtags als #kidsarenotcontent: ouders worden opgeroepen geen foto’s of persoonlijke gegevens van hun kinderen op onveilige platforms te plaatsen en te kiezen voor terughoudendheid als beelden al gecensureerd moeten worden (bijvoorbeeld blurren). De kernboodschap is helder: het westerse internetklimaat, gecombineerd met krachtige en toegankelijke AI, maakt het delen van kinderbeelden steeds risicovoller — reden voor strengere regels en meer terughoudendheid van ouders.