Criminelen gebruiken open source ai om onbeperkt materiaal van seksueel misbruik van kinderen te genereren

Modellen zoals Stable Diffusion en Flux maken het mogelijk om duizenden illegale afbeeldingen lokaal en anoniem te creëren, volgens experts en autoriteiten.

Steven Anderegg, een 42-jarige software-ingenieur uit Wisconsin, downloadde het ai-model Stable Diffusion op zijn laptop, een open source tool die realistische afbeeldingen uit tekst kan genereren. Volgens gerechtelijke documenten gebruikte hij de software om duizenden afbeeldingen van minderjarigen in expliciete situaties te creëren en stuurde die in oktober 2023 naar een 15-jarige tiener via Instagram, wat het onderzoek startte.

Toen de autoriteiten hem in februari 2024 arresteerden, vonden ze meer dan 13.000 door ai gegenereerde afbeeldingen op zijn apparaten, waarvan vele vermoedelijk minderjarigen in seksuele handelingen tonen. Anderegg, die nog op zijn proces wacht, kan tot vijftig jaar gevangenisstraf krijgen.

Open modellen stimuleren de opkomst van ai-gegenereerd seksueel misbruik van kinderen

Experts op het gebied van kinderbescherming en gespecialiseerde agenten waarschuwen dat open source ai-modellen een sterke toename veroorzaken van kunstmatig gegenereerd materiaal van seksueel misbruik van kinderen. Tot de meest genoemde modellen in onderzoeken behoren Stable Diffusion van Stability AI, Flux van Black Forest Labs, Qwen van Alibaba en Hunyuan van Tencent.

Eenmaal gedownload op een persoonlijke computer kunnen deze gratis programma’s worden aangepast of getraind met bestaande verzamelingen van illegaal materiaal om onbeperkte hoeveelheden nieuwe afbeeldingen te produceren. Omdat ze offline werken, gaan gebruikersverzoeken niet via commerciële servers die illegale activiteiten kunnen detecteren en melden.

Recyclen van echte afbeeldingen en dark web-forums

Onderzoekers benadrukken dat deze modellen criminelen in staat stellen foto’s van echte slachtoffers om te zetten in nieuwe scènes die uit hun verbeelding komen. Forums voor dit soort content op het dark web kunnen honderdduizenden leden tellen die nieuwe door ai gegenereerde afbeeldingen delen en opvragen.

Je verbeelding kent geen grenzen als je ai gebruikt. De open source ai-modellen die bij deze misdrijven worden ingezet, lijken wel voor criminaliteit gemaakt.

— Danny van Althuis, teamleider bij Europol, verklaringen aan Bloomberg

Explosieve groei van meldingen en ontdekte modellen

De cijfers laten een sterke stijging zien. In 2025 ontving het Amerikaanse National Center for Missing & Exploited Children meer dan 1,5 miljoen meldingen van ai-gerelateerd materiaal van seksueel misbruik van kinderen, tegenover 67.000 in 2024. De Internet Watch Foundation ontdekte 6.310 realistische ai-gegenereerde afbeeldingen in de eerste zes maanden van 2026, vergeleken met 4.512 het jaar ervoor.

Twee jaar geleden volgden Europese autoriteiten nog minder dan een dozijn modellen en varianten die met deze misdrijven in verband stonden. Nu zijn het er meer dan 500, volgens een Europese functionaris die anoniem wil blijven.

Populariteit van Chinese modellen en uitdagingen voor de sector

Modellen die in China zijn ontwikkeld, behoren tot de populairste onder criminelen. Een studie van Cinder en Black Forest Labs toonde aan dat vijf van de zeven modellen met de meeste kwetsbaarheden afkomstig waren van Chinese bedrijven. Black Forest Labs verklaarde dat zijn model voor de publieke lancering is geëvalueerd en dat het aan meerdere lagen van mitigatie werkt.

Bedrijven zoals Hugging Face, dat open modellen distribueert en onlangs door Nvidia is overgenomen, zagen hun gebruikersbasis dit jaar verdubbelen tot 13 miljoen. Grote Amerikaanse laboratoria ontwikkelen eveneens open modellen, terwijl China op sommige gebieden vooroploopt.

Moeilijkheden bij detectie en mogelijke oplossingen

Eenmaal lokaal gedownload kunnen beveiligingsmechanismen met kleine aanpassingen worden verwijderd. Rebecca Portnoff, voormalig vicepresident van Thorn, waarschuwde dat er vrijwel geen manier is om deze modellen op privé-systemen te controleren, wat criminelen een gevoel van veiligheid geeft.

Specialisten zoals Ashia Wilson van het MIT ontwikkelen technologieën om te detecteren of een model is aangepast om dit soort content te genereren zonder dat het afbeeldingen hoeft te produceren. Het Verenigd Koninkrijk heeft wetgeving aangenomen die organisaties die op dit terrein werken beschermt.

Stability AI verklaarde dat het samenwerkt met autoriteiten en sinds eind 2022, toen het de exclusieve ontwikkeling van Stable Diffusion overnam, waarborgen heeft ingevoerd. De advocaat van Anderegg en het ministerie van Justitie weigerden commentaar te geven.

Tags bij dit artikel