Seksuele misdadigers gebruiken open-source AI-modellen voor onbeperkt illegaal materiaal

De zaak van een ingenieur uit Wisconsin laat zien hoe Stable Diffusion en andere open tools een explosieve stijging veroorzaken van AI-gegenereerde kinderporno.

Een 42-jarige software-ingenieur uit Wisconsin, Steven Anderegg, behoort tot de verdachten die kunstmatige intelligentie gebruiken om duizenden illegale afbeeldingen van minderjarigen te genereren. De autoriteiten arresteerden hem in februari 2024 nadat meldingen binnenkwamen dat hij expliciete content via Instagram naar een 15-jarige tiener had gestuurd.

De zaak die alarmbellen deed rinkelen

Volgens gerechtelijke documenten downloadde Anderegg het model Stable Diffusion op zijn laptop en configureerde het om uitsluitend afbeeldingen te maken van kinderen in expliciete seksuele situaties. De onderzoekers vonden meer dan 13.000 AI-gegenereerde bestanden op zijn apparaten. De verdachte, die nog op zijn proces wacht, kan bij veroordeling tot 50 jaar gevangenisstraf krijgen.

Deze zaak illustreert een groeiende trend: open-source AI-modellen stellen criminelen in staat om onbeperkt materiaal van seksueel misbruik van kinderen te produceren zonder internetverbinding en zonder sporen achter te laten op commerciële diensten.

Open modellen stuwen de toename van illegale content

Meer dan een dozijn experts op het gebied van seksuele misdrijven tegen minderjarigen zijn het erover eens dat tools als Stable Diffusion, ontwikkeld door Stability AI, Flux van Black Forest Labs en Chinese modellen zoals Qwen van Alibaba en Hunyuan van Tencent veelvuldig door criminelen worden gebruikt. Eenmaal gedownload kunnen deze programma’s worden getraind met bestaande verzamelingen misbruikmateriaal om eindeloos nieuwe realistische afbeeldingen te genereren.

Danny van Althuis, hoofd van een Europol-team dat zich bezighoudt met kinderuitbuiting, stelde dat deze modellen “gemaakt lijken voor criminaliteit”. Europese autoriteiten volgen inmiddels meer dan 500 varianten van open modellen die met deze misdrijven in verband staan, tegenover minder dan een dozijn twee jaar geleden.

Moeilijkheden bij detectie en bestrijding van misbruik

In tegenstelling tot ChatGPT of Claude, die in de cloud draaien met beveiligingsfilters, worden open modellen lokaal uitgevoerd. Rebecca Portnoff, voormalig vicepresident data science bij Thorn, merkte op dat “er vrijwel geen manier is om toezicht te houden zodra een model lokaal is gedownload”. Deze eigenschap geeft criminelen een gevoel van straffeloosheid.

Op het dark web zijn gespecialiseerde fora voor AI-gegenereerde kinderporno snel gegroeid. Een daarvan heeft zijn ledenaantal sinds december bijna verdrievoudigd en telt nu meer dan 200.000 gebruikers, aldus de Internet Watch Foundation (IWF). Deelnemers vermijden elke verwijzing naar commerciële tools uit angst voor undercoveragenten.

Cijfers die wijzen op een groeiend probleem

Het aantal meldingen van AI-gerelateerd materiaal van seksueel misbruik van kinderen bij het Amerikaanse National Center for Missing & Exploited Children overschreed in 2025 de 1,5 miljoen, tegenover 67.000 in 2024. De IWF detecteerde in de eerste zes maanden van dit jaar 6.310 realistische AI-gegenereerde afbeeldingen, vergeleken met slechts 13 in 2024.

Je verbeelding kent geen grenzen als je AI gebruikt.

— Danny van Althuis, Europol, Uitspraak tegen Bloomberg

Politieoperaties en reacties uit de industrie

Operatie Cumberland, gecoördineerd door Europol in 19 landen, leidde tot 25 arrestaties na de verspreiding van tienduizenden afbeeldingen die met Stable Diffusion waren gegenereerd. Stability AI verklaarde samen te werken met autoriteiten en sinds eind 2022 waarborgen te hebben ingevoerd.

Experts waarschuwen dat de huidige wetgeving het bemoeilijkt om veiligheidsmaatregelen te testen, omdat het genereren van illegaal materiaal zelfs voor onderzoek illegaal kan zijn. Organisaties als Thorn en Cinder werken met bedrijven om kwetsbaarheden te identificeren voordat nieuwe modellen worden gelanceerd.

Naar mogelijke technologische en wettelijke oplossingen

Onderzoekers van het MIT ontwikkelen systemen die kunnen detecteren of een model is aangepast om misbruikmateriaal te genereren zonder expliciete afbeeldingen te hoeven produceren. Het Verenigd Koninkrijk heeft recent wetgeving aangenomen die organisaties die op dit terrein werken beschermt.

Intussen groeit het probleem verder. Doctoraatsstudent Vinith Suriyakumar waarschuwde dat een eenmaal getraind model “zo goedkoop en zo snel is dat je duizenden afbeeldingen op één dag kunt genereren”.

Tags bij dit artikel