Gruwelijke uitwas van AI: explosieve groei van kinderporno, die bijna niet meer van echt te onderscheiden is

Het aantal onlinevideo’s met door AI gegenereerd kindermisbruik is in een jaar tijd geëxplodeerd. Waar het in de eerste helft van 2024 nog om slechts twee video’s ging, zijn dat er nu al 1286.

Dat meldt de Britse internetwaakhond Internet Watch Foundation (IWF), die spreekt van een verontrustende ontwikkeling. “De grens is overschreden. Veel van deze video’s zijn nauwelijks nog van echte beelden te onderscheiden,” aldus de organisatie.

Meer dan duizend van de onderzochte video’s bevatten materiaal uit categorie A – de zwaarste vorm van kindermisbruik. De IWF slaat alarm: de razendsnelle ontwikkeling van AI-modellen en de vrije beschikbaarheid ervan bieden pedofielen alle ruimte om deze technologie te misbruiken. “Het is een industrie waarin miljarden omgaan. Helaas betekent dat ook dat daders keuze te over hebben,” aldus een analist van de organisatie.

De schokkende stijging beperkt zich niet tot video’s alleen. Het totale aantal websites met AI-kinderporno steeg met maar liefst 400 procent ten opzichte van vorig jaar. In het eerste halfjaar van 2025 ging het om 210 url’s, waar dat er in dezelfde periode van 2024 nog 42 waren. En elke pagina bevatte vaak honderden afbeeldingen, waarmee het totale volume aan materiaal eveneens flink is toegenomen.

De IWF vond onder meer een bericht op een forum op het dark web waarin een gebruiker schreef hoe snel de technologie zich ontwikkelt. “Ik had net één AI-tool onder de knie, en toen kwam er alweer iets beters.” Volgens de onderzoekers worden gewone AI-modellen eenvoudig aangepast met echt misbruikmateriaal om zo realistische beelden en video’s te genereren. In sommige gevallen waren daar maar enkele echte video’s voor nodig.

Wat deze ontwikkeling extra gruwelijk maakt, is dat veel AI-beelden gebaseerd zijn op echte kinderen die ooit slachtoffer zijn geworden van misbruik. De technologie stelt daders in staat om bestaande slachtoffers eindeloos te reproduceren, zonder dat daar nieuwe kinderen voor nodig zijn. Volgens Derek Ray-Hill, de interim-directeur van de IWF, vergroot dat het probleem juist. “We zien een ernstig risico en denken dat dit leidt tot een explosie van AI-kinderporno die het hele open internet overspoelt,” zegt hij. “En daarmee neemt ook het risico op meer kinderhandel, seksueel misbruik en moderne slavernij toe.”

De Britse overheid neemt het dreigende gevaar inmiddels serieus. Nieuwe wetgeving maakt het strafbaar om AI-tools te bezitten, maken of verspreiden met als doel misbruikmateriaal te creëren. Wie zich hier schuldig aan maakt, riskeert tot vijf jaar cel. Daarnaast wordt ook het bezit van handleidingen strafbaar waarin wordt uitgelegd hoe je AI kunt gebruiken om beelden te genereren of misbruik te plegen. Hiervoor kunnen daders tot drie jaar gevangenisstraf krijgen.

Volgens de Britse minister van Binnenlandse Zaken, Yvette Cooper, is het van cruciaal belang dat de aanpak van kindermisbruik ook het onlinedomein bestrijkt. “We moeten kindermisbruik net zo hard bestrijden op internet als daarbuiten,” stelde ze in februari. De bestaande wetgeving biedt daar deels al ruimte voor. Zo is het in het Verenigd Koninkrijk verboden om “onzedelijke foto’s of pseudo-foto’s” van kinderen te maken, verspreiden of bezitten, op basis van de Protection of Children Act uit 1978.

Toch maken experts zich zorgen of de handhaving de snelle technologische ontwikkelingen kan bijhouden. Het creëren van misbruikbeelden vereist dankzij AI immers geen camera meer, geen fysiek slachtoffer en zelfs geen technische kennis. Met een paar zoekopdrachten en simpele aanpassingen zijn beelden te genereren die vrijwel niet van echt te onderscheiden zijn.

Wat het extra gevaarlijk maakt, is dat AI het daders mogelijk maakt op grote schaal materiaal te verspreiden zonder direct herkenbare sporen na te laten. Dat maakt opsporing en vervolging lastiger en de strijd tegen kindermisbruik ingewikkelder dan ooit.

De IWF roept op tot internationale samenwerking om AI-kindermisbruik in de kiem te smoren. Want hoewel de beelden nep zijn, is de schade echt, voor bestaande slachtoffers, voor kinderen die als bron worden gebruikt en voor een samenleving die worstelt met de ethische en juridische grenzen van kunstmatige intelligentie.

Bron: The Guardian