Veel te populair onder jongeren: apps om naaktbeelden van jezelf te maken

Kunstmatige intelligentie maakt het steeds eenvoudiger om beelden te manipuleren en dat heeft een zorgwekkende keerzijde. Apps waarmee mensen op foto’s digitaal kunnen worden ‘uitgekleed’ winnen razendsnel terrein onder jongeren. Uit nieuw Amerikaans onderzoek blijkt dat het gebruik inmiddels veel verder reikt dan tot voor kort werd aangenomen.

Meer dan de helft van de ondervraagde tieners tussen 13 en 17 jaar geeft aan ooit gebruik te hebben gemaakt van dergelijke technologie. Zij creëren daarmee geseksualiseerde beelden van zichzelf of van anderen. Een vergelijkbaar percentage zegt ook zelf dit soort gemanipuleerde afbeeldingen te hebben ontvangen. De beelden circuleren vooral binnen dezelfde leeftijdsgroepen, wat wijst op een nieuwe vorm van digitale interactie onder jongeren.

Toch is het fenomeen allesbehalve onschuldig. Een aanzienlijk deel van de jongeren blijkt slachtoffer te zijn van misbruik: ongeveer een op de drie meldt dat er zonder toestemming een seksueel getinte AI-afbeelding van hen is verspreid. Daarmee verschuift de technologie van speels experiment naar potentieel schadelijk gedrag.

Onderzoeker Chad Steel spreekt in dat verband van een nieuwe generatie: geen ‘digital natives’, maar ‘AI-natives’. Volgens hem zijn dit soort apps een moderne variant van sexting, maar dan met extra risico’s. De grens tussen vrijwillige deelname en ongewenste verspreiding blijkt dun en vaak moeilijk te bewaken.

De juridische implicaties zijn groot. Veel van deze praktijken vallen onder bestaande wetgeving rond kinderporno in de Verenigde Staten. Tegelijkertijd roept het vragen op over hoe wetgevers moeten omgaan met situaties waarin jongeren onderling – al dan niet vrijwillig – dit soort beelden maken. Steel pleit voor een herziening van de regels, zodat onderscheid kan worden gemaakt tussen experiment en misbruik.

Ook buiten de VS groeit de bezorgdheid. In Nederland ziet stichting Offlimits het aantal meldingen van AI-gegenereerde naaktbeelden sterk toenemen. Juristen waarschuwen dat het probleem zich razendsnel uitbreidt, ondanks bestaande regelgeving zoals de privacywetgeving in Europa.

Het aanpakken van individuele apps blijkt bovendien lastig. Hoewel grote techbedrijven maatregelen hebben genomen om dergelijke toepassingen uit appstores te verwijderen, duiken alternatieven voortdurend op. Websites bieden dezelfde diensten aan, vaak zonder enige vorm van leeftijdscontrole. Gebruikers kunnen er meestal gratis beginnen, maar moeten daarna betalen om meer beelden te genereren.

Experts zijn het erover eens: zolang de technologie toegankelijk blijft en toezicht ontbreekt, zal het probleem verder groeien.

Bron: Volkskrant