De recente onderzoeksresultaten van UNICEF schetsen een onthutsend beeld van de impact van kunstmatige intelligentie (AI) op kindermisbruik. Volgens hun studie hebben vorig jaar naar schatting 1,2 miljoen kinderen wereldwijd te maken gehad met de manipulatie van hun beelden in seksuele deepfakes (digitale afbeeldingen die door middel van AI wordt vervaardigd om een andere identiteit aan te nemen). Deze statistiek, afkomstig uit een onderzoek dat 11 landen besloeg, wijzen erop dat in sommige landen één op de 25 kinderen het slachtoffer is van dergelijke praktijken, wat de schokkende realiteit benadrukt van hoe diep de gevolgen van AI kunnen reiken in onze samenleving.
De zorgen rondom de inzet van AI in de context van seksuele uitbuiting van kinderen zijn aanzienlijk. In sommige onderzochte landen gaf tot twee derde van de deelnemers aan zich zorgen te maken over de mogelijkheid dat AI gebruikt kan worden om vervalste seksuele afbeeldingen of video’s van hen te creëren. Dit wijst niet alleen op een groeiende bewustwording van de risico’s, maar ook op de noodzaak voor effectieve beleidsmaatregelen die deze kwetsbare groep moeten beschermen. UNICEF onderstreept dat de beelden, ongeacht hun bron, als kindermisbruikmateriaal moeten worden beschouwd. Het is essentieel om deze kwestie met de nodige ernst te benaderen, daar de schade niet te negeren is.
De urgentie van de situatie wordt verder onderstreept door recente juridische stappen in Frankrijk, waar de kantoren van een bekend social media-platform zijn doorzocht in verband met een strafrechtelijk onderzoek naar mogelijk kinderpornografie die voortvloeit uit een AI-chatbot. Dit onderzoek onthult niet alleen de verantwoordelijkheden van techbedrijven, maar ook de noodzaak voor een bredere discussie rond de juridische en ethische implicaties van AI-oplossingen. Zoals UNICEF benadrukt, moet er een wereldwijde inspanning komen om wetten aan te passen en uit te breiden, zodat AI-gegenereerde content onder dezelfde strikte regels valt als ander kindermisbruikmateriaal.
De cijfers zijn schokkend. De Internet Watch Foundation in het Verenigd Koninkrijk heeft bijna 14.000 verdachte AI-gegenereerde beelden op een enkele dark-web forum gemeld, waarvan ongeveer een derde als crimineel is geclassificeerd. Bovendien melden de autoriteiten in Zuid-Korea een tienvoudige toename in seksueel gerelateerde misdaden die met AI en deepfake-technologie zijn verbonden. De jeugd, vaak de meest kwetsbare groep in deze situaties, wordt tragisch genoeg steeds vaker als hoofddader en slachtoffer aangemerkt.
UNICEF roept nu alle overheden op om de definities van kindermisbruikmateriaal te herzien, specifiek om AI-gegenereerde content daarbij te betrekken. Dit houdt in dat ook de creatie, in bezit hebben en verspreiden van dergelijke materialen strafbaar moet worden gesteld. Daarnaast is het cruciaal dat digitale bedrijven effectieve maatregelen ontwikkelen om de verspreiding van deze verwerpelijke content te voorkomen. De organisatie vraagt om proactieve benaderingen, zoals veiligheidscontroles voor de introductie van producten en het toepassen van zorgvuldigheid met betrekking tot kindrechten binnen de AI-industrie.
De tijd dringt. Het huidige juridische landschap kan de snelle ontwikkelingen in de technologie en de bijbehorende uitdagingen niet bijbenen. Met de Europese Commissie die vorige maand een onderzoek startte naar mogelijke schendingen van digitale regels door techbedrijven, is het duidelijk dat er behoefte is aan meer rigoureuze maatregelen. Terwijl landen zoals de Filipijnen, Indonesië en Maleisië al stappen hebben ondernomen om AI-systemen te verbieden, is het van cruciaal belang dat ook Europese landen snel en effectief handelen.
Waarom zijn AI-gegenereerde beelden zo problematisch voor kinderen?
Zij kunnen leiden tot ernstige vormen van uitbuiting en psychologisch trauma, zonder dat de betrokken kinderen zich daar bewust van zijn. De technologie maakt het mogelijk om seksuele beelden te creëren zonder dat een kind daar ooit toestemming voor geeft.
Wat kunnen overheden doen om deze problemen aan te pakken?
Overheden moeten wetten aanpassen om AI-gegenereerde content als kindermisbruikmateriaal te classificeren, evenals het creëren, bezitten en verspreiden daarvan strafbaar te stellen.
Welke verantwoordelijkheden hebben techbedrijven in deze context?
Techbedrijven moeten veiligheidsmaatregelen implementeren en verantwoordelijk worden gehouden voor het voorkomen van de verspreiding van kindermisbruikmateriaal, inclusief AI-gegenereerde content, terwijl ze ook zorgen voor een ethische ontwikkeling van hun technologie.
