Veiligheidstechnologie gebruiken ter preventie van het bekijken van beelden van seksueel misbruik van minderjarigen

Door Larissa van Puyvelde, Minne De Boeck en Catherine McShane

De groei van de technologie, de gemakkelijke toegang tot het internet en de mogelijkheid om online anoniem te zijn, heeft de vraag naar en het aanbod van beelden van seksueel kindermisbruik (CSAM) online gestimuleerd. Miljoenen beelden van seksueel misbruik van minderjarigen worden elk jaar via het internet verspreid. Dit zijn alleen gekende beelden, die gemeld worden door organisaties zoals de Stichting Internet Watch in het Verenigd Koninkrijk of het Nationaal centrum voor vermiste en uitgebuite kinderen in de Verenigde Staten.

De gevolgen voor slachtoffers van seksueel misbruik van minderjarigen hebben een grote impact, omdat beelden van hun misbruik online kunnen blijven circuleren. Ze worden telkens opnieuw slachtoffer wanneer de beelden worden gedeeld en bekeken. Traditionele rechtshandhavingsmethoden bieden geen soelaas aan de omvang en de schaal van het wereldwijde probleem.

Er moet dringend worden gezocht naar nieuwe manieren om dit complexe probleem aan te pakken en als onderdeel van de EU-strategie voor een effectieve bestrijding van seksueel kindermisbruik heeft de EU verschillende onderzoeken gefinancierd die gericht zijn op een vroege interventie.

Protech is één van zo'n project en betreft de ontwikkeling, implementatie en evaluatie van een veiligheidstechnisch hulpmiddel om het bekijken en verspreiden van CSAM te verhinderen. Het is de bedoeling dat het wordt gebruikt als onderdeel van een preventieprogramma door mensen die het risico lopen om naar CSAM te kijken. Het project is halverwege en wat volgt zijn de eerste inzichten in de voortgang van het project tot nu toe.

Om de tool te ontwikkelen, heeft het Protech-project deskundigen uit de Europese Unie (België, Nederland, Duitsland en Ierland) en het Verenigd Koninkrijk samengebracht, met verschillende expertises op het gebied van criminologie, volksgezondheid, klinische en forensische psychologie, technologie, kinderbescherming en internetveiligheid.

Het doel is om on-device technologie te ontwikkelen in de vorm van een app, die CSAM zou kunnen identificeren en voorkomen dat deze gezien worden door de gebruiker. Vervolgens geeft het bij gedetecteerde schadelijke content een melding om de gebruiker aandacht te geven voor de schadelijke inhoud.

Het ontwerp van de veiligheidstechnologie vertrekt vanuit het 'voor en door'-principe, wat inhoudt dat de beoogde gebruikers helpen bij het bepalen hoe de technologie moet worden vormgegeven, om ervoor te zorgen dat de app hen effectief kan ondersteunen om hun risicovolle gedrag te stoppen. Daarom zou ook het bekijken van en de vraag naar CSAM op met internet verbonden apparaten aanzienlijk kunnen verminderen.

Om dit te doen, werden potentiële gebruikers en professionals uitgenodigd om input te geven over hoe de technologie zou moeten werken en wat er nodig was om ervoor te zorgen dat het zou worden gebruikt. De eerste groep bestond uit 30 personen met een zelfgerapporteerd risico op het plegen van CSAM - personen die waarschijnlijk beelden van seksueel misbruik van minderjarigen willen bekijken. De tweede groep bestond uit professionals, voornamelijk therapeuten van gebruikers van CSAM, die deelnamen aan focusgroepen.

Alle deelnemers werden gevraagd om hun mening en bezorgdheden te delen met betrekking tot vier domeinen voor de ontwikkeling van de app: privacygerelateerde kwesties (1), blokkeerfunctionaliteit (2), potentiële interactiviteit (3) en mogelijke implementatiemethoden (4).

De resultaten laten zien dat privacy (domein 1) een uitdagend punt was, aangezien de meeste respondenten aangaven dat ze zich zorgen maken over het opslaan van persoonlijke gegevens, gegevensbeveiliging en de mogelijke juridische gevolgen. Daarom moet de gevoeligheid rond privacy als basis worden genomen om de app te ontwikkelen.

Voor domein 2 en 3 kon geen consensus worden gevonden over de respondenten. Over het algemeen toonden de resultaten aan dat elke respondent de functies van de app zou willen personaliseren. Dit benadrukte de noodzaak om de app aanpasbaar te maken, bijvoorbeeld in termen van het blokkeren van berichten of het implementeren van een pornografiefilter. Sommige respondenten hadden namelijk het gevoel dat toegang tot pornografie hen zou helpen hun impulsen onder controle te houden of ze misschien erger zou maken. Sommigen vonden dat het toevoegen van bepaalde functies zoals een dagboek nuttig zou zijn. Deelnemers hebben ook toegang tot veelgestelde vragen over het gebruik van de app en een mogelijkheid om feedback te geven aan de ontwikkelaars.

Onder de deelnemers was er geen eensgezindheid over de beste manier om de app te downloaden (domein 4). Sommigen vonden het makkelijker om de app via een officieel kanaal te downloaden. Anderen vonden juist anonimiteit belangrijk. Na overleg met de ontwikkelaars van de app werd besloten om de downloadlink via een extern portaal aan te bieden, de meest veilige methode om de app beschikbaar te stellen en te downloaden.

Deze bevindingen hebben geleid tot de eerste versie van de app, genaamd Salus, en is nu klaar om getest te worden in een pilotfase. Tijdens deze fase wordt de app of vergelijkbare technologie beoordeeld en de implementatie ervan heeft het potentieel om deel uit te maken van een effectief preventieprogramma. De app maakt gebruik van machine learning en conventionele technieken - zoals het matchen van trefwoorden of URL's voor het detecteren van bekende beelden van seksueel misbruik van minderjarigen - om te voorkomen dat CSAM op het scherm van het apparaat van de gebruiker verschijnt.

Het Protech project is gebaseerd op vrijwillige deelname en deelnemers zullen in staat zijn om geïnformeerde beslissingen te nemen tijdens de gehele pilot om transparantie te garanderen over de werking, onboarding en hoe ze zich kunnen terugtrekken uit de app en testfase. Er zijn, en zullen altijd, methoden zijn waarmee gebruikers technologie als deze kunnen omzeilen, maar het belangrijkste kenmerk van de Protech-doelgroep is dat dit individuen zullen zijn die willen deelnemen, die hulp willen krijgen en die dit vrijwillig hebben gedaan.

De drie maanden durende pilot zal worden uitgerold voor maximaal 30-50 deelnemers aan een behandelprogramma en zal bestaan uit een interventiegroep, die de app effectief zal testen.

Alle deelnemers krijgen op twee verschillende tijdstippen een enquête toegestuurd met vragen over hun welzijn, hun (online) (kijk) gedrag en hun mening over de veiligheidstechnologie.

De laatste stap van het project zal gebaseerd zijn op de bevindingen van de enquêtes en de effectiviteit en resultaten van de pilot-evaluatie. Verder zullen de projectpartners evalueren wat er bereikt is, geleerd is en zullen ze eventuele vragen met betrekking tot de technologie, de implementatie en de pilot die naar aanleiding van het project naar voren komen, beantwoorden.

Als het effectief is, kan het nieuwe gebruik van technologie om risicopersonen te helpen hun kijkgedrag naar CSAM onder controle te houden, hopelijk worden gebruikt als blauwdruk voor het gebruik van veiligheidstechnologie voor daderpreventie in de hele EU, maar het is zeker geen wondermiddel. Idealiter zou elke technologie moeten worden geïmplementeerd als onderdeel van een breder, holistisch pakket van maatregelen om seksueel misbruik en seksuele uitbuiting van minderjarigen te helpen voorkomen, slachtoffers verder te beschermen en de werklast van de rechtshandhaving te verlichten.

Dit artikel verscheen oorspronkelijk op het blog van de Association for the Treatment & Prevention of Sexual Abuse (ATSA) op vrijdag 4 oktober 2024.

‍

‍