Veelgestelde algemene vragen over Protech

Wat is Protech?

Het doel van het Protech-project is onderzoek doen naar en het ontwerpen en ontwikkelen van technologie om mensen ervan te weerhouden inhoud van seksueel misbruik van kinderen op het internet te bekijken. De beschikbaarheid van video's en beelden van weerzinwekkend seksueel misbruik van kinderen en de wereldwijde vraag naar dergelijk materiaal hebben ongekende hoogten bereikt op het internet. Deze veiligheidstechnologie zal worden ontworpen voor de apparaten van personen die het risico lopen om zich materiaal van seksueel misbruik van kinderen te willen bekijken.

Protech brengt toonaangevende deskundigen uit de EU en het Verenigd Koninkrijk samen, vanuit uiteenlopende achtergronden, waaronder criminologie, volksgezondheid, ontwikkelingspsychologie, klinische en forensische psychologie, software-engineering, kinderbescherming en internetveiligheid. De veiligheidstechnologie kan de groeiende vraag naar materiaal van seksueel misbruik van kinderen op het internet helpen tegengaan en voorkómen dat slachtoffers van seksueel misbruik blijven lijden omdat hun foto's online blijven circuleren zelfs lang nadat het misbruik heeft plaatsgevonden.

Het project van 2 miljoen euro (1,8 miljoen GBP) wordt voor twee jaar gefinancierd door de Europese Commissie via het EU-fonds voor interne veiligheid en wordt beheerd door het directoraat-generaal Migratie en binnenlandse zaken (DG Home) van de Commissie. Het project wordt aangevoerd door Charité - Universitätsmedizin Berlin (CUB).

Hoe werkt de technologie?

De unieke technologie die voor het project wordt ontwikkeld door SafeToNet maakt gebruik van zeer accurate zelflerende technologie in realtime om beelden en video's van seksueel misbruik van kinderen op te sporen. De veiligheidstechnologie controleert in realtime zowel het netwerkverkeer als de beelden voordat de gebruiker ze op zijn scherm te zien krijgt, vitale seconden voordat het materiaal kan worden bekeken. Na de installatie ervan werkt de app op de achtergrond, tenzij seksueel getinte beelden van kinderen worden waargenomen en geblokkeerd.

De veiligheidstechnologie is erop getraind om materiaal van seksueel misbruik van kinderen correct te herkennen en wordt getest op beeldmateriaal van seksueel misbruik van kinderen waarvan na een strenge beoordeling door menselijke beoordelaars bij de Internet Watch Foundation (IWF) is bevestigd dat het strafbare inhoud betreft. De IWF zorgt voor een veilige omgeving waar de zelflerende software kan worden getest op het correct signaleren van materiaal van seksueel misbruik van kinderen.

De technologische oplossing heet Salus en is ontwikkeld om materiaal van seksueel misbruik van kinderen op een elektronisch apparaat op te sporen en te blokkeren. Dit bouwt voort op bestaande technologie die is ontwikkeld door SafeToNet.

Wie gaat de technologie gebruiken?

De technologie zal vrijwillig op de apparaten van de gebruikers worden geïnstalleerd en gebruikers zullen volledig op de hoogte zijn van het doel en het effect ervan op hun apparaat. 

Deze gebruikers zijn personen die bang zijn dat ze kinderen zullen gaan misbruiken en worden geworven via belangrijke preventiediensten van CUB, het Universitair Forensisch Centrum (UFC), de Lucy Faithfull Foundation (LLF) en Stop it Now Nederland.

Het unieke karakter van de veiligheidstool ligt in het gebruikersgerichte ontwerp, dat een effectieve interventie biedt en strafbare inhoud blokkeert voordat de gebruiker deze te zien krijgt. De app kan een essentieel hulpmiddel zijn om inhoud van seksueel misbruik van kinderen voor langere tijd te voorkomen.

Waardoor is de technologie geschikt voor de beoogde gebruiker?

Om te helpen bij het ontwerpen van de veiligheidstechnologie zal het Policing Institute for the Eastern Region (PIER), verbonden aan de Anglia Ruskin University in het Verenigd Koninkrijk, onderzoeken waarom en hoe daders voor het eerst materiaal van seksueel misbruik van kinderen bekijken en wat hen kan helpen daar niet mee door te gaan. Zij nemen interviews af met personen die het risico lopen strafbare inhoud te bekijken en met professionals die preventieve ondersteuning bieden. Het onderzoek dat door PIER is uitgevoerd en het bewijs dat door het instituut is verzameld levert data op die nodig is om invulling te geven aan het project en het project te ondersteunen.

Wanneer gaat Salus van start?hen will Salus be deployed?

Nadat de veiligheidstechnologie is ontworpen, zal deze in een pilotfase in vijf landen worden uitgezet: Duitsland, Nederland, België, Ierland en het Verenigd Koninkrijk. Gedurende een periode van 11 maanden zullen minstens 180 gebruikers de software testen.

SafeToNet zal feedback van gebruikers en deskundigen verzamelen zolang het project loopt en hiervan gebruikmaken om de software verder te verbeteren en aan te passen.

De afdeling Ontwikkelingspsychologie van de Universiteit van Tilburg zal het project evalueren en beoordelen of het haalbaar is om de technologie te gebruiken in het kader van een interventieprogramma in Europa. Ze zullen aanbevelingen van deskundigen meenemen over hoe dit effectief kan worden geïmplementeerd als onderdeel van preventieprogramma's voor de volksgezondheid.

Wie zijn de betrokkenen?ho is involved?

• Charité – Universitätsmedizin Berlin is een van de grootste universitaire ziekenhuizen in Europa. Alle klinische zorg, onderzoek en onderwijs wordt verstrekt door artsen en onderzoekers van het hoogste internationale niveau. Het Institute of Sexology and Sexual Medicine biedt lezingen, studies en stages aan voor studenten in alle vakgebieden, en voert interdisciplinair onderzoek uit naar menselijke seksualiteit, namelijk het omgaan met biologische, psychologische en sociale factoren die de menselijke seksualiteit beïnvloeden. In 2005 ging het Institute of Sexology and Sexual Medicine van start met “Prevention Project Dunkelfeld”, dat intussen is uitgegroeid tot een landelijk netwerk van poliklinieken die behandelingen aanbieden aan mensen met seksuele belangstelling voor kinderen die zichzelf als zodanig identificeren en op zoek zijn naar hulp. 
• De Internet Watch Foundation (IWF) helpt slachtoffers van seksueel kindermisbruik over de hele wereld door online beelden en video's van hun misbruik op te sporen en te verwijderen. Wij sporen beelden en video's van seksueel kindermisbruik op en bieden het publiek ook een punt waar zij anonieme meldingen kunnen doen. Vervolgens laten we ze verwijderen. Wij zijn een non-profitorganisatie en worden gesteund door de mondiale internetsector.
• SafeToNet is een onderneming voor cyberveiligheid die baanbrekende, bekroonde en gepatenteerde technologie heeft ontwikkeld, die gebruikmaakt van kunstmatige intelligentie om de belangrijkste online-dreigingen zoals cyberpesten, seksuele afpersing via internet, grooming, misbruik en agressie aan te pakken. 
• Het Universitair Forensisch Centrum (UFC) in het Universitair Ziekenhuis Antwerpen biedt een gespecialiseerde poliklinische behandeling aan personen met afwijkend seksueel gedrag en aan personen met afwijkende seksuele interesses. Daarnaast treedt het UFC op als steuncentrum en staat het in voor de wetenschappelijke en logistieke ondersteuning van de teams die de aanpak van deze problematiek in Vlaanderen (België) mogelijk maken. 
• Het Policing Institute for the Eastern Region (PIER) is een onderzoeksinstelling verbonden aan de Anglia Ruskin University (ARU). De visie ervan is beleidsvoering te verbeteren via partnerschappen in toegepast onderzoek, toegespitst op drie gebieden: seksuele misdrijven, beleidsvoering in de 21e eeuw, en extremisme- en terrorismebestrijding. Het heeft als missie een mondialevoortrekker te zijn op het gebied van onderzoek, innovatie en impact om beleidspraktijken te verbeteren. ARU behoort tot de top 350 van instellingen opgenomen in de Times Higher Education World University Rankings 2023, en is een mondiale universiteit.

• Het Departement Ontwikkelingspsychologie van de Universiteit van Tilburg is gespecialiseerd in levenslooppsychologie, ontwikkelingspsychologie en psychopathologie, levensgebeurtenissen, cognities en emoties, persoonlijkheid en korte- en lange termijn transities. Op het gebied van forensische psychologie biedt het departement een bachelorprogramma in forensische psychologie en een masterprogramma in klinische forensische psychologie aan. Het onderzoek dat er plaatsvindt op het gebied van forensische psychologie, agressie en persoonlijkheid, risicobeoordeling, fysiologisch onderzoek, longitudinaal onderzoek naar (doeltreffendheid van) behandeling (innovatie, zoals virtuele realiteit en e-gezondheid) behoort tot het beste in Europa. 
• De Lucy Faithfull Foundation is de enige Britse charitatieve instelling die in het hele Verenigd Koninkrijk actief is en zich uitsluitend richt op het voorkomen van seksueel kindermisbruik. Wij werken met volwassenen en jongeren die een kind seksuele schade hebben aangedaan, of die risico vertonen om dit te doen. We werken ook met hun familieleden, met deskundigen en met slachtoffers van misbruik. Via onze anonieme hulplijn Stop It Now! verstrekken we vertrouwelijk advies, ondersteuning en informatie aan iedereen die zich zorgen maakt over seksuele gedachten of gedrag ten aanzien van kinderen, van zichzelf of van iemand anders.
• Offlimits maakt deel uit van het Expertisebureau Online Kindermisbruik. Offlimits is van mening dat seksueel kindermisbruik een maatschappelijk probleem is dat kan worden voorkomen en dat het beste wordt benaderd vanuit een volksgezondheidsperspectief, waarbij iedere volwassene verantwoordelijkheid draagt op het gebied van preventie, ook gebruikers van materiaal van seksueel kindermisbruik. Het hoofddoel van Offlimits is seksueel kindermisbruik te voorkomen door via een hulplijn anoniem, vertrouwelijk en gratis ondersteuning aan te bieden aan iedereen die zich zorgen maakt over zijn of haar seksuele gevoelens en/of gedrag naar minderjarigen toe. Bijvoorbeeld iemand die materiaal over seksueel kindermisbruik bekijkt of seksueel kindermisbruik dreigt te plegen of heeft gepleegd. Offlimits verwijst mensen door naar de forensische polikliniek de Waag. Naast de Waag onderhoudt Offlimits contact met verschillende poliklinische centra, psychologen en seksuologen in heel Nederland, om mensen te kunnen doorverwijzen in hun eigen regio.

Hoe kunnen de gebruikers van de software worden vertrouwd?ow will you trust the users of the software?

Er zullen altijd manieren te vinden zijn waarmee overtreders dit soort technologieën kunnen omzeilen. Het belangrijke kenmerk van onze doelgroep is dat dit personen zijn die willen deelnemen, die hulp willen krijgen en die zich hiervoor vrijwillig hebben opgegeven. Het project richt zich op meewerkende, potentiële of echte gebruikers van beelden van seksueel misbruik van kinderen die willen voorkomen dat ze voor het eerst strafbaar materiaal zullen bekijken of doorgaan met het bekijken daarvan.

Wordt de politie geïnformeerd als gebruikers zoeken naar strafbare inhoud?

Wij veroordelen of criminaliseren vrijwilligers die deelnemen aan de pilot niet. Wij erkennen dat doeltreffende preventie het vertrouwen en de medewerking van alle partijen vereist. Wij weten dat een louter repressieve aanpak van dit verschijnsel geen afdoend antwoord an sich biedt. Het Protech-project kan dan ook een eerste cruciale stap zijn naar een meer preventieve benadering om een extra instrument te bieden in de strijd tegen seksueel misbruik van kinderen.

Wat maakt deze technologie zo uniek? Zijn er al vergelijkbare projecten geweest?

Hoewel de intentie achter Salus vergelijkbaar is met andere preventietechnologieën, is het verschil dat al deze bestaande producten voor het modereren van inhoud afhankelijk zijn van mensen in plaats van dat dit geautomatiseerd gebeurt. 

Zo is bijvoorbeeld bij sommige bestaande technologie die gestreamde video’s monitort, ongeacht de inhoud van de video, ervoor gekozen om een momentopname van het scherm te maken en deze te uploaden naar servers zodat de inhoud door een mens kan worden bekeken en gemodereerd. 

Tenzij contentbeheerders hiertoe wettelijke toestemming hebben gekregen, worden zij hierdoor in feite tot een strafbaar feit aangezet, aangezien het vastleggen, verzenden en opslaan van materiaal van seksueel misbruik van kinderen een strafbaar feit is.

Ook schermopnames kunnen door die platforms worden voorkomen door een applicatie te blokkeren voor schermopnames. Dit is bijvoorbeeld ook het geval bij applicaties voor mobiel bankieren, doordat de app is gemarkeerd als app met gevoelige informatie. 

Salus is anders omdat het volledig gebruikmaakt van zelflerende technologie om de inhoud te modereren. In het geval van gestreamde video’s "bekijkt" de veiligheidstechnologie de video zelf eerst even voordat de gebruiker het beeld op zijn scherm te zien krijgt. Als er materiaal van seksueel misbruik van kinderen wordt geconstateerd, wordt de stream onmiddellijk afgesloten.

Nog een voordeel van de Salus-technologie is dat mensen die het risico lopen beelden te bekijken in contact kunnen worden gebracht met een mens die hen kan steunen bij hun inspanningen om geen schadelijke en illegale inhoud te bekijken.

Stel dat Salus niet-strafbare inhoud blokkeert?hat if Salus blocks content which is not criminal?

De zelflerende software achter Salus is bijzonder accuraat, maar het kan nooit helemaal worden uitgesloten dat soms ook niet-strafbare inhoud wordt geblokkeerd. Door feedback van gebruikers in de pilotfase en van de professionals die het project ondersteunen, zal de software constant bijleren en steeds beter worden.

Wanneer eindigt het project?

Protech is een tweejarig project dat in maart 2023 van start is gegaan en in maart 2025 zal worden afgerond.