Fortschrittsbericht von Protech

Seit dem Start des Projekts im März 2023 haben die Partner des Protech-Konsortiums an der Entwicklung und Einführung von „Salus“ gearbeitet, einer Sicherheits-App, die verhindern soll, dass Nutzerinnen und Nutzer Darstellungen von sexuellem Kindesmissbrauch auf ihren elektronischen Geräten sehen können.

Im Rahmen des zweijährigen Projekts wird die App getestet, um herauszufinden, ob sie Teil eines wirksamen EU-weiten Präventionsprogramms werden könnte.

Im Internet grassiert die Verbreitung und der Handel mit schrecklichen Bildern und Videos von sexuellem Kindesmissbrauch. Im Jahr 2022 hat die Internet Watch Foundation – ein an der Protech-Studie beteiligter Forschungspartner – mehr als 250 000 Webseiten mit strafbaren Inhalten des sexuellen Kindesmissbrauchs entfernt. Jede Website kann Tausende von Bildern enthalten, insgesamt handelte es sich also um Millionen von Bildern.

Wenn verhindert wird, dass Menschen diese kriminellen Inhalte sehen können, könnte dies dazu beitragen, die wiederholte Traumatisierung der Betroffenen von sexuellem Kindesmissbrauch zu verhindern, die darunter leiden, dass die Bilder ihres Missbrauchs weiterhin online verbreitet werden.

Inzwischen haben Forschende Literaturrecherchen durchgeführt, um herauszufinden, was darüber bekannt ist, warum Menschen Material über sexuellen Kindesmissbrauch konsumieren, und um besser zu verstehen, wie künstliche Intelligenz derzeit eingesetzt wird, um kriminelles Bildmaterial im Internet zu erkennen und zu entfernen.

An der Studie werden über einen Zeitraum von 11 Monaten viele Teilnehmende beteiligt sein, darunter mehr als 50 Fachkräfte und mindestens 180 Nutzerinnen und Nutzer. Daher wurden wichtige ethische Zulassungen erteilt, damit die Forschung durchgeführt werden kann.

Es wurde ein Beirat eingerichtet, der das Forschungsprojekt begleitet und unabhängige und fachkundige Beratung bietet.

Um die App mit Blick auf die Endnutzerinnen und -nutzer zu entwickeln, werden jetzt in vier Ländern – Deutschland, den Niederlanden, Belgien und Großbritannien – Daten erhoben. Zu diesem Zweck wurden Fokusgruppen mit Fachkräften, die mit Personen arbeiten, bei denen das Risiko besteht, dass sie Material von sexuellem Kindesmissbrauch konsumieren, sowie Interviews mit potenziellen Straftäter*innen selbst durchgeführt.

Die bei diesen Interviews gesammelten Informationen werden analysiert und als Grundlage für die Gestaltung und Funktionsweise der App „Salus“ verwendet.

Die Entwickler der App „Salus“ haben die lernfähige Technologie darauf trainiert, Material von sexuellem Kindesmissbrauch genau zu erkennen. Dazu wurden Datensätze mit bestätigten kriminellen Inhalten verwendet, darunter sowohl Standbilder als auch Videos.

Das maschinenlernende Modell wurde strengen Tests unterzogen und seine Leistung wurde anhand mehrerer Testdatensätze mit über einer Million Eingaben gemessen.

Bei der Entwicklung des Frontends werden nun die Funktionsmerkmale und die Art und Weise, wie die Teilnehmenden der Pilotstudie die App nutzen und in ihr navigieren werden, berücksichtigt.

Die Arbeit an diesem Projekt geht zügig voran. Zu den wichtigen nächsten Schritten gehören die Freigabe des Prototyps der App für Nutzertests und die Anwerbung von Teilnehmenden für die Pilotphase zum Testen des Prototyps.