Die EU will stärker gegen die Verbreitung von Darstellungen sexuellen Missbrauchs von Kindern im Netz vorgehen. Dazu hat die EU-Kommission nun einen Gesetzesvorschlag präsentiert, der unter anderem Messenger wie WhatsApp oder Signal dazu verpflichten soll, Chatverläufe mithilfe von Künstlicher Intelligenz (KI) nach Missbrauchsmaterial zu durchsuchen und Verdachtsfälle an die Strafbehörden weiterzuleiten.

Bereits im Vorfeld hatten mehrere zivilgesellschaftliche Organisationen Kritik an dem Gesetzentwurf geäußert. Unter anderem befürchten der Chaos Computer Club und der NGO-Dachverband European Digital Rights (EDRi) dadurch ein Ende der Ende-zu-Ende-Verschlüsselung, die Chat-Inhalte für Dritte unlesbar macht.

Welche Änderungen sieht das Gesetz bei Messenger-Diensten vor?

Hintergrund der Gesetzinitiative: Laut Kriminalstatistik 2021 haben sich die entdeckten Fälle von Darstellungen sexuellen Kindesmissbrauchs 2021 im Jahresvergleich auf 39.171 verdoppelt (2020: 18.761). Gegenüber der Deutschen Presse-Agentur zeigte sich die Missbrauchsbeauftragte der Bundesregierung, Kerstin Claus, entsprechend besorgt. Europa sei „mitt­ler­weile zu einem Dreh­kreuz für den Handel mit Miss­brauchs­dar­stel­lungen geworden“.

Aktuell könnten die Behörden laut EU-Innenkommissarin Ylva Johansson Straftaten aufgrund der Ende-zu-Ende-Verschlüsselung der Messenger-Dienste nur eingeschränkt online verfolgen: „Die Täter verstecken sich hinter der Ende-zu-Ende-Verschlüsselung; sie ist einfach zu benutzen, aber fast unmöglich zu knacken, was es den Behörden erschwert, Straftaten zu untersuchen und zu verfolgen“, sagte sie in einer Rede Ende April.

Das will die EU-Kommission mit ihrer Gesetzesinitiative nun ändern. Unter anderem sollen Messenger-Dienste dazu verpflichtet werden, Chatverläufe ihrer Nutzer:innen standardmäßig zu scannen. Dazu sollen Anbieter von Messenger-Diensten geeignete KI-Technologie einsetzen, um in Internetbeiträgen und privaten Nachrichten verdächtige Inhalte identifizieren oder mit Videos und Bildern bekannter Kindesmissbrauchsinhalte abgleichen zu können.

Im Gesetz werden drei Arten von sexualisiertem Missbrauch unterschieden, für deren Erkennung die KI-Scanner eingesetzt werden sollen:

1. Die Verbreitung bereits bekannter Missbrauchsdarstellungen
2. Die Verbreitung bislang unbekanntem Materials
3. Die Kontaktaufnahme zu Kindern

Davon sind auch Anbieter von Chat-Diensten betroffen, die die Kommunikation ihrer Nutzer:innen standardmäßig oder optional verschlüsseln, unter anderem:

• WhatsApp
• Signal
• Telegram
• Threema
• Apples iMessage

Kommen die Anbieter den Auflagen nicht nach, drohen ihnen empfindliche Geldstrafen in Höhe von bis zu 6 Prozent des Jahresumsatzes.

Welche Schritte werden in Verdachtsfällen eingeleitet?

Das Gesetz sieht folgende drei Schritte vor:

1. Wenn Google, Meta und Co. bei der Durchsuchung von Internetbeiträgen und Nachrichten verdächtige Inhalte auffallen, müssen sie diese künftig an ein EU-Zentrum melden, das hierfür neu geschaffen werden soll.
2. Dieses Zentrum prüft dann nochmals die übermittelten Inhalte.
3. Anschließend werden die Inhalte gegebenenfalls an die nationalen Strafbehörden weitergeleitet.

Kritik: „Massenüberwachung“, „Überzogen“, „Unverhältnismäßig“

Bereits im Vorfeld hatten 39 Bürgerrechtsorganisation in einem offenen Brief vor den Auswirkungen des Gesetzes gewarnt. Demnach würde es „die EU zum Weltmarktführer bei der Massenüberwachung ganzer Bevölkerungen machen“.

Hintergrund der Kritik: Wenn Dienste wie WhatsApp oder Signal nicht die Ende-zu-Ende-Verschlüsselung aufbrechen wollen, können sie diese nur umgehen, wenn sie die Inhalte bereits vor der Verschlüsselung durchforsten. Dieses Vorgehen nennt sich „Client-Side-Scanning“ und würde bedeuten, dass Prüfsoftware auf den Geräten aller Nutzer:innen installiert werden muss.

Der Chaos Computer Club (CCC) hatte dies in einem Statement als „überzogene und fehlgeleitete Überwachungsmethode“ bezeichnet.

Auch andere kritische Stimmen haben gegen den Gesetzesvorschlag ausgeholt. „Die Vorstellung ist unerhört, dass die private Kommunikation von Hunderten von Millionen Menschen in der EU, von der sie vernünftigerweise erwarten, dass sie privat ist, wahllos und generell rund um die Uhr gescannt wird“, sagte Ella Jakubowska vom NGO-Dachverband European Digital Rights (EDRi) gegenüber Politico.

Gegenüber der Tagesschau sagte der EU-Abgeordnete Patrick Breyer (Piratenpartei; Fraktion Grüne/EFA Europäisches Parlament): „Die Chatkontrolle bedeutet das Ende des digitalen Briefgeheimnisses und ein Angriff auf sichere Verschlüsselung. Man kann sich nicht mehr sicher sein, dass das, was ich an privaten Geheimnissen kommuniziere, nicht ausgeleitet wird.“

Auch der Kinderschutzbund, der die Gesetzesinitiative grundsätzlich unterstützt, blickt kritisch auf den Aspekt der anlasslosen Chatkontrolle: „Verschlüsselte Kommunikation spielt bei der Verbreitung von Missbrauchsdarstellungen kaum eine Rolle. Wir halten deshalb anlasslose Scans von verschlüsselter Kommunikation für unverhältnismäßig und nicht zielführend“, meint Joachim Türk aus dem Bundesvorstand gegenüber der Deutschen Presse-Agentur.

Martin Drechsler, Geschäftsführer von der Freiwilligen Selbstkontrolle Multimedia-Diensteanbieter (FSM), befürwortet das EU-Vorhaben, mahnt aber ebenfalls an, die kritischen Stimmen ernst zu nehmen: „Ich begrüße den Vorstoß der EU-Kommission, noch wirksamer gegen Missbrauchsdarstellungen von Kindern im Netz vorzugehen und die internationale Zusammenarbeit zu stärken. Dabei müssen geeignete und wirksame Lösungen gefunden werden, die auch mit den berechtigten Datenschutzbedenken vereinbar sind. Wichtig bleibt, etablierte Strukturen und Kompetenzen einzubeziehen.“

Die EU verteidigt das Vorgehen als „maßgeschneidert“

Die EU-Kommission den Kritiker:innen entgegen, dass die Maßnahmen zur Aufdeckung von Straftaten auf ein Mindestmaß begrenzt seien. In einer Pressemitteilung heißt es, dass diese zeitlich begrenzt seien und auf eine bestimmte Art von Inhalten in einem bestimmten Dienst abzielen würden.

EU-Innenkommissarin Ylva Johansson verteidigte das Vorgehen in einer Pressekonferenz als „maßgeschneidert“, es gehe allein darum, „spezifische Inhalte zu finden“. Sie zog im Zuge dessen folgenden Vergleich: „Wer die Nadel im Heuhaufen sucht, braucht einen Magneten. Und ein Magnet sieht sozusagen nur die Nadel und nicht das Heu.“

Dem Gesetzesentwurf müssen nun im nächsten Schritt Rat und Parlament zustimmen, damit er in Kraft tritt.