Hannover. Wenn die Politik etwas gegen Kinderpornografie unternehmen will, ist Ärger meistens vorprogrammiert. Nicht, weil das Anliegen an sich ein Schlechtes wäre, ganz im Gegenteil: Vielmehr stößt die Umsetzung auf Kritik.

Die CDU-Politikerin Ursula von der Leyen kann davon ein Lied singen. Noch heute ist es auf Youtube zu finden: „Zensi, Zensa, Zensursula“, säuselt eine Frauenstimme auf elektronischen Discobeats. Den Spitznamen erhielt von der Leyen im Jahr 2008 – seinerzeit schlug sie als Familienministerin der Bundesregierung als Gegenmittel zur Verbreitung von Kinderpornografie die viel diskutierten Netzsperren vor, die in der IT-Welt und Netzgemeinde für massive Proteste sorgten.

Heute, 13 Jahre später, scheint sich die Geschichte zu wiederholen. Ursula von der Leyen ist inzwischen Präsidentin der EU-Kommission – und genau die hat nun einen neuen Plan für die Eindämmung von Kinderpornografie vorgelegt. Zensur allerdings soll diesmal allerdings nicht das Mittel der Wahl sein – sondern Durchleuchtung.

Mehr zum Thema

 

Kommission will Internet besser durchleuchten

Chatkontrolle oder Schutz? EU stellt Entwurf für Regeln gegen Kindesmissbrauch vor

Was plant die EU-Kommission?

Vorgestellt wurde der Gesetzesentwurf am Mittwoch von den EU-Kommissarinnen Dubravka Suica und Ylva Johansson. Man wolle „einen Weltstandard“ gegen illegale kinderpornografische Aufnahmen entwickeln, so die Politikerinnen. Immerhin werde jedes fünfte Kind Opfer von sexuellem Missbrauch. In 90 Prozent der Fälle liege das Material „auf Servern in der EU“. Brüssel sei deshalb besonders gefordert.

Dieser „Weltstandard“, von dem Suica spricht, soll wie folgt funktionieren: Ein in Den Haag angesiedeltes „EU-Zentrum gegen Kindesmissbrauch“ soll Anbieter von Onlinediensten zwingen können, die gesamte Kommunikation ihrer Nutzerinnen und Nutzer auf verbotene Inhalte zu scannen. Werden Darstellungen von Kindesmissbrauch gefunden, müssen sie die Zentralstelle informieren. Die wiederum alarmiert nach eigener Prüfung dann die nationalen Strafverfolgungsbehörden.

Auch verschiedene Maßnahmen gegen sogenanntes „Grooming“ sieht der Entwurf vor – damit ist die Kontaktaufnahme von Erwachsenen mit Missbrauchsabsichten zu Minderjährigen gemeint. Hier könnte, unter bestimmten Voraussetzungen, eine behördliche Anordnung die Durchsuchung von Textnachrichten ermöglichen. Schlimmstenfalls müssten Bürgerinnen und Bürger der EU damit rechnen, dass jede ihrer privaten Nachrichten vor dem Absenden automatisiert auf derartige Inhalte überprüft wird.

Die Pflicht zum Scannen kann alle möglichen Betreiber treffen: Videohoster und soziale Netzwerke wie Instagram, wo ohnehin meist öffentlich gepostet wird. Aber eben auch E-Mail-Anbieter und Betreiber von Messengerdiensten – etwa Whatsapp, iMessage oder Telegram, wo Nachrichten ganz privat ausgetauscht werden. Betroffen wären alle Betreiber mit Sitz in der EU – oder jene, die laut Gesetzesentwurf „eine signifikante Anzahl an Nutzern“ haben, wie es im Entwurf heißt. Das würde alle bekannten Plattformen, also auch Whatsapp und Co., mit einschließen.

Wie genau der Anbieter potenziell strafbare Inhalte ans EU-Zentrum meldet, ist grundsätzlich ihm selbst überlassen. Aber: Das EU-Zentrum will den Unternehmen auch eine staatlich entwickelte Software an die Hand geben, falls sie sich eine eigene Überprüfung der Inhalte nicht leisten können. Betreiber, die nicht mitmachen wollen, sollen von Providern in der EU geblockt werden – die Apps und Websites wären dann nicht mehr aufrufbar.

Mehr zum Thema

 

Kinderpornografie: BKA lässt riesige Mengen Fotos und Videos im Netz

Wie soll das technisch funktionieren?

Wie genau die Inhalte gescannt werden sollen, lässt die EU-Kommission zunächst offen. Insbesondere Messenger sind in der Regel durch die Spionage von Außen abgesichert, und zwar durch die sogenannte Ende-zu-Ende-Verschlüsselung. Grob zusammengefasst bedeutet das: Nachrichten werden beim Sender verschlüsselt und erst beim Empfänger wieder entschlüsselt. Dadurch wird verhindert, dass der Messengerbetreiber selbst oder irgendein Unbefugter die Nachrichten im Klartext lesen kann.

Kritikerinnen und Kritiker, wie etwa der Chaos Computer Club (CCC), befürchten daher, dass die Maßnahme schon vor der Verschlüsselung greift – und zwar durch ein sogenanntes „Client-Side-Scanning“. Das bedeutet: Die Software zur Prüfung aller Inhalte ist bereits auf dem Gerät der Nutzerinnern und Nutzer installiert. Damit könnte selbst die Ende-zu-Ende-Verschlüsselung umgangen werden: Jedes Bild oder Video würde der Prüfung unterzogen, noch bevor es überhaupt versendet wurde.

Diese Bilder könnten dann, so ist es zumindest denkbar, mit einer Datenbank an sogenannten Hashes abgeglichen werden. Unter Hashes versteht man digitale Fingerabdrücke, mit denen einschlägig bekanntes Missbrauchsmaterial entdeckt werden kann. Die Implementierung dieses Systems, so die Befürchtung, würde aber theoretisch auch ermöglichen, nach anderen Parametern zu suchen. Ob die EU-Kommission die Praktik in dieser Form tatsächlich nutzen und vorschreiben will, blieb zunächst unklar.

Ganz neu ist die Idee jedenfalls nicht: Bereits im vergangenen Jahr hatte der Techkonzern Apple angekündigt, die Endgeräte seiner Nutzerinnen und Nutzer künftig auf Darstellungen von Kindesmissbrauch zu scannen. Das Betriebssystem selbst sollte das übernehmen: Bei der Methode sollten Prüfsummen von digitalen Bilddateien über einen Algorithmus mit einer Datenbank verglichen werden, die die Merkmale der gesuchten Dateien enthält. Der Algorithmus sollte dabei auch leicht veränderte Bilder erkennen können. Nach großem Protest seiner Nutzerinnen und Nutzer legte Apple die Pläne zunächst auf Eis.

Mehr zum Thema

 

Google kündigt mehr Datenschutz für Android an

Warum ist das problematisch?

Kritikerinnen und Kritiker halten die Methode nicht nur für einen tiefgreifenden Eingriff in die Privatsphäre – die Technologie sei auch ein massives Sicherheitsrisiko, wie IT-Expertinnen und Experten erklären. Bereits im Oktober vergangenen Jahres hatten renommierte Fachleute in einer Publikation aufgezeigt, wie Sicherheitslücken im Client-Side-Scanning ausgenutzt werden können. Tiefgreifende Attacken seien möglich, die Schutzmechanismen der Geräte könnten wirkungslos werden. Ist die Software auf Firmengeräten installiert, wäre schlimmstenfalls auch Wirtschaftsspionage ungehindert möglich.

Schon im März hatten 39 Bürgerrechtsorganisationen der EU attestiert, dass sie das Gesetz „zum Weltmarktführer bei der Massenüberwachung mache“. Nach Bekanntwerden des Gesetzesentwurfs übt auch der Chaos Computer Club massive Kritik. „Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen“, so die Expertinnen und Experten in einer Pressemitteilung.

Die IT-Fachleute bezeichnen verschlüsselte Messenger als „Grundrecht“ und „wichtigen Eckpfeiler unser aller IT-Sicherheit“. Auch Journalistinnen und Journalisten sowie Whistleblower müssten dadurch geschützt werden. Die Pläne der EU hätten drastische Auswirkungen: „Nutzer*innen verlieren die Kontrolle darüber, welche Daten sie wie mit wem teilen. Sie verlieren das Grundvertrauen in ihre eigenen Geräte.“ Zudem sei die Software fehleranfällig: „Auch kleinste Fehlerquoten würden zu massiven Mengen fälschlicherweise ‚erkannter‘ und ausgeleiteter Nachrichten führen.“

Kritik an den Plänen kommt auch aus der Politik: Der FDP-Abgeordnete Moritz Körner sprach angesichts der Pläne von „Stasi 2.0“. Der Europaabgeordnete Patrick Breyer von den Piraten sprach von einem „Riesenschritt in Richtung eines Überwachungsstaates nach chinesischem Vorbild“. Auch Konstantin von Notz sieht die Pläne kritisch: „Es bestehen massive Zweifel, dass dies mit geltendem europäischen wie deutschen Grundrecht sowie der EuGH-Rechtsprechung vereinbar ist.“ Der SPD-Europaabgeordnete Tiemo Wölken bezeichnete die geplante Software als „Horrorfilter“. Die Verordnung versuche vorzugaukeln, dass Privatsphäre und Datenschutz garantiert würden.

Mehr zum Thema

 

Facebook und Twitter betroffen

Urteil für Online-Plattformen in den USA: Bekämpfung von Hass im Netz wird schwieriger

Was sagt die EU-Kommission dazu?

EU-Kommissarin Johansson sieht diese Probleme offenbar nicht. Sie beteuerte, dass zahlreiche Vorkehrungen getroffen werden sollten, um die Privatsphäre der EU-Bürger zu schützen. So müssten nationale Behörden und Datenschützer vor jedem Scan ihre Erlaubnis geben. Zum Filtern der Kommunikation dürfe die neue EU-Stelle zudem lediglich Software einsetzen, mit der „die Privatsphäre der Bürger am wenigsten gefährdet“ werde. „Um die Nadeln im Heuhaufen zu finden, muss man den richtigen Magneten verwenden“ – und das habe man vor, so Johansson.

Auch beim Scannen von Nachrichten, um sogenanntes Grooming zu verhindern, beschwichtigt die EU-Kommission: Die Technik „verstehe“ den Inhalt einer Kommunikation nicht, sondern suche lediglich nach bekannten Mustern, die auf mögliches Grooming hinweisen. Derartige Technologien seien mittlerweile hochgradig akkurat, allerdings bleibe eine „menschliche Aufsicht nötig“.

Unternehmen sollen laut dem Entwurf sicherstellen, dass sie bei der Suche nach Missbrauchsmaterial nicht selbst auf die angewandten Technologien zugreifen können. Dadurch solle eine „Beeinträchtigung der Sicherheit und Vertraulichkeit der Kommunikation“ von Nutzerinnen und Nutzern vermieden werden. Der Sicherheitsforscher Alec Muffet kritisiert das auf Twitter. Dort paraphrasiert er den Absatz wie folgt: „Wir wollen eine Hintertür, aber wir wollen nicht, dass jeder sie benutzen kann. Nur wir guten Menschen.“

Mehr zum Thema

 

Noch erhältlich solange der Vorrat reicht

Nach mehr als 20 Jahren: Apple lässt iPod auslaufen

Was sagen die Anbieter?

IT-Expertinnen und ‑Experten überzeugt all das nicht. Und auch erste Anbieter haben sich zu Wort gemeldet. Will Cathcart, Chef von Whatsapp, twitterte am Dienstagabend: „Starke Verschlüsselung schützt die Privatsphäre und Sicherheit von Milliarden Menschen. Das zu schwächen, ist ein Fehler“. Der EU-Vorschlag sei eine „furchtbare Idee“.

Martin Blatter, Chef des sicheren Messengers Threema, sagte dem „Spiegel“, der Plan „würde vielleicht einem totalitären Regime zur Ehre gereichen, hat aber in einer Demokratie nichts zu suchen“. Die Kommissionspläne könnten zu einer „Massenkriminalisierung unbescholtener Bürger führen“.

Auch Entwickler kleinerer Plattformen äußerten sich. „In ihrem Gesetzentwurf zur Bekämpfung des sexuellen Kindesmissbrauchs beschreibt die EU-Kommission einen der ausgeklügeltsten Massenüberwachungsapparate, der jemals außerhalb Chinas eingesetzt wurde“, erklärt Matthias Pfau, Geschäftsführer des verschlüsselten E-Mail-Dienstes Tutanota in einer Mitteilung. „Auch wenn eine KI Ihre privaten Nachrichten scannt, bleibt es eine rechtlose Massenüberwachung aller. Einmal mehr nutzt die EU-Kommission den Kinderschutz als Vorwand, um eine Massenüberwachung ohne jeden Grund einzuführen.“

Mehr zum Thema

 

Treffen der G7-Digitalminister

Wissing fordert weltweite Regeln fürs Internet

Wie geht es weiter?

EU-Parlament und EU-Staaten müssen nun über den Vorschlag beraten und sich auf eine endgültige Fassung einigen. Es kann also noch zu Änderungen kommen. Die Debatte ist aber bereits im Gange – ganz ähnlich wie 2009, als Ursula von der Leyen die oft kritisierten Netzsperren ins Spiel brachte.

Zuletzt hatte die Netzgemeinschaft immer wieder gegen Gesetze der EU protestiert – 2019 etwa gegen die umstrittene Urheberrechtsreform, auch bekannt als Artikel 13. Seinerzeit kam es auch auf den Straßen zu großen Demonstrationen.

Laden Sie sich jetzt hier kostenfrei unsere neue RND-App für Android und iOS herunter