Die im Entwurf der EU-Verordnung über sexuellen Kindesmissbrauch vorgeschlagenen Maßnahmen sind grundsätzlich nicht mit den Menschenrechten vereinbar, trotz ihrer wichtigen Ziele. Ein beispiellos breites Spektrum von Interessengruppen hat seine Bedenken hierzu geäußert. Dieser Artikel wurde ursprünglich auf edri.org veröffentlicht.

Die vorgeschlagene EU-Verordnung zur Festlegung von Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern" (2022) (CSA-Verordnung oder CSAR: Child Sexual Abuse Regulation) hat die Besorgnis aufkommen lassen, dass sie mit den EU-Grundrechten und der Rechtsprechung unvereinbar ist – wahrscheinlich mehr als jedes andere EU-Gesetz der letzten Zeit.

Zwar sind sich alle Beteiligten über die Bedeutung des Ziels -Kinder zu schützen- einig, doch sind alle formellen rechtlichen und technischen Bewertungen zu dem Schluss gekommen, dass die vorgeschlagenen Maßnahmen zu unverhältnismäßigen Eingriffen in die Privatsphäre, zu personenbezogenen Daten und in die freie Meinungsäußerung im Internet führen könnten und auf technisch nicht durchführbaren oder gefährlichen Maßnahmen beruhen.

Im folgenden Artikel bieten wir eine kleine Übersicht, wie ein breites Spektrum von Interessengruppen, darunter Kinderschutzexperten, Überlebende von CSA (Child sexual abuse), die Polizei, nationale Regierungen, UN-Beamte, Unternehmen, NRO (Nicht Regierungs Organisationen) und andere, davor gewarnt haben, dass die vorgeschlagenen Maßnahmen in die falsche Richtung gehen und mehr Schaden als Nutzen anrichten könnten.

„[Die CSA-Verordnung] könnte die Grundlage für ein de facto allgemeines und unterschiedsloses Scannen des Inhalts praktisch aller Arten elektronischer Kommunikation aller Nutzer in der EU/im EWR werden"
– Europäischer Datenschutzausschuss (EDSB) und Europäischer Datenschutzbeauftragter (EDSB)

EU-Institutionen und Rechtsprechung

Der Gerichtshof der EU setzt auf Grundlage der Charta der Grundrechte einen strengen Schutz der Privatsphäre, des Datenschutzes, der freien Meinungsäußerung, der Nichtdiskriminierung und anderer Grundrechte sowohl online als auch offline durch, und zwar für Kinder und Erwachsene gleichermaßen. Die ernsthafte und weitreichende Bedrohung der Grundrechte durch den Entwurf der CSAR (Child sexual abuse regulation) spiegelt sich in allen formellen rechtlichen Analysen der EU-Institutionen zu diesem Vorschlag wider.

• In der Folgenabschätzung der Europäischen Kommission (SWD(2022)209) zur CSA-Verordnung wird eingeräumt, dass es keine Scanning-Methoden gibt, die ein gutes Maß an Datenschutz, Sicherheit und Durchführbarkeit bieten.
• Der Ausschuss für Regulierungskontrolle (RSB - regulatory scrutiny board) der Europäischen Kommission warnte bereits vor der offiziellen Vorlage des Gesetzes, dass es auf eine unzulässige allgemeine Überwachung hinauslaufen könnte.
• Das offizielle Gutachten des Juristischen Dienstes des Rats der EU warnte - in einer selten gesehenen umfassenden Kritik an einem Legislativvorschlag - vor einem „ernsten Risiko“ einer allgemeinen Überwachung, die die Verschlüsselung untergräbt und den Kern des Rechts auf Privatsphäre verletzt. Die Beschreibung ist hier verfügbar und hier das vollständige Dokument.
• Der Europäische Datenschutzbeauftragte (EDSB) und der Europäische Datenschutzausschuss (EDSA) haben davor gewarnt, dass der Vorschlag unschuldigen Menschen schweren Schaden zufügen wird, ohne dass es einen Beweis dafür gibt, dass er Kinder schützen wird.
• Die unabhängige Folgenabschätzung, die im Auftrag des Ausschusses für bürgerliche Freiheiten des Europäischen Parlaments (LIBE – civil liberties) durchgeführt wurde, bewertete das Gleichgewicht zwischen dem Schutz der Privatsphäre der Nutzer im Allgemeinen und den Rechten der Kinder. Sie kam zu dem Ergebnis, dass es der CSA-Verordnung an Beweisen für seine Wirksamkeit mangelt und dass er nicht rechtfertigen kann, in welch gravierendem Ausmaß er gegen Artikel 7 und 8 (Rechte auf Privatsphäre und personenbezogene Daten) der EU-Grundrechtecharta verstößt.
• Darüber hinaus hat die Europäische Kommission zugegeben, dass der Vorschlag auf Behauptungen über die technische Genauigkeit direkt von den Lieferanten beruht, die nie von unabhängiger Seite überprüft wurden.

Junge Menschen

• Die internationalen Kinderrechtsgesetze verlangen, dass die Ansichten der Kinder in Gesetze, die ihre Rechte und ihre Sicherheit betreffen, einbezogen werden, um ihre Autonomie zu respektieren.
• Laut einer großen repräsentativen Umfrage geben 80 % der Kinder in der EU an, dass sie sich nicht wohl und sicher fühlen würden, wenn sie sich politisch engagieren oder ihre Sexualität erforschen könnten, wenn die Behörden ihre digitale Kommunikation auf der Grundlage der Suche nach Material über Kindesmissbrauch überwachen könnten.
• Aus derselben Umfrage geht hervor, dass etwa zwei Drittel der jungen Menschen in der EU verschlüsselte Nachrichtendienste für ihre Kommunikation nutzen, und etwa ebenso viele sind nicht oder überhaupt nicht damit einverstanden, dass Anbieter ihre privaten Chats durchsuchen dürfen. Stattdessen befürworten die befragten Kinder mit überwältigender Mehrheit eine Verbesserung der Medienkompetenz und der Meldemechanismen.
• Junge Aktivist:innen warnen davor, von der CSAR unterdrückt zu werden.

Überlebende von sexuellem Kindesmissbrauch

• Der CSA-Überlebende Alexander Hanff warnt, dass die CSAR Überlebende davon abhalten wird, Unterstützung zu suchen.
• Die Überlebendenvertretung MOGiS e.V. warnt, dass der Vorschlag Überlebenden und anderen jungen Menschen schaden wird.
• Die stellvertretende Vorsitzende von MOGiS e.V. sprach als Vertreterin von CSA-Überlebenden zu führenden EU-Abgeordneten, die an der CSAR arbeiten, um sie darauf aufmerksam zu machen, dass das Gesetz den Überlebenden von CSA mehr schaden als nützen wird und dass der von der Kommission vorgeschlagene Ansatz „grundlegend fehlerhaft“ ist.
• Der Überlebende sexualisierter Gewalt Marcel Schneider verklagt derzeit Facebook wegen des automatischen Scannens privater Nachrichten, wodurch die Vertraulichkeit für Missbrauchsopfer und Strafverteidiger aufgehoben wird.
• Wie der Europaabgeordnete Patrick Breyer betont, haben mehrere Überlebende von sexualisierter Gewalt gegen Kinder ebenfalls Feedback zum CSAR-Vorschlag der Kommission gegeben und kritisiert, dass dieser den Überlebenden schadet. (Auf EN und auf DE)
• Der Weisse Ring, eine deutsche CSA-Opferhilfegruppe, und die portugiesische Vereinigung für Opferhilfe (APAV) warnen gemeinsam, dass der Vorschlag trotz wichtiger Ziele die vertrauliche Kommunikation beeinträchtigen und die Menschen dem Risiko von Erpressung und Betrug aussetzen könnte, dass er zu falschen Positivmeldungen führt und das Risiko einer Massenüberwachung birgt, ohne dass es einen Beweis für die Wirksamkeit gibt.

Experten für Kinderrechte und Kinderschutz

• Die Expertin für Online-Kinderschutz, Dr. Sabine K. Witting, hat davor gewarnt, dass der vorgeschlagene Grooming-Nachweis die Selbstdarstellung zwischen einvernehmlich handelnden Jugendlichen kriminalisieren würde.
• Die deutsche Kinderschutzhotline eco bezeichnet die in der CSA-Verordnung vorgeschlagenen Maßnahmen als „grundsätzlich bedenklich“.
• Die niederländische Kinderschutz-Hotline EOKM (jetzt bekannt als Offlimits) hat wiederholt davor gewarnt, dass die allgemeinen Scanning-Maßnahmen wahrscheinlich schädlich und unwirksam sein werden. Die Gründerin von EOKM, Arda Gerkens, warnt, dass der CSAR-Vorschlag „zu weit geht“.
• Der deutsche Kinderschutzbund hat davor gewarnt, dass die vorgeschlagenen Maßnahmen unverhältnismäßig und wahrscheinlich unwirksam sind.

Polizei und Strafverfolger

• Strafverfolger in Deutschland haben davor gewarnt, dass die CSA-Verordnung ihnen nicht helfen wird, mehr Täter zu finden, da sie nicht die eigentlichen Probleme angeht, mit denen sie konfrontiert sind.
• Auf Kinderschutz spezialisierte Polizeibeamte in Deutschland haben gewarnt, dass die vorgeschlagenen Maßnahmen nicht dazu beitragen werden, mehr Täter zu finden, sondern nur zu mehr Fehlalarmen führen.
• Ein hochrangiger Polizeibeamter in den Niederlanden warnte davor, dass die Polizei nicht in der Lage sein wird, die durch den Vorschlag prognostizierte Menge an Meldungen zu bewältigen.
• Das FBI warnte Mitglieder des Europäischen Parlaments aus dem LIBE-Ausschuss in einer Mission nach Washington im Mai 2023, dass „sie [das FBI] schon jetzt nicht über ausreichende Ressourcen verfügen, um alle von ihnen aufgedeckten CSAM-Fälle zu bearbeiten, und dass sie bei einigen von ihnen Prioritäten setzen müssen. Unter diesem Gesichtspunkt würde das massenhafte Scannen von Kommunikation nicht zu einer Verbesserung der Strafverfolgung führen“.

Technologieexperten

• Zum Zeitpunkt der Erstellung dieses Artikels haben 465 Wissenschaftler:innen und Akademiker:innen aus den Bereichen Cybersicherheit, Datenschutz und verwandten Gebieten davor gewarnt, dass die vorgeschlagenen Maßnahmen gefährlich und unhaltbar sind.
• 47 Nichtregierungsorganisationen im Bereich der digitalen Menschenrechte, die dem EDRi-Netzwerk angehören, haben davor gewarnt, dass der Vorschlag die Online-Privatsphäre und die freie Meinungsäußerung aller Menschen gefährden wird und dass es keine Beweise dafür gibt, dass er seine Ziele erreichen wird. Er muss daher abgelehnt werden.
• Feministische Technologieforscher:innen warnen davor, dass die CSAR ein paternalistischer und entmündigender Ansatz gegen geschlechtsspezifische Gewalt ist.
• Technolog:innen des öffentlichen Interesses in Europa warnten vor den vorgeschlagenen Maßnahmen der CSA-Verordnung.
• Das „Council of European Professional Informatics Societies“ (CEPIS) warnte vor der Bedrohung der Verschlüsselung.
• Forscher:innen der TU Delft warnen davor, dass die technologischen Behauptungen, auf denen die CSAR basiert, irreführend oder falsch sind.
• Professor Matthew Green warnt vor der Gefahr, dass Bilder verändert werden, um Scantechnologien zu manipulieren, sowie vor anderen ernsthaften Bedenken.
• Die Präsidentin der Signal Foundation, Meredith Whittaker, warnte vor der großen Gefahr der Massenüberwachung.
• 14 namhafte Wissenschaftler:innen warnen vor "Wanzen in unseren Taschen" oder den Gefahren des clientseitigen Scannens, einer Methode, die von der Europäischen Kommission vorgeschlagen wurde, um die von der CSAR vorgeschlagenen Durchsuchungsanordnungen auszuführen. Die Wissenschaftler erklären, dass diese Methoden ineffektiv sind und ein hohes Missbrauchspotenzial aufweisen.
• Die Professorin für Cybersicherheit und -politik, Dr. Susan Landau, hat davor gewarnt, dass es „einfach keine Technologie“ gibt, um das zu tun, was die CSAR der EU tun will.
• Edward Snowden warnt, dass die CSA-Verordnung ein „autoritärer“ Schritt ist, der „grundlegende menschliche Freiheiten“ einschränken würde.
• Der Sicherheitsexperte Alec Muffet nennt den Vorschlag einen „Krieg gegen die Ende-zu-Ende-Verschlüsselung“.
• Ross Anderson, Professor für Sicherheitstechnik, weist nicht nur auf die technischen Probleme des CSA-Verordnungsvorschlags hin, sondern auch auf die Tatsache, dass er sich nicht mit den umfassenderen sozialen Problemen befasst, die zu CSA führen, sowie auf andere strategische Bedenken im Zusammenhang mit der Entwicklung und dem Verkauf von Überwachungstechnologien. Professor Anderson hebt außerdem Forschungsergebnisse hervor, die zeigen, dass zentralisierte Takedowns, wie sie in der CSA-Verordnung vorgeschlagen werden, die Zeit, die für die Entfernung von CSA aus dem Internet benötigt wird, um Wochen verlängern können.

Unabhängige rechtliche Analysen

• Eine rechtliche Bewertung des Instituts für Informationsrecht der Universität Amsterdam (IViR) bestätigt die Bedrohung der Verschlüsselung.
• Die Direktorin des CDT, Iverna McGowan, ehemalige Beraterin des UN-Hochkommissariats für Menschenrechte, warnt davor, dass die vorgeschlagenen „Detection Orders“ auf einer fehlerhaften Logik beruhen, die die Verfahrensrechte und die Unschuldsvermutung untergraben würde.
• Die Assistenzprofessoren an der Universität Leiden, Center for Law and Digital Technology (eLaw), Dr. Witting und Dr. Leiser, warnen, dass der Vorschlag wahrscheinlich gegen das EU-Verbot der allgemeinen Überwachung verstößt und dass die Maßnahmen zur Inhaltsmoderation Kinder gefährden könnten.
• Die ehemalige Richterin am EU-Gerichtshof, Professor Dr. Ninon Colneric, veröffentlichte eine Einschätzung, dass eine allgemeine und unterschiedslose Filterung nach CSAM mit der EU-Rechtsprechung unvereinbar wäre.
• Die Rechtswissenschaftlerin am KU Leuven Center for IT & IP law, Charlotte Somers, nennt den Vorschlag „einen Angriff auf die Privatsphäre und den Datenschutz der Europäer“ und weist auf die hohe Wahrscheinlichkeit einer Zurückweisung durch den EuGH hin.

Nationale Regierungen und Parlamente

• ?? Die polnische Regierung hat die CSA-Verordnung wegen der Gefahr der Massenüberwachung kritisiert.
• ?? Das österreichische Parlament hat sich darauf geeinigt, die CSA-Verordnung abzulehnen, wenn sie nicht den Schutz der Verschlüsselung garantieren kann, keine allgemeine Überwachungspflicht enthält und die Menschenrechte respektiert. Alle Parteien im österreichischen Parlament stimmten gegen den CSAR-Vorschlag.
• ?? ?? ?? ?? ?? Die Regierungen von Estland, Finnland, Malta, Italien und den Niederlanden haben ernste Probleme adressiert.
• ?? Die schwedische Regierung hat versucht, die Ende-zu-Ende-Verschlüsselung vollständig vor den vorgeschlagenen Maßnahmen zu schützen und die allgemeine Überwachung zu stoppen.
• ?? In einem Beschluss des französischen Senats wird vor den Risiken vieler Teile des Vorschlags gewarnt, insbesondere vor der Suche nach „unbekanntem“ Material und sog. „grooming“.
• ?? Der Justizausschuss des irischen Parlaments äußerte ernste Bedenken gegen die CSA-Verordnung.
• ?? Der Digitalausschuss des Deutschen Bundestages hat Expert:innen, darunter auch Polizei- und Kinderschutzexpert:innen, eingeladen und einhellig Kritik an der CSA-Verordnung geübt. Dies führte dazu, dass der Ausschuss seine Bedenken äußerte.
• ?? Der juristische Dienst des Deutschen Bundestages sieht in den vorgeschlagenen Maßnahmen eine allgemeine Überwachung und damit einen Verstoß gegen die Charta der Grundrechte. Er warnt außerdem davor, dass die vorgeschlagenen Maßnahmen auch in anderen Bereichen eingeführt werden könnten (d.h. „scope creep“).
• ?? ?? Die Regierungen von Österreich und Deutschland haben sich verpflichtet, die Ende-zu-Ende-Verschlüsselung vollständig vor dieser Verordnung zu schützen.
• ?? Der Menschenrechtsausschuss des tschechischen Parlaments äußerte ernste Menschenrechtsbedenken, insbesondere im Hinblick auf den Schutz der Verschlüsselung.
• ?? Die Abgeordneten des niederländischen Parlaments haben einen Antrag angenommen, in dem sie ihre Regierung auffordern, keine CSA-Verordnung zuzulassen, die – wie im Entwurf vorgesehen – gegen die Ende-zu-Ende-Verschlüsselung und das Recht auf Vertraulichkeit der Kommunikation verstoßen würde.

Das Europäische Parlament

• 14 Abgeordnete des federführenden parlamentarischen Ausschusses für bürgerliche Freiheiten (LIBE), die aus 4 Fraktionen stammen, fordern die Ablehnung des CSAR-Vorschlags.
• Sie werden von vielen Abgeordneten im unterstützenden IMCO-Ausschuss („Internal Markets“ – Binnenmarkt) unterstützt, die den Anwendungsbereich des Vorschlags, die Bedrohung der Verschlüsselung durch die Maßnahmen und die ernsthaften Risiken, die von den Durchsuchungsanordnungen ausgehen, kritisieren. Die Abgeordneten Hanh und Körner der Gruppe Erneuerbare Energien schlagen die vollständige Streichung dieser Teile vor.
• MdEP David Lega (EVP), Co-Vorsitzender der interfraktionellen Arbeitsgruppe „Kinderrechte“ des Europäischen Parlaments, spricht sich gegen den CSAR-Vorschlag aus.
• Die oben erwähnte ergänzende Folgenabschätzung zur CSA-Verordnung im Auftrag des LIBE-Ausschusses bestätigte ebenfalls die mangelnde Verhältnismäßigkeit und Grundrechtskonformität des Vorschlags.

Unternehmen

• Microsoft warnte, dass die von der Europäischen Kommission behauptete 88%ige Genauigkeit bei der Erkennung von Grooming nicht zuverlässig ist (siehe insbesondere Anhang 9, Seiten 285 - 315): https://ec.europa.eu/info/law/better-regulation/have-your-say/initiative...
• Ein Artikel des PhotoDNA-Benutzers Cloudflare zeigt, wie einfach es ist, Falschmeldungen zu generieren, obwohl der PhotoDNA-Entwickler Dr. Hany Farid (auf den sich die Europäische Kommission im CSAR-Entwurf stützt) behauptet, dass dies nur in 1 zu 50 Milliarden der Fall ist: https://blog.cloudflare.com/the-csam-scanning-tool/
• 9 europäische Industrieverbände, die Mitglieder wie Google, Meta, Microsoft und Mozilla vertreten, haben ihre Bedenken geäußert.
• LinkedIn meldet eine Falsch-Positiv-Rate von 59% für seine derzeitige freiwillige Verwendung von PhotoDNA, was in starkem Widerspruch zur Genauigkeit von PhotoDNA steht, die von der Europäischen Kommission und anderen Befürwortern der CSA-Verordnung oft angeführt wird.

Datenschutztechnische Unternehmen

• Das schwedische VPN-Unternehmen Mullvad VPN erklärt die technologischen Probleme mit der CSA-Verordnung.
• Der CEO von ProtonMail erklärt, dass sie über die CSA-Verordnung und die Bedrohung, die sie für die Verschlüsselung und den Datenschutz darstellt, besorgt sind.

Die Vereinten Nationen

• Der UN-Hochkommissar für Menschenrechte warnt vor dem allgemeinen Überwachungsrisiko der CSA-Verordnung.

Berufsgeheimnisträger:innen (Journalisten, Rechtsanwälte usw.)

• Die beiden größten österreichischen Journalistenverbände warnen vor der CSAR und der Gefahr, dass er den verfassungsmäßigen Schutz der journalistischen Freiheit und des Quellenschutzes aushöhlen könnte.
• Der Österreichische Rechtsanwaltskammertag hat festgestellt, dass der Vorschlag die Grundrechte untergräbt und warnt davor.
• Der Überwachungsausschuss des Deutschen Anwaltvereins (DAV) hat eine Stellungnahme veröffentlicht, in der er zwar das Ziel des Verordnungsentwurfs unterstützt, aber die geplante automatisierte Massenanalyse von Kommunikations(inhalts)daten kritisiert.

Zivilgesellschaft

• 134 Nichtregierungsorganisationen aus den Bereichen Menschenrechte, digitale Rechte, Kinderrechte, Frauenrechte und Online-Sicherheit haben die EU aufgefordert, den CSA-Vorschlag abzulehnen.
• Belgische Nichtregierungsorganisationen haben die Frage aufgeworfen, ob die belgische Regierung es versäumt, die Menschenrechte zu schützen, indem sie sich bei den CSAR-Verhandlungen nicht gegen eine allgemeine Überwachung ausspricht.
• 11.000+ Europäer:innen fordern die EU auf, dieses gefährliche und fehlgeleitete Gesetz zu überdenken.