EU will alle Chats überwachen

Die EU-Kommission will am Mittwoch, 11.5.2022 ihre Verordnung zur Bekämpfung von Kindesmissbrauchsdarstellungen im Netz präsentieren. Darin ist die Verpflichtung der Anbieter von Kommunikationsdiensten enthalten, sämtliche Inhalte auf verdächtiges Material hin zu durchsuchen. Diese Verordnung soll insbesondere für Chatanbieter und Messengerdienste wie WhatsApp, Signal, Telegram & Co gelten.

Die „Digitale Gesellschaft„, die sich für Grundrechte und Verbraucherschutz im digitalen Raum einsetzt., plant nun eine Protestaktion und schlägt in einer Presseaussendung Alarm! Aber auch der CCC – Chaos Computer Club warnt vor dem Einsatz von Client Side Scanning und bezeichnet diesen als „überzogene und fehlgeleitete Überwachungsmethode“. 

Protest gegen die Pläne der EU-Kommission zur Chatkontrolle

–Pressemeldung: Digitale Gesellschaft–

Am kommenden Mittwoch, den 11. Mai, wird die EU-Kommission ihren Entwurf für eine Verordnung zur Bekämpfung von Kindesmissbrauchsdarstellungen im Internet vorstellen. Die Kampagne „Chatkontrolle verhindern“ wird die Veröffentlichung des Entwurfs mit einer kleinen Protestaktion um 14 Uhr vor der Vertretung der EU-Kommission in Berlin begleiten.

Die zuständige EU-Kommissarin Ylva Johansson hat angekündigt, dass Kern der geplanten Verordnung eine Verpflichtung der Anbieter von Kommunikations-, insbesondere Messengerdiensten, zum Durchsuchen, Filtern und ggf. Melden sämtlicher Kommunikationsinhalte auf verdächtiges Material sein soll. Für diese Pläne hat sich in Deutschland der Begriff „Chatkontrolle“ etabliert.

Die Pläne der Kommission würden den flächendeckenden Einsatz umfassender Überwachungs- und Kontrolltechnologien voraussetzen – in einem Maße, wie es in Europa bislang kaum zu denken war.

Insbesondere soll verschlüsselte Kommunikation nicht ausgenommen werden. Da aber bei Ende-zu-Ende-Verschlüsselung die Anbieter während der Kommunikation selbst keinen Zugriff auf die Inhalte haben, ließen sich derartige Pläne nur durch ein faktisches Verbot effektiver Verschlüsselung oder durch den Einsatz neuer Technologien, wie das ‚Client-Side-Scanning‘ (CSS), durchsetzen, die die Überwachung direkt auf den Endgeräten der Nutzenden durchführen. Diese Technologie ist nicht nur fehler- sondern auch sehr missbrauchsanfällig und schafft neue Sicherheitslücken direkt auf den Geräten der Nutzenden. Führende Kryptograf*innen haben bereits eindringlich vor dem Einsatz dieser Technik gewarnt.

Der Fokus der Kommission auf die vermeintliche technische Lösung des komplexen sozialen Problems des Kindesmissbrauchs und der Verbreitung solcher Darstellungen ist im Ansatz verfehlt. Die Verantwortung auf die Kommunikationsdiensteanbieter abzuwälzen, sämtliche Nutzerinnen und Nutzer unter Generalverdacht zu stellen und das Fernmeldegeheimnis auszuhebeln, kann in einem Rechtsstaat nicht die Alternative zu verantwortungsbewusster und zielgerichteter Polizeiarbeit sein.

Wir (die Digitale Gesellschaft) werden uns daher am Mittwoch, dem 11. Mai um 14 Uhr mit einer kleinen Protestaktion vor der Vertretung der EU-Kommission, Unter den Linden 78 in Berlin-Mitte gegen die Pläne wenden und das weitere EU-Gesetzgebungsverfahren kritisch begleiten.

EU-Kommission will alle Chatnachrichten durchleuchten

-Pressemeldung: Chaos Computer Club-

Am Mittwoch, dem 11. Mai 2022 veröffentlicht die EU-Kommission voraussichtlich den Gesetzesentwurf zur sogenannten Chatkontrolle. Geplant ist eine KI-basierte Prüfung aller Nachrichteninhalte und Bilder direkt auf unseren Geräten. Das so genannte Client-Side-Scanning wäre ein Angriff auf jegliche vertrauliche Kommunikation.

Der Entwurf sieht vor, alle Kommunikationsinhalte direkt auf unseren Geräten zu untersuchen und im Verdachtsfalle auszuleiten. Dieses Client-Side-Scanning wäre nicht die erste überzogene und fehlgeleitete Überwachungsmethode, die mit dem Kampf gegen Kindesmissbrauch begründet wird.

Zweifellos muss den Betroffenen von Kindesmissbrauch besser geholfen werden, die Chatkontrolle ist allerdings ein überbordender Ansatz, leicht zu umgehen und setzt an der völlig falschen Stelle an. Ohne erwartbaren Erfolg im Sinne des eigentlichen Ziels soll ein nie dagewesenes Überwachungswerkzeug eingeführt werden.

Völlig am Ziel vorbeigeschossen

Der geplante Gesetzesentwurf sieht vor, dass jedes Gerät jede Nachricht auf Abbildungen von Kindesmissbrauch und Kontaktaufnahmen von Kriminellen mit Kindern untersucht. Wenn solche Inhalte in einer Nachricht erkannt werden, sollen sie direkt an eine Kontrollinstanz oder die Polizei ausgeleitet werden.

Das massenhafte Scannen greift nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern wäre obendrein unwirksam: Kriminelle nutzen bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären und werden auch in Zukunft den Scans leicht entgehen:

Die Täter*innen nutzen statt den von der Kommission ins Visier genommenen Messengern öffentliche Hoster – nicht zuletzt, weil Messenger zum Tauschen großer Dateisammlungen völlig ungeeignet sind. Vor dem Tausch verschlüsseln sie die Daten zudem zusätzlich.

Allein schon deshalb wird die geplante Überwachung die Weiterverbreitung von Missbrauchsabbildungen nicht verhindern.

Keine vertrauenswürdige Kommunikation ohne vertrauenswürdige Geräte

Nicht nur Journalist*innen und Whistleblower*innen sind auf vertrauenswürdige Kommunikation angewiesen – sie ist ein Grundrecht und wichtiger Eckpfeiler unser aller IT-Sicherheit. Damit Kommunikation tatsächlich vertrauenswürdig ist, müssen zwei Bedingungen erfüllt sein:

• Das eigene Gerät muss integer sein und darf Inhalte nicht an Dritte ausleiten
• Die Verschlüsselung muss sicher sein, sodass wir dem Netz nicht vertrauen müssen

Mit dem Fernmeldegeheimnis und dem Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme setzt die Chatkontrolle gleich zwei fundamentale Grundrechte außer Kraft. Nutzer*innen verlieren die Kontrolle darüber, welche Daten sie wie mit wem teilen. Sie verlieren das Grundvertrauen in ihre eigenen Geräte.

Bisher ist nicht klar, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren soll. Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen. Umso erschreckender ist, mit welcher Arglosigkeit es nun eingeführt werden soll.

Fehlerquoten führen zu Bilderflut bei Kontrollstellen

Eine „künstliche Intelligenz“, die auf Missbrauchsinhalte untersucht, wird auch Inhalte fälschlicherweise als illegal markieren. Auch kleinste Fehlerquoten würden zu massiven Mengen an fälschlicherweise „erkannter“ und ausgeleiteter Nachrichten führen: Allein in Deutschland werden weit mehr als eine halbe Milliarde Nachrichten pro Tag versendet. Auch enorm „gute“ Erkennungsraten würden zur Ausleitung mehrerer Tausend Nachrichten pro Tag führen.

Die Wahrscheinlichkeit der Ausleitung steigt natürlich bei privatem, völlig legalem und konsensuellen Bildertausch unter Erwachsenen und Jugendlichen. Junge Erwachsene dürfen sich schon jetzt auf die Schätzung ihres Alters durch die Kontrollstellen freuen. Die dumpfe Sorge darüber, ob unsere Nachrichten ausgeleitet werden, wer sie betrachtet und wie sicher sie dort wiederum vor Missbrauch sind, wird uns alle betreffen.

Gleichzeitig werden sich bei den Kontrollstellen Berge an irrelevantem Material häufen und die Beamt*innen von wichtiger Ermittlungsarbeit abhalten. Bereits mit den heute anfallenden Daten sind Ermittlungsbehörden überlastet. Ermittlungserfolge bleiben aus, und gefundene Materialien werden noch nicht einmal gelöscht. Diese Defizite wirkungsvoll zu beseitigen, wäre das wichtigste Ziel im Kampf gegen Kindesmissbrauch. Stattdessen will die Kommission auf Massenüberwachung und die Heilsversprechen „künstlicher Intelligenz“ setzen.

Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.

Quellen: Digitale Gesellschaft, Chaos Computer Club

Lesen Sie auch:
Hass, Hetze, Fake News: EU beschließt Regeln für digitale Dienste