Sollten wir E-Mails scannen, um Kindesmisshandlung zu stoppen?

https://blog.wdr.de/digitalistan/sollten-wir-e-mails-scannen-um-kindesmisshandlung-zu-stoppen/

Sollten wir E-Mails scannen, um Kindesmisshandlung zu stoppen?

Kommentare zum Artikel: 10

Gewalt an Kindern gehört zu den schlimmsten Verbrechen, finde ich. Misshandlungen jeder Art zu decken und billigen ebenso. Trotzdem geschieht es ununterbrochen. Das Internet ist zum größten Umschlagplatz für Fotos, Videos und Audios geworden, in denen Kinder gepeinigte Opfer sind.

Solche Medien kursieren längst nicht mehr nur im Darknet, sondern werden sogar per E-Mail verteilt – weil sich die Täter sicher fühlen. Und deshalb werden es immer mehr.

Kinder brauchen unbedingt meh Schutz; Rechte: WDR/Schieb

Kinder brauchen unbedingt meh Schutz

Polizei braucht Hinweise und Beweise

Polizei und Strafverfolgungsbehörden haben immer wieder Mühe, den Tätern auf die Spur zu kommen – und ihnen ihre widerlichen Taten nachzuweisen. Oder überhaupt Hinweise zu erhalten, die belastend genug sind, um Ermittlungen aufzunehmen.

Deshalb hat der EU-Parlament gestern (06.07.2021) eine neue Verordnung auf den Weg gebracht. Sie soll es Anbietern zunächst für drei Jahre ermöglichen, private Nachrichten aktiv nach Material von Kindesmisshandlung zu scannen.

Konkret: Konzerne wie Google, Microsoft oder Facebook scannen verdachtlos so viele E-Mails und Messenger-Nachrichten (sofern nicht verschlüsselt) wie möglich mit Hilfe von KI-Algorithmen nach auffälligen Fotos, Videos und Audios.

Microsoft verfügt über viel Erfahrung und Algorithmen, um pornografische Inhalte zu filtern; Rechte: WDR/Schieb

Microsoft verfügt über viel Erfahrung, um pornografische Inhalte zu filtern

Onlineriesen scannen Nachrichten

Das machen die Unternehmen schon lange. Vor allem Microsoft hat ausgefeilte Algorithmen entwickelt, um strafrechtlich relevante Medieninhalte zu entdecken. Verdachtsfälle werden an das “National Center for Missing & Exploited Children” (NCMEC) gemeldet. Eine gemeinnützige US-Organisation, die jede Meldung gewissenhaft prüft – und berechtigte Verdachtsfälle der zuständigen Polizei meldet.

Allein Google meldet 2.000 Fälle pro Tag(!) an die Organisation – das macht das Ausmaß des Problems deutlich.

Jetzt hat das EU-Parlament also grünes Licht gegeben, damit solche Scans auch in der EU eine Rechtsgrundlage haben – und rechtskonform durchgeführt werden können. Das war bislang nämlich nicht der Fall.

Begründete Bedenken im EU-Parlament

Doch der EU-Abgeordnete Patrick Breyer von der Piratenpartei ist strikt gegen die Verordnung. Er meint: “Die Verordnung versetzt dem digitalen Briefgeheimnis den Todesstoß. Sie ist allgemein ein Dammbruch in Richtung verdachtloser Überwachung privater Räume durch Konzerne.” Breyer hat versucht, die Verordnung im EU-Parlament zu stoppen.

Lieber Patrick Breyer: Ich verstehe die reflexartigen Bedenken, habe aber kein Verständnis für die Schlussfolgerung. Wir müssen immer abwägen, was wir tun. Wie hoch ist der Nutzen, wie schwer wiegen die Schäden. Wie bei einem Medikament: Keine Wirkung ohne Nebenwirkung. Ärzte müssen stets abwägen, was überwiegt.

So sehe ich das hier auch. Ich sehe die Nebenwirkungen, doch die scheinen mir erst mal unbedeutend im Vergleich zur (hoffentlich eintretenden) Wirkung. Die Freigabe ist zeitlich befristet. Danach kann Bilanz gezogen werden: Was haben die Maßnahmen gebracht, gab es Missbrauch der Technologie oder Probleme?

Die Schwächsten der Gesellschaft zu schützen sollte keine Kür sein, sondern Pflicht.

Wie Microsoft Algorithmen Kinderpornografie im Netz entdecken

Über den Autor

Jörg Schieb ist Internetexperte und Netzkenner der ARD. Im WDR arbeitet er trimedial: für WDR Fernsehen, WDR Hörfunk und WDR.de. In seiner Sendung "Angeklickt" in der Aktuellen Stunde berichtet er seit 20 Jahren jede Woche über Netzthemen – immer mit Leidenschaft und leicht verständlich.

10 Kommentare

  1. Und wieder einmal werden Kinder missbraucht um Überwachung auszuweiten. Ich empfehle das Buch “Überwachtes Deutschland” von Josef Foschepoth, welches ich über BPB bekam. Dann sieht man direkt klarer, warum Kinder hier nur wieder eine Ausrede sind.

    Ferner kehrt die anlasslose Überwachung die Unschuldsvermutung um, denn konsequent heißt das Scannen privater Mails, dass man solange schuldig ist, bis die Unschuld bewiesen ist.

    Grundrecht sind nie schrankenlos und rechtfertigen deshalb nicht andere Grundrechte erheblich einzuschränken. Zumal das Scannen sicherlich auch zu anderen Zwecken missbraucht wird.

    Mal wieder nur ein Ablenkungsmanöver, um davon abzulenken, dass es einfach zu wenig Personal bei der Polizei gibt.

  2. Der Unsinn wird deutlich würde man vorschlagen, jeden Brief im Postamt zu öffnen und zu lesen; worauf Martin auch schon hingewiesen hat. Wir müssen raus aus dem allgemeinen Hysterie-Modus mit Tunnelblick bei vielen Themen und wieder rein in ein Zeitalter der Aufklärung, in dem Grundrechtseinschränkungen wieder sorgsam abgewogen werden:
    Der 4 Zusatzartikel zur US-Verfassung aus dem Jahre 1791 handelt vom
    „Schutz von Person, Wohnung, Papieren und Eigentum vor willkürlicher Durchsuchung, Festnahme und Beschlagnahmung; Vorgaben zur Durchsuchung und Beschlagnahmung sowie Festnahme“
    Das ändert nichts wenn die Papiere digital gelagert oder versendet werden!
    „Medieninhalte“ sind eine völlig andere Sache.
    Nagelt man seine 95 Thesen an die Kirchentür wäre es auch im Zeitalter der Aufklärung unproblematisch wenn das die Stadtwache mal durchliest; gleiches gilt für Thesen oder Bilder bei Facebook oder der eigenen öffentlichen Homepage. Aber der private Bereich darf erst verletzt werden nach richterlichen Beschluss im Einzelfall. Das Netz ist kein rechtsfreier Raum, aber das gilt in beide Richtungen.
    „Die Schwächsten der Gesellschaft zu schützen …“ oder
    Die Kapitalisten vor den Kommunisten oder die Kommunisten vor den Kapitalisten oder Gläubigen vor den Ungläubigen oder die Menschheit vor dem Teufel zu schützen wie das die Inquisition mit Eifer versucht hat,
    das ist alles keine Freibrief.
    In diesem Punkt bin ich völlig auf Seiten der Piratenpartei.

  3. “Allein Google meldet 2.000 Fälle pro Tag(!) an die Organisation – das macht das Ausmaß des Problems deutlich.”

    Das sagt nur aus das Google 2000 Fälle meldet. Wieviele davon hat jetzt die NCMEC als verfolgenswert eingestuft und der Polizei gemeldet ? Wieviele davon haben sich letztlich als berechtigt erwiesen ? Wieviele davon wären ohne Meldung nicht ermittelt worden ? Wieviele Unschuldige gerieten in Verdacht, haben Ihren Ruf, Job sozusagen Ihr Leben verloren, denn wenn der Ruf einmal ruiniert … ?

    Die Daten müssten ja vorliegen, es wird, so der Artikel, ja schon lange gemacht. Ein entsprechender Bericht müsste sich bei solch einem solch schwerwiegenden Eingriff in die Privatsphäre direkt und einfach z.B. auf der Webseite der NCMEC finden lassen.

    Wo sind jetzt diese Daten ?

  4. Carsten Mohr am

    Sicher ist das Thema vielschichtiger als ein einzelner für sich erfassen kann. Position kann man nur zu einzelnen Aspekten beziehen, ohne in Verdacht zu geraten, das Ganze aus dem Auge verloren zu haben oder etwa gar gut zu heißen.
    Ich denke, das der Scan der E-Mails ok wäre, wenn es auf solche DInge beschränkt bleibt. Bleibt es aber irgendwann nicht. Wie schon gesagt wurde, weckt sowas Begehrlichkeiten.
    Kindesmißbrauch hat doch stark was mit unserer Gesellschaft zu tun. Nicht, das wir nicht unseren Kindern zuhören, aber in bestimmten “Schichten”, so will ich es mal nennen, sind Kinder derart verängstigt und um ihr Selbstvertrauen beraubt, dass derartiges ungehört geschehen kann und man mit ihnen diese Taten anstellt ohne erwischt zu werden. Hier ansetzen, und die Jugendämter, die allesamt in den bislang bekannt gewordenen Fällen schon vorher “Wind” von der Sache bekamen, mal richtig in die Verantwortung nehmen. Jeden einzelnen von den sogenannten Jugendarbeitern, die ja nur das Kindeswohl im Sinn haben.
    Ich spreche hier auch von einem Teilaspekt. Aber der gehört ausgebaut, dann “sehen” wir die Täter früh und bekommen die Gelegenheit zum Schutz der Kinder.
    Ich weiß nicht, passiert sowas im Irak oder in Indien oder in Venezuela auch? Frage ich wirklich…keine Ahnung. Oder ist das ein westliches Gesellschaftsproblem? Welchen “Wert” haben Kinder für uns, welche Werte verbinden wir mit ihnen. Sollten wir nicht den Schwachen vor dem Starken schützen? Wobei, stark sind diese Täter nur, weil sie unerkannt sind und durch schrittweises Ausweiten ihrer Taten sich in Sicherheit wiegen können. Mit Stärke hat das rein garnichts zu tun, Kinder, oder überhaupt den Mitmenschen, zu quälen.

  5. Man hätte auch einfach bei der Schwelle ansetzen können bei der die Polizei eine Überwachung der Kommunikationsdaten einer Person einleiten kann. Statt dessen legt man mal wieder hoheitliche Aufgaben weitestgehend unkontrolliert in die Hände von privatwirtschaftlichen Unternehmen.
    Es wird eintreten was schon angeführt wurde, die Kriminellen werden verschlüsseln, überwacht und gefunden werden dann Nacktbilder von mir aus den 60ern wie ich am/im Planschbecken spiele, die ich mal gescannt habe und meiner Schwester per Mail schicke.
    Auch wenn es um edle Motive geht sollte man etwas mehr darüber nachdenken ob die Ziele mit den beschlossenen Massnahmen überhaupt erreicht werden können. Das hat man hier versäumt, auch in der journalistischen Aufbereitung.

  6. Gedankenexperiment: EU beschliesst, das die Post jeden einzelnen Brief öffnet und liest, um Abbildungen von Kindesmisshandlungen oder andere Straftaten zu entdecken und den Ermittlungsbehörden zu melden. Das empfinden wir zurecht als völlig abwegig und nicht verhältnismäßig. Aber bei Onlinekommunikation akzeptieren wir das?

    Patrick Beyer hat recht, das dies zu weit geht und nicht verhältnismäßig ist. Und es bekämpft die Ursachen nicht. Statt solcher flächendeckender, verdachtsloser Überwachung sämtlicher Bürger, sollte man viel mehr Energie in Erforschung und Bekämpfung der Ursachen solcher abscheulicher Taten stecken, damit die erst gar nicht passieren.

    Hier wird ein guter Zweck dazu missbraucht, um ein schlechtes Mittel (anlasslose Massenüberwachung) zu etablieren.

    • So sehr wir es uns wünschen – aber Kriminalität lässt sich nicht nur mit Studien über die Ursachen bekämpfen. Das ist zweifellos auch eine Methode, aber auch nicht die einzige.

  7. Katz-und-Maus-Spiel. Na, was wird dann passieren? Die Großzahl der Verbrecher/innen werden ihre Mails stark verschlüsseln und bleiben dadurch unentdeckt. Dann wird (mal wieder) lauthals gefordert, dass Verschlüsselung eine Backdoor haben muss (siehe Innenministerforderungen u.ä.) und wohl gute Chancen hat, dass dies auch bald eintrifft. Interessant aber, ob verschlüsselt oder nicht, ist der sog. “Beifang” in den Scan-Ergebnissen: einen Pädokriminellen haben wir zwar nicht gefunden, aber dafür hat er/sie sich äußerst regierungskritisch geäußert. Melden wir sicherheitshalber mal trotzdem den Behörden. P. Breyer liegt also nicht falsch (Todesstoß Briefgeheimnis) oder “Die Freiheit stirbt zentimeterweise.”, so 2008 KH Flach bzw. G. Westerwelle.
    Das war und ist vielmehr ein Riesenproblem einer gelangweilt-kranken, unbefriedigten Gesellschaft und zieht sich durch alle Gesellschaftsschichten (arm, reich, Politik, Wirtschaft, Kirche, Medien). Die Bestrafung aber, ist leider! immer noch abhängig vom Gesellschaftsstatus (vgl. Woelki, Ratzinger-Domspatzen, Edathy-Oppermann, Metzelder, “Aufarbeitung”? durch B90/Grüne etc.) bis hin zur Bagatellisierung (Kavaliersdelikt)/Vertuschung und sogar aktiven, politischen Akteuren, die für einen “freien/einvernehmlichen” Geschlechtsakt mit Kindern votieren.
    Selbst eine Maximalüberwachung heilt diese charakterlosen Wesen gewiss nicht; die werden immer wieder andere Wege finden sich zu befriedigen, auf dem primitivsten Wege, nämlich sich an den Schwächsten zu vergreifen. Strafmaß drastisch! (nicht nur ein Jahr, sondern minimum 5 Jahre ohne Bewährung) erhöhen und zwar unabhängig davon, w e r Täter/in ist oder “nur” Bilder anbietet oder “nur” Konsument/in ist.
    Kindesmissbrauch ist grundsätzlich und in allen Facetten verachtenswert und unmenschlich! Parteien (wie Linke, Grüne, FDP im März 2021), die trotz jüngster Kindesmissbrauchsvorfälle, immer noch eine strafrechtliche Unterscheidung zwischen “schwer” und “minderschwer” fordern, verspielen ihre politische Existenzberechtigung.

    • Dass weite Teile des EU-Parlaments derartige Vorgehensweisen stützen, zeigt, wie weit es schon ist mit der Umwandlung einer freien Gesellschaft in einen Sicherheitsstaat. Letztlich ist das ganze nicht anders als wenn analoge Briefe durch die Post geöffnet würden, um zu schauen, in vielleicht etwas Verbotenes drin ist. Erschreckend ist das!

      Und das ist kein reiner Hash-Vergleich mit bekannten Bildern. Nein, in den USA bei Facebook ist es ja so, dass eine KI möglicherweise verbotene Bilder im Chat heraussucht und dann wird manuell unter Betrachtung der gesamten Kommunikation geschaut, ob es sich um ein harmloses Familienfoto handelt oder nicht. Das ist etwa so, wie wenn die Telekom jedes Telefongespräch überwachen würde durch eine KI und wenn diese anschlägt, das Gespräch manuell auf möglicherweise verbotene Inhalte untersucht wird.

      Ich finde es sehr sehr erschreckend, dass derartige Methoden einer totalen Überwachung nun in Europa hoffähig sind. Man braucht eben nur ein paar Emotionen zu wecken – und schon wird alles mitgetragen.

  8. Klares Ja zum Scannen von e-mails! Zum Schutz unserer Kinder!
    Was haben wir zu verbergen?
    Es gibt sowieso jemanden, lieber Herr Patrick Breyer, der alles über uns weiß…

Fehler beim Kommentieren

Ihr Kommentar konnte aus folgenden Gründen nicht abgeschickt werden:

  • Es gab einen kritischen Fehler auf deiner Website.

    Erfahre mehr über die Problembehandlung in WordPress.

  • Top