Facebook ist kein „normales Unternehmen“ – und muss reguliert werden

https://blog.wdr.de/digitalistan/facebook-ist-kein-normales-unternehmen-und-muss-reguliert-werden/

Facebook ist kein „normales Unternehmen“ – und muss reguliert werden

Kommentare zum Artikel: 13

Mein Besuch im Facebook-Löschzentrum hängt mir nach. Vergangene Woche hatte ich in Berlin die Möglichkeit, mit drei Arvato-Mitarbeitern zu sprechen, die im Auftrag von Facebook den Sondermüll aus dem sozialen Netzwerk entfernen. Eine Mitarbeiterin sagte in diesem Gespräch diesen einen Satz: „Was wir hier sehen, muss jemand anderes nicht sehen.“

Was aber, wenn die Löschentscheidung falsch ausfällt? Wenn „jemand anderes“ etwas „nicht sehen“ muss, was für Meinungsbildung und Diskurs wichtig wäre? Noch entscheidet Facebook über diese Frage von großem öffentlichen Interesse ganz privat nach seinem eigenen digitalen Hausrecht: den Gemeinschaftsstandards – einem recht abstrakten Text, hinter dem ein komplexes und umstrittenes Regelwerk steckt.

Es gibt sie, die Löschentscheidungen, die falsch ausgefallen sind. Das bekannteste Beispiel ist das weltberühmte Foto aus dem Vietnamkrieg, das die neunjährige und nackte Phan Thị Kim Phúc auf der Flucht vor einem Napalm-Angriff zeigt – und das Facebook erst nach lautem Protest wieder zuließ. Genauso passierte es bei einem Aufklärungsvideo zum Thema Brustkrebs. Oder bei Bildern mancher Sehenswürdigkeiten.

Facebook-Löschzentrum

Blick über die Schulter eines Mitarbeiters im Facebook-Löschzentrum in Berlin: Wie hoch ist die Fehlerquote bei Löschentscheidungen?

Beim Besuch im Facebook-Löschzentrum erzählten Vertreter von Arvato und Facebook, dass Löschentscheidungen gespeichert würden, um im Anschluss zu kontrollieren, ob es Fehlentscheidungen gegeben habe – und diese mit den Mitarbeitern besprechen zu können. „Wenn Sie das so genau speichern, können Sie uns doch bestimmt die durchschnittliche Fehlerquote nennen“, fragte ich – und erntete eine der Antworten, die man von Facebook noch immer viel zu oft hört: „Zu genauen Zahlen äußern wir uns nicht.“

Wäre Facebook noch ein normales Unternehmen, wäre es natürlich sein gutes Recht, diese Zahlen für sich zu behalten. Aber es ist kein normales Unternehmen mehr. Es ist in den vergangenen Jahren zum elementaren Bestandteil unserer Kommunikations- und Informationsgesellschaft herangewachsen – mit mehr als 30 Millionen Nutzern in Deutschland. Facebook ist nicht mehr irgendein beliebiger Marktteilnehmer.

Damit wird es Zeit, über spezielle Schutzregeln für uns Nutzer zu sprechen – kurz: über eine Regulierung. Das Netzwerkdurchsetzungsgesetz ist nicht die perfekte Lösung dafür. Der Sonderberichterstatter für Meinungsfreiheit bei den Vereinten Nationen sieht es als Verstoß gegen die Menschenrechte. Im Bundestag angehörte Experten nennen es verfassungswidrig. Der Wissenschaftliche Dienst hält es für nicht vereinbar mit dem Grundgesetz, für den Fachbereich Europa verstößt es gegen Europarecht.

Heiko Maas

Mit seinem Netzwerkdurchsetzungsgesetz betraut Bundesjustizminister Heiko Maas Unternehmen wie Facebook mit der Aufgabe, zu entscheiden, ob strafbare Inhalte vorliegen – eigentlich ist das die Aufgabe der Justiz.

So heftig die Kritik am Gesetz von Bundesjustizminister Heiko Maas aber auch ausfällt, so verbreitet ist die Forderung, soziale Netzwerke zu regulieren. Eine breite Mehrheit der Deutschen ist zum Beispiel für neue Gesetze, um gegen Desinformation in sozialen Netzwerken vorzugehen.

Auch über Hasskommentare und Desinformation hinaus kämen eine ganze Reihe an Punkten für eine Regulierung in Frage. Es wird Zeit für eine breite Debatte darüber – und das hier wäre mein Diskussionsbeitrag:

Vorschlag 1: Wir brauchen Ansprechpartner bei Facebook, YouTube oder Twitter. Der unumstrittenste Punkt im Heiko-Maas-Gesetz: die Pflicht, sich nicht mehr zu verstecken und Beschwerdestellen einzurichten, an die sich Nutzer und Behörden wenden können – und zwar eine, die auch zuverlässig innerhalb einer bestimmten Frist antwortet. Denn es ist ein Witz, dass Unternehmen, die Offenheit propagieren, unerreichbar sind.

Was tun gegen Hass im Netz? Auch der Staat muss aufrüsten. Für die WDR Servicezeit habe ich 2016 das Landeskriminalamt in Düsseldorf besucht. Dort sorgen Beamte dafür, dass Verfasser von Hasskommentaren vor Gericht kommen – und sie sind damit durchaus erfolgreich.

 
Vorschlag 2: Wir brauchen Löschverlangen durch die Justiz. Es darf nicht die Entscheidung der sozialen Netzwerke selbst sein. Stattdessen braucht die Justiz Strukturen, Mittel und Personal, innerhalb kurzer Zeit über die Rechtmäßigkeit von Inhalten im Netz zu entscheiden – und sich mit Löschverlangen an die sozialen Netzwerke wenden zu können. Ebenso wichtig wäre es, die Strafverfolgung zu stärken, da strafbare Inhalte schon innerhalb von 24 Stunden einen großen Schaden anrichten können. Einfaches Löschen reicht nicht; es stärkt das Unrechtsbewusstsein nicht.

Vorschlag 3: Wir brauchen eine Kontrolle von Löschentscheidungen. Mitarbeiter wie die im Berliner Facebook-Löschzentrum entscheiden für Millionen Nutzer, was erlaubt ist und was nicht. Nach welchen Kriterien passiert das? Soziale Netzwerke müssen ihre Regelwerke transparent machen; ein abstrakter Text wie die offiziellen Facebook-Gemeinschaftsstandards reicht nicht. Gleichzeitig benötigen wir eine Clearingstelle, die sich mit fehlerhaften Löschentscheidungen beschäftigt.

Vorschlag 4: Wir brauchen eine Aufsicht über Algorithmen. Bloß keine komplette Offenlegung, wie sie zum Beispiel Österreichs Bundeskanzler Christian Kern fordert. Wenn bekannt ist, wie zum Beispiel der Facebook-Algorithmus bis ins Detail funktioniert, wird er erst recht manipulierbar. Trotzdem beeinflusst allein Facebook mit seinem Algorithmus die Weltsicht von zwei Milliarden Menschen. Sinnvoll wäre also ein hoheitlicher Einblick, um die Funktionsweise prüfen und hinterfragen zu können – Heiko Maas schlägt dafür die Gründung einer „Digital-Agentur“ vor, um mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen.

Christian Kern

Österreichs Bundeskanzler Christian Kern fordert, Algorithmen komplett offenzulegen – so würden sie allerdings erst recht manipulierbar.

Vorschlag 5: Wir brauchen Schnittstellen für Wissenschaftler. Um Algorithmen unabhängig überprüfen zu können, wäre es nicht einmal zwingend nötig, ihren Quellcode offenzulegen. Wissenschaftlern würde es oft schon reichen, über spezielle Schnittstellen einen Zugang zur Plattform zu erhalten. Facebook hat schon Angebote für solche unabhängigen „Audits“ erhalten – scheint daran aber nicht interessiert.

Vorschlag 6: Wir brauchen eine gesicherte Verbreitung bestimmter Inhalte. Die Kriterien im Facebook-Algorithmus sind keine nachrichtlichen. Wie zugänglich ist Facebook damit für Medieninhalte, deren Aufgabe es ist, zu informieren und nicht zu emotionalisieren? Spielt gesellschaftliche Relevanz eine ausreichende Rolle im Algorithmus? Oder brauchen wir eine gesicherte Ausspielung von Nachrichteninhalten? Darüber lohnt es sich, zu diskutieren, verbunden auch mit der Frage, wie ein moderner Auftrag des öffentlich-rechtlichen Rundfunks im Internet aussehen könnte.

Vorschlag 7: Wir brauchen Mittel und Wege gegen Datenmonopole. Von allen Vorschlägen in dieser Liste tue ich mich hiermit am schwersten. Ich bin überzeugt davon, dass die Datenmonopole bei Unternehmen wie Facebook und Google viele Probleme mit sich bringen. Gleichzeitig fehlen mir Ansätze für bessere Modelle – bis auf Standards und Schnittstellen zum Datenaustausch zwischen verschiedenen Netzwerkanbietern.

Social-Media-Apps

Facebook hat in den vergangenen Jahren große Schritte gemacht, wenn es darum geht, die eigene gesellschaftliche Verantwortung anzuerkennen. Wie steht es darum bei Google, Twitter, Snapchat und anderen Anbietern?

Vorschlag 8: Wir brauchen gemeinsame Standards der Anbieter. Facebook hat zuletzt immer wieder seine gesellschaftliche Verantwortung eingeräumt, zum Beispiel mit dem Vorhaben, sich den „harten Fragen“ aus Gesellschaft und Politik zu stellen. Diesen Anspruch an sich selbst – verbunden mit gemeinsamen Standards und transparenten freiwilligen Selbstverpflichtungen – wünsche ich mir von allen Anbietern.

Vorschlag 9: Wir brauchen eine Aufklärung der Nutzer. Facebook nutzt dieses Mittel bereits: Ganz oben im Newsfeed bekommen Nutzer immer wieder Informationen angezeigt, zum Beispiel dazu, wie sie Desinformation erkennen oder ihre Privatsphäre-Einstellungen vornehmen können. Hier wäre auch mehr Information über die Wirkungsweise des Algorithmus oder die Löschentscheidungen auf Basis der Gemeinschaftsstandards sinnvoll.

Vorschlag 10: Wir brauchen ein Vorgehen auf EU-Ebene. Wir können in Deutschland noch so viel über eine Regulierung von sozialen Netzwerken und insbesondere von Facebook diskutieren. Damit gehen wir allerdings auch nationale Sonderwege – gegenüber Konzernen, die sich auf dem internationalen Parkett bewegen. Es wäre also sinnvoll, nicht mehr allein auf Länderebene über Datenschutz und Netzpolitik zu sprechen – und auch nicht allein auf Bundesebene, sondern auf EU-Ebene.

Gurtpflicht

Vor jeder Regulierung gibt es Widerstände. Vor Einführung der Gurtpflicht im Jahr 1975 hatten die Deutschen Angst, der Gurt lasse sich nach einem Unfall nicht mehr öffnen. Zwei Drittel der Menschen befürchteten laut Umfragen, angeschnallt im eigenen Auto zu verbrennen. DIE ZEIT hielt die Gurtpflicht für einen weiteren Schritt „in der Tendenz, die es dem einzelnen verbieten will, auf eigene Kosten riskant zu leben“.

Vielleicht erleben wir im Netz jetzt einfach etwas, das wir auch schon in anderen Branchen erlebt haben: erst die Entwicklung, dann die Regulierung. Oder wie es Ingrid Brodnig bei CARTA beschreibt: „Auch das Auto hat sich erst mit der Zeit zu jenem mächtigen Gefährt entwickelt, das es heute ist. Wichtige Sicherheitsapparaturen wie Scheibenwischer, Gurte bis hin zu Airbags wurden erst mit der Zeit entwickelt. Auch kamen immer mehr Gesetze für den korrekten Umgang im Straßenverkehr hinzu.“

Facebook als soziales Netzwerk, Twitter als Nachrichtendurchlauferhitzer, Google als Suchmaschine – all diese Plattformen haben einen ungeheuren Einfluss auf die Meinungsbildung. Die Macher dieser Plattformen besitzen unfassbar viel Macht. Doch für die Rolle, die vor allem Facebook für unsere Öffentlichkeit spielt, gibt sich das Unternehmen zu verschlossen.

Es wird Zeit für eine breite Regulierungsdebatte – gerne auch mit euren Vorschlägen in den Kommentaren. Ich bin gespannt!

Über den Autor

Dennis Horn, offline geboren 1981 in Köln, arbeitet als Experte für Digitalthemen in der ARD und moderiert im Deutschlandradio. Er hofft, dass eines Tages die Angst vor dem "bösen Internet" stirbt, und wünscht sich mehr Spaß am Netz und weniger Hysterie.

13 Kommentare

  1. Dennis Horn am

    @SUCHTFREI_UND_UNABHÄNGIG: Wir haben Ihren Kommentar gelöscht. Bitte beachten Sie die Blogregeln und vermeiden Sie Kommentare immer gleichen Inhalts.

    Update 21.07.2017, 19:37: Das gilt auch für die Diskussion darüber, warum wir einzelne Kommentare löschen.

  2. Martin Däniken am

    @Dennis Horn: Aber nur weil die Gesichtserkennung Probleme mit Öttingers edlem Antlitz hatte ;-)…
    „Aber ich komme wieder!“
    Nur momentan sehe ich eine gewisse Uneinigkeit bei de EU,durchaus in Verbindung mit dem Brexit.Die Karten werden werden neu gemischt….
    Die Karpatenregion z.B macht in GB Reklame für die hiesige gut vernetzte/ausgebaute Infrastruktur wg Brexit Stellenverlagerung!
    Wegen Dracula kann man dort auch bei den Briten emotional andocken ;-)
    Man sollte nicht aus den Augen verlieren das Gefühle eine wichtige Grundlage für Entscheidungen sind:
    „Ich mache dir ein Angebot, das du nicht ablehnen kannst…“
    „Eines Tages, möglicherweise jedoch nie, werde ich dich um eine kleine Gefälligkeit bitten.“
    https://www.youtube.com/watch?v=I_4VKxxlRYc

  3. Martin Däniken am

    Es wird dann eine sagen wir interessante Situation entstehen,wenn FB usw ihre Standorte in Deutschland räumen werden ,
    weil es ihnen hier zu repressiv wird und man nach Luxemburg oder Ungarn umzieht
    -nicht das letzteres noch eine Bastion der Freiheit wäre aber
    -naja „Money makes the world go round“?
    Nun gut man kann ja erstmal damit drohen äh den Gedanken den Mächtigen im Lande schmackhaft machen,oder…

    • Dennis Horn am

      @Martin Däniken: Meine Antwort darauf ist Vorschlag 10. Man hat an den Plänen für die Gesichtserkennung schon sehen können, dass ein Druck auf EU-Ebene durchaus hilft – und dafür, diesen Markt zu verlassen, ist er zu wertvoll.

  4. Shimu Melpim am

    Vorschlag 6 ist eine Frechheit. Der WDR möchte gerne seine idiotischen Inhalte herumspammen, damit auch Leute ohne Fernseher in den Genuss kommen. Nun, dann wird man wohl Spamfilter installieren müssen. Oder eine neue Plattform gründen.

    Alle Regulierungswütigen seien ferner erinnert, dass sich Facebook außerhalb der deutschen Rechtssprechung befindet. Von daher sind alle 10 Punkte großer Käse.

  5. Max Kruse am

    „Wir brauchen…“

    Wer soll dieses „wir“ sein? Ich bin es jedenfalls nicht. Es sind Diktatoren wie SIE, die Meinungsbevormundung wollen. Reden SIE nicht im Namen aller, wenn SIE Zensur durchsetzen wollen!

    • @Max Kruse: Ich möchte Zensur durchsetzen, weil ich der Meinung bin, die Löschentscheidungen von Facebook, die über das Strafrecht hinausgehen, sollten – im Gegensatz zu heute – transparent werden? Auf diese Interpretation muss man erst einmal kommen.

      Darüber hinaus fände ich es schön, wenn wir in einem sachlichen Ton miteinander diskutieren können – und bitte um Beachtung der Blogregeln, bevor Sie Diskussionspartner als Diktatoren beschimpfen.

  6. Ich gehe davon aus das das Problem bei den Löschzentren eher das ist, dass dort keine Juristen sitzen die Rechtswiedrige inhalte entsprechend bewerten könnten sondern beschäftigte die vorallem eins sind: „Gut und Günstig“. Hier wird sicher (zu oft) relativ blind dem Algorithmus vertraut, der Inhalte zum Löschen vorschlägt.

    • Dennis Horn am

      @Dieter: Da stecken mehrere Fehlannahmen drin.

      Erstens: Mit „dem“ Algorithmus wird in der Regel das System bezeichnet, das für die Ausspielung von Inhalten auf der Facebook-Startseite zuständig ist.

      Zweitens: Es ist möglich, dass im Verfahren, an dem die Mitarbeiter der Facebook-Löschzentren beteiligt sind, andere Algorithmen zum Einsatz kommen. Sie treffen ihre Löschentscheidungen aber in der Regel über Inhalte, die von Nutzern gemeldet wurden.

      Drittens: Bisher mussten in den Löschzentren keine Juristen sitzen, denn dort wurden bislang keine juristischen Entscheidungen getroffen. Die Löschzentren sind dafür zuständig, die Gemeinschaftsstandards durchzusetzen, also das Facebook-interne Regelwerk, sozusagen das digitale Hausrecht. Das wird sich mit dem Netzwerkdurchsetzungsgesetz voraussichtlich ändern – wobei die Auslagerung der Rechtsdurchsetzung an Facebook ja auch genau deshalb bemängelt wird, weil in den Löschzentren keine Juristen sitzen. Die Frage ist, wem man das dann ab Oktober zum Vorwurf machen sollte: Facebook oder dem Staat?

  7. Martin Däniken am

    Das Wichtigste ist das die Leute,die FB.YT usw nutzen oder politische Enscheider sind wissen wie es funktioniert,so ne Art Aufklärungsunterricht/Verkehrslehrstunde…
    Das würde aber bedeuten das die (scheinbare/theoretische) Einfachheit praktischerweise aufhören würde zu existieren!
    Das bedeutet das diese Unternehmen sich wehren werden?!
    Wo man hingucken kann mit viel Charme,wo man nicht so hingucken kann werden Abhängigkeiten geschaffen oder bestehende benutzt…
    Gucke grad „Person of Interest“ 4.Season ;-)
    und sehe darin durchaus wo die Reise hingehen könnte…
    Speziell den Aspekt von Bequemlichkeit/Sicherheit,den die Unternehmen wahrscheinlich nicht müde werden direkt/indirekt zubetonen.

Einen Kommentar schicken

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Um Ihren Kommentar zu versenden, beantworten Sie bitte die folgende Frage: *

Top