Das sagen Mitarbeiter des Facebook-Löschzentrums über ihre Arbeit

https://blog.wdr.de/digitalistan/das-sagen-mitarbeiter-des-facebook-loeschzentrums-ueber-ihre-arbeit/

Das sagen Mitarbeiter des Facebook-Löschzentrums über ihre Arbeit

Kommentare zum Artikel: 17

Bisher galt das Löschzentrum von Facebook in Berlin als Festung: Es hat anderthalb Jahre gebraucht und massiver öffentlicher Druck war nötig, bis Facebook Politiker in die Büros im Berliner Westen gelassen hat. Gestern durften erstmals Journalisten das streng abgeschirmte Löschzentrum in Berlin besuchen: Justus Kliss und ich durften exklusiv fürs Fernsehen dort drehen; außerdem waren Kollegen von dpa, SPIEGEL ONLINE und ZEIT dabei.

Zuletzt stand das Löschzentrum wegen schlechter Arbeitsbedingungen heftig in der Kritik. Vertreter von Facebook und der Bertelsmann-Tochter Arvato, die das Löschzentrum im Auftrag des sozialen Netzwerks betreibt, zeigten Unverständnis über die Berichte von Süddeutsche Zeitung Magazin und Mobilegeeks.de, in denen es um die psychische Belastung der Mitarbeiter ging, außerdem um das hochkomplexe Regelwerk, nach dem die Löschentscheidungen bei Facebook getroffen werden.

Meine Eindrücke vom Besuch im Löschzentrum findet ihr drüben auf tagesschau.de. Hier in Digitalistan möchte ich etwas genauer auf einen Teil des Besuchs eingehen: das Gespräch mit Mitarbeitern des Löschzentrums, das wir Journalisten eine knappe halbe Stunde lang führen konnten. Ihre Namen haben wir nicht erfahren, mitschneiden durften wir das Gespräch nicht – aber zitieren dürfen wir daraus.

Zu Gast im Facebook-Löschzentrum – von Dennis Horn und Justus Kliss

Sprechen konnten wir mit zwei Mitarbeiterinnen und einem Mitarbeiter, 25 bis 38 Jahre alt, die jeweils seit gut einem Jahr von Arvato beschäftigt werden und mittlerweile nicht mehr nur mit der Kontrolle der von Nutzern gemeldeten Inhalte betraut sind, sondern auch mit Leitungsaufgaben. Das hier ist, was sie uns über ihre Arbeit zu berichten hatten:

Mitarbeiterin 1 (28 Jahre alt, seit Februar 2016 bei Arvato, hat vorher als Grafikerin bei einem Indiestudio für Computerspiele gearbeitet)

„Ich war noch nicht lange hier, da habe ich das erste Enthauptungsvideo zu Gesicht bekommen. Ich bin dann erst einmal rausgegangen und habe geheult. Das war aber nur ein einziges Mal so. Jetzt habe ich mich daran gewöhnt. Inhalte, in denen es um Selbstverletzung oder Suizid geht, mache ich trotzdem nicht mehr. Die Arbeit verändert einen. Ich hatte schon vorher nicht so viel Glauben in die Menschheit – jetzt habe ich gar keinen mehr.

Ich halte es für richtig und gut und wichtig, was wir machen. Was wir hier sehen, muss jemand anderes nicht sehen. Ich will zum Beispiel nicht, dass mein Kind über so etwas im Internet stolpert. Deutsche Nutzer sind übrigens zum Teil die schlimmsten. Sie holen so weit aus, dass man sich am Ende fragt: Was habe ich da gerade eigentlich gelesen!? Und sie testen uns. Sie melden zum Teil ihre eigenen Beiträge und Kommentare, um zu checken, was wir löschen und was nicht – um genau zu wissen, wie sie Dinge formulieren müssen, damit wir sie stehen lassen.“

Facebook-Löschzentrum in Berlin

Das Facebook-Löschzentrum in Berlin: Auf vier Etagen sollen bis Ende August 700 Mitarbeiter die von Nutzern gemeldeten Inhalte im sozialen Netzwerk kontrollieren.

Mitarbeiterin 2 (38 Jahre alt, seit März 2016 bei Arvato, hat vorher als Social-Media-Managerin für ein Start-Up-Unternehmen gearbeitet)

„Ich bin hier gelandet, weil ich einen Job bei einer Firma gesucht hatte, die etwas größer ist als ein Start-up. Ob mich das, was ich hier zu sehen bekomme, verändert? Ja. Man entwickelt ein Auge für manche Dinge. In der S-Bahn fallen mir zum Beispiel junge Frauen mit Narben am Arm auf. Das ist etwas, was ich vorher übersehen hätte.

Die Berichte über angeblich schlechte Arbeitsbedingungen haben uns sauer gemacht. Da wollte wohl jemand beim Weggehen böse sein. Alle, die ich hier kenne, sind stolz darauf, diesen Job zu machen. Wir diskutieren natürlich auch über die Berichte über uns, und uns hat geärgert, dass die Journalisten, die das geschrieben haben, nichts davon revidiert haben. Wir retten Leben.“

Mitarbeiter 3 (25 Jahre alt, seit März 2016 bei Arvato, hat vorher als Teamleiter im Gartenlandschaftsbau gearbeitet)

„Mich hat hier nichts zerstört. Mir wurde schon im Bewerbungsprozess fünfmal angekündigt, dass ich es hier auch mit ’nicht so schönen Inhalten‘ zu tun bekomme. Ich war aber erstaunt, wie viel das ist: Kinderpornografie, Tierquälerei, Mord, Totschlag – eigentlich alles. Ich habe mich auch bei den Psychologen hier vorgestellt, aber ich hatte dann nie das Bedürfnis, mit ihnen zu sprechen.

Was psychologische Probleme der Mitarbeiter angeht: Ich kann als Teamleiter sehr schwer beurteilen, wer Hilfe braucht oder nicht. Ich bin darauf angewiesen, dass Mitarbeiter sich dann auch melden, wenn es Probleme gibt. Wir versuchen auf jeden Fall auch, uns gegenseitig zu helfen. Und unsere Arbeit ist wichtig. Ich weiß von zwei Fällen, in denen Leben gerettet wurden, weil rechtzeitig die Polizei informiert wurde und dann bei den entsprechenden Facebook-Nutzern an der Tür geklopft hat.“

Facebook-Löschzentrum

Die „Reps“, wie die Mitarbeiter des Facebook-Löschzentrums intern heißen, kontrollieren die von Nutzern gemeldeten Inhalte darauf, ob sie den Gemeinschaftsstandards des Netzwerks entsprechen.

Die drei Mitarbeiter des Löschzentrums wirkten auf mich authentisch und ehrlich. Ich nehme ihnen ab, was sie über ihre Arbeit erzählt haben – genauso ihr Erstaunen über die Berichterstattung. Das Süddeutsche Zeitung Magazin aber hat noch vor zwei Monaten von Mitarbeitern berichtet, die von erhöhtem Druck und mehr Geheimhaltung gesprochen haben.

Und so bleiben auch nach dem Besuch bei Arvato Fragen offen. Es war ein Stück Transparenz, das Facebook uns als Journalisten gegeben hat. Bei all den Diskussionen von Desinformation über Hasskommentare bis zu strafbaren Inhalten im sozialen Netzwerk ist die Arbeit, die von den Mitarbeitern des Löschzentrums gemacht wird, aber von höchstem öffentlichen Interesse – und so kann der Pressetermin bei Facebook nur ein Anfang gewesen sein.

Über den Autor

Dennis Horn, offline geboren 1981 in Köln, arbeitet als Experte für Digitalthemen in der ARD und moderiert im Deutschlandradio. Er hofft, dass eines Tages die Angst vor dem "bösen Internet" stirbt, und wünscht sich mehr Spaß am Netz und weniger Hysterie.

17 Kommentare

  1. walid hajjam am

    new subcontractor of Facebook for Africa and middleeast is located in Casaneashore Morocco under Phone Group abusiv and corrupt envirnment, the company only pay moderators a fix salary of 300 US dollars a month ,most hiring unqualified agents between 18 and 25 with no experience and no knowledge,and have to take decision regarding terrorism, suicide, porn….on the job contract they agree that the company not taking responsability if the employee got a mental problem from working those topics, i mean how can a first experience agent at age of 22 at most be a supervisor of 20 agent and cant even speak proper english plus no knowledge at all. plus those sexualy posed agents dont work at all cause they sexually talk and walk they exceed daily breaking time work only little and get away with it cause the supervisor is not mature enough and might get some personal benefit…………….the whole phonegroup is a joke they cant even keep a project for more than 2 years no wonder why

  2. Rebekka Prahst am

    So lange ich noch bei fb aktiv war, war mir die Flut an Hass und Hetze unerträglich. Zugegeben: Ich gehöre eher zu den Dünnhäutigen Zeitgenossen unter uns. Aber mir ist zum Beispiel ein Posting begegnet, in dem die Vergewaltigung und darauf folgende Mord einer schwarzen Frau (im Posting als Ni***in bezeichnet) bejubelt wurde. Anbei ein Foto mit einer nackten, toten Frau. (Oder war dieses Foto gefälscht? Oder aus einem anderen Kontext geklaut? Ich weiß es nicht. Das macht die Sache aber nicht besser.) Dies ist nur die Spitze des Eisberges. Ich habe hunderte Postings und Kommentare bei fb gemeldet und bekam jedes Mal entweder die Antwort, dies entspräche den Richtlinien von fb oder der Beitrag wurde schon gelöscht. Auch viele andere User baklagten in fb-Foren über dieses Vorgehen von fb. Ich habe inzwischen versucht mein Profil zu löschen. Hier stieß auf ein weiteres weit verbreitetes Problem mit fb. Das Profil zu löschen ist viel zu kompliziert. Bei scheiterte es schon daran, dass ich keine aktuelle E-Mail-Adresse in den Einstellungen speichern kann. Dieser Button funktionierte schlicht nicht. Ich habe es inzwischen aufgegeben und Geister in fb mittlerweile nur als Karteileiche rum. Find ich unschön aber irgendwann hab ich schlicht keinen Bock mehr, mich mit so einem Generve aufzuhalten. Warum ich nicht mehr dabei bin? Weil ich mitlerweile achtsamer meinen geistigen Input wähle und fb tat mir insgesamt nicht gut. Außerdem war ich leider auch ein paar mal mit dem Bewerten von Inhalten überfordert und habe Dinge weitergeleitet hinter denen ich eigentlich nicht stand. Das tut mir so unendlich Leid. Es waren wirklich nur Missverständnisse meinerseits. Inzwischen hat mir da der Fakenewscheck etwas geholfen. Dies ist eine von der Regierung initiierte App, welche eigentlich bezwecken soll, dass Schüler einen besseren Umgang mit den Medien lernen. Da ich (Baujahr 82) dies in der Form aber noch nichht im Unterricht hatte, fand ich sie halt für mich interessant – gerade auch als Mutter. Diese App ist kostenlos und für jeden über die gängigen Appstores erhältlich. Endschuldigt bitte diesen langen Roman aber ehrlich gesagt, fühlt es sich auch gut an, dies noch hierzu beigetragen zu haben.

    • Dennis Horn am

      @Rebekka Prahst: Ich finde extrem gut, wie du dich im Nachhinein noch mit dem Thema beschäftigt hast – und es ist toll, hier im Blog auch einmal eine solche Stimme zu hören. Danke dafür – und auch für den Tipp zum „Fake News Check“. Für alle, die hier mitlesen: Die App bekommt ihr unter https://www.neue-wege-des-lernens.de/2017/03/19/fake-news-check-mit-dem-smartphone/, einen guten Artikel dazu hat ZEIT ONLINE unter http://www.zeit.de/2017/25/fake-news-check-app-falschmeldungen veröffentlicht.

      Was deine Erfahrungen als aktive Facebook-Nutzerin angeht: Ich neige immer dazu, Facebook und Twitter wie ein Werkzeug zu betrachten. Hinter dem, was man im Newsfeed sieht, steht auch immer die Frage, mit wem man befreundet ist, welchen Seiten man ein „Gefällt mir“ spendiert hat oder in welchen Gruppen man Mitglied ist. Ich selbst stoße zwar auch immer wieder auf erhitzte Diskussionen, aber was Hass und Hetze angeht, muss ich mich in Facebook zum Beispiel sehr gezielt auf die Suche machen, um überhaupt etwas zu finden. Viele meiner Freunde und Bekannten berichten es ähnlich – allerdings auch nicht alle. Ich möchte auf keinen Fall missionieren und deine Entscheidung rückgängig machen. Ich glaube, man kann auch sehr gut ohne Facebook leben. Es gibt auch viel guten geistigen Input außerhalb, das sehe ich genauso. :)

      • Rebekka Prahst am

        Lieber Herr Horn,

        so einfach ist es leider nicht. Das beschriebene Posting habe ich z.B. in „Vegan als Lebenstil“ gefunden. Kochrezepte und Tierschutz gabs da gar nicht. Dafür aber eine Flut an Rassismus und Zexismus. Ich bin nach Meldung einschlägiger Inhalte, wie viele andere auch, da wieder ausgetreten. Des Weiteren war ich in eher linksgerichteten Gruppen. (Ums vorweg zu nehmen: Nicht bei den Vandalisten und Schlägern, die sich cool fühlen, weil ihre Opfer Rechtsextremisten sind. Gewalt bleibt Gewalt und ich lehne das ab, wie die Mehrheit der linken Szene übrigens auch. Sowas zieht nur uns friedfertigen in den Dreck. Aber zurück zum Thema) Auch da schlichen sich immer wieder Hater und Trolle ein, die ihre ekeleregenden Gedanken eigentlich friedliche Postings kommentierten. Ich war auf Witzseiten, wo Dinge gepolstert wurden, die definitiv weit mehr als nur provokant waren. Auch da wurde gehetzt. Ich will natürlich auch nicht zum Austritt aus Facebook missionieren. Ich denke, das sollte man jedem selbst überlassen. Aber, wie bereits erwähnt; Sowas taucht leider in untiedlichsten Gruppen immer wieder auf.

        • Dennis Horn am

          @Rebekka Prahst: Verstehe. Ich habe da eine andere Wahrnehmung, aber ich bin in der Tat auch nicht so häufig in Gruppen unterwegs, sondern nutze Facebook vor allem über den Newsfeed. Dass diese Probleme vor allem in Gruppen und auf einer Reihe von Facebook-Seiten existieren, stimmt allerdings.

  3. Martin Däniken am

    Fb ist ein kommerzielles Unternehmen,das das nötigste untenimmt um behördlichen pffffhhhh Druck zuminimieren. Es wird dann schwierig wenn der politische Druck zunimmt und öffentlicher Druck zu Verlusten monetärer Art führt.
    So wichtig die Zensur ;-) auch ist stellt sie doch bei Facebook einen geringen Teil des Geschäftes dar-ein hübsches Feigenblatt…

    • Facebook betreibt in seinem Löschzentrum zurzeit vor allem die Umsetzung der hauseigenen Gemeinschaftsstandards. Es handelt sich dabei nicht um Zensur – ein Begriff übrigens, mit dem in der Regel nur staatliche Eingriffe gemeint sind – sondern schlicht um eine Durchsetzung des Hausrechts, das ein Teil dieses kommerziellen Unternehmens ist.

  4. SUCHTFREI_UND_UNABHÄNGIG am

    Ein „Löschzentrum“ gegen den Facebook-Dreck einzurichten ist so ähnlich wie mit einer Wasserpistole gegen die kalifornischen Waldbrände vorgehen zu wollen.
    Die einzige Möglichkeit, den Sumpf der asozialen Netzwerke, heißen sie nun Facebook, Twitter, Instagram oder sonstwie, auszutrocknen, ist ein konsequenter Boykott.
    Dazu müßten aber genügend „Nutzerinnen und Nutzer“ (die ja eigentlich „‚Benutzte“ heißen müßten!) mitmachen, was daran scheitern wird, daß zu viele und immer mehr Menschen abhängig und süchtig sind bzw. weiter werden.
    Dennoch werde ich nicht müde werden, darauf aufmerksam zu machen, daß es sich um eine Digital-Sucht-Pandemie handelt, die bekämpft gehört – und Hilfe beim Ausstieg ist möglich – s. z.B. OASIS (https : / / onlinesucht – ambulanz . de )

    • Super Sache (Sarkasmus!) – lass uns, die ja ach so gut bei Verstande sind, alle aus den sozialen Netzwerken austreten. Schon mal drüber nachgedacht dass diese dann zu reinen Extremistennetzwerken werden könnten, denn ebendie melden sich so schnell nicht ab?
      Es sei denn, es sind genug Nutzer mit hellem Verstande dabei, die extremistische Inhalte zu melden, so dass das Löschteam (Respekt für deren Arbeit, nabenbei) diese bearbeiten kann.
      Nebenbei, ich nutze keine sozialen Netze – nicht mein Ding. Aber kenne viele Leute die das tun. Online-Süchtige sind nicht unter meinen Bekannten.

      • MeinName am

        Schon mal darüber nachgedacht dass wenn nur noch Extremisten im Netzwerk sind deren Propaganda völlig nutzlos ist weil nur noch andere Extremisten den Bullshit lesen an den sie ja sowieso schon glauben?
        Im Endeffekt muss jeder selber wissen wo er sich rumtreibt und ich finde soziale Netzwerke auch nicht grundsätzlich schlecht aber besonders auf Fb geistern viel zu viele kranke Inhalte rum wie solche die im Artikel ja schon erwähnt wurden.

    • Hasskommentare die Menschen zu Orwell neusprech „‚Benutzte“ degradieren müssen, sollten in ALLEN Medien konsequent bekämpft werden, auch bei denjenigen die aus Sucht nicht müde werden und die Hilfen beim Ausstieg nicht annehmen können.

    • @SUCHTFREI_UND_UNABHÄNGIG: Bitte beachten Sie unsere Blogregeln und vermeiden Sie ständige Wiederholungen desselben Inhalts oder Kommentare, die sich inhaltlich nicht auf den Blogartikel beziehen.

      Wir haben Ihren Kommentar diesmal nicht gelöscht, weil sich bereits Antworten darunter befinden, die Bezug auf den Blogartikel nehmen.

      • Dennis Horn am

        @SUCHTFREI_UND_UNABHÄNGIG: Wir haben Ihre Antwort auf meinen Kommentar gelöscht. Bitte beachten Sie unsere Blogregeln und vermeiden Sie ständige Wiederholungen desselben Inhalts oder Kommentare, die sich inhaltlich nicht auf den Blogartikel beziehen.

    • „Benutzte“ geht mir zu weit – jeder meldet sich dort freiwillig an; „Verführte“ vielleicht, aber das entbindet Erwachsene nicht von ihrer eigenen Verantwortung.
      Überdies würde „Benutzte“ ja auch die „digitalen Asis“ umfassen, die sich solche Foren zunutze machen, um bestenfalls einige Kübel Jauche über andere auszukippen, schlimmstenfalls andere für ihre aggressive Art der Auseinandersetzung zu gewinnen oder sogar Verbrechen zu verbreiten (z. B: Kinderpornnografie).

      Das beste Gegenmittel ist tatsächlich Facebook, Twitter usw. zu meiden. Fände ich übrigens für Politiker sehr wichtig, die sich darauf verlassen können, dass die Nachrichtenmedien ihre Twitter-Auslassungen millionenfach verbreiten.
      Ich will von Politikern aber keine Twitter-Äußerungen „von der Lunge auf die Zunge“, die oft aus einer gewissen Meinungshysterie entstehen und solche auch zigfach erzeugen. Zudem: was einmal über Twitter in die Welt geblasen wurde, kann kein Lasso mehr einfangen und zurücknehmen. Sie sollen sich lieber Zeit für ausgewogene und fundierte Aussagen nehmen.
      Eine Welt voll Trumps würde unerträglich werden.

      • Dennis Horn am

        @Sibylle: Ich entnehme Ihren Worten, dass Sie selbst Facebook, Twitter etc. auch meiden? Ich nehme die Netzwerke nämlich durchaus auch anders wahr – mit einem für mich zum Teil sehr fruchtbaren Diskurs. Hasskommentare und andere Probleme sind zwar existent – aber sie nehmen einen anderen Raum ein, als die öffentliche Debatte zurzeit vermuten lässt.

        Auch Tweets von Politikern sind nicht zwingend unausgewogene und unfundierte „Auslassungen von der Lunge auf die Zunge“. Was sie im analogen Raum sagen, kann ein Lasso genauso wenig einfangen und zurücknehmen.

  5. engelschuh am

    Ist das Zensur, wenn Kommentare und Bilder, die nicht für die Allgemeinheit „geeignet scheinen, dem öffentlichen Ansehen schaden?
    Man stelle sich vor, wenn der menschliche Müll (und da meine ich, das dass Schlimmste wahrscheinlich noch untertrieben ist) geliket und so der breiten Öffentlichkeit zugänglich gemacht wird!

    • Unwichtig am

      Natürlich das das Zensur! ABER: Es gibt nicht nur Schwarz oder Weiß, auch wenn man uns das oft weismachen will. Natürlich wird in China extrem zensiert. Aber Zensur von vorneherein als schlecht und schädlich für die Demokratie hinzustellen ist falsch. Gerade die Arbeit, die Facebook da betreibt ist wichtig, damit unsere Kinder wenigstens ein Minimum an Werten vermittelt bekommen. Man kann noch so viel vom Guten im Menschen erzählen – diese Meinung ist fast nicht mehr vertretbar.

Einen Kommentar schicken

Die mit * gekennzeichneten Felder müssen ausgefüllt werden.

Um Ihren Kommentar zu versenden, beantworten Sie bitte die folgende Frage: *

Top