Das Making-of "Im Netz des Bösen"

von Hannes GRASSEGGER und Till KRAUSE

Nach welchen Kriterien Facebook Einträge wie Hassrede, Hetze und Gewalt entfernt, ist ein großes Rätsel. Dieser Text dokumentiert erstmals detailliert die belastenden Arbeitsbedingungen und das geheime Regelwerk des Facebook-Löschteams in Berlin, das von der Bertelsmann-Tochter Arvato dort seit Herbst 2015 – und unter Ausschluss der Öffentlichkeit – betrieben wird. Sie alle mussten Verschwiegenheitsklauseln unterschreiben, die ihnen den Kontakt mit Journalisten verboten haben. 

Wir haben über mehrere Monate mit vielen ehemaligen und derzeitigen Mitarbeiterinnen und Mitarbeitern von Arvato/Bertelsmann gesprochen, die im Schichtdienst für Mindestlohn stundenlang Beiträge sichten, die von Facebook-Nutzern als bedenklich gemeldet wurden. Die Mitarbeiter sind täglich mit grauenvollen Bildern, Videos und Texten konfrontiert: Hassrede, Tierquälerei, Enthauptungsvideos, Folter und Kinderpornografie. Sie alle klagen über mangelhafte Vorbereitung auf diesen Job sowie über nicht ausreichende psychologische Betreuung. Die Mitarbeiter, unter ihnen auch syrische Flüchtlinge, fühlen sich mit ihren Problemen allein gelassen. 

Dem Autor Hannes Grassegger ist es gelungen, das Vertrauen einer Quelle aus dem Umfeld von Arvato zu gewinnen, die auf einen Artikel eines der Autoren aufmerksam wurde, in dem Facebook für seine Geschäftspraxis kritisiert wurde. Aus diesem Treffen entstanden immer mehr Kontakte zu derzeitigen und ehemaligen Mitarbeiterinnen und Mitarbeitern von Arvato/Bertelsmann aus unterschiedlichen Hierarchiestufen, die in verschiedenen Sprachteams für die Löschung von Inhalten verantwortlich sind. Sie haben zusammen zahlreiche Quellen getroffen, haben Arbeitsverträge der Arvato Mitarbeiter geprüft und mit Experten gesprochen.

Die Quellen wollten trotz ihrer Verschwiegenheitsklauseln mit uns sprechen, da sie ihre Arbeitsbedingungen öffentlich machen wollten – und aufzeigen, nach welchen widersprüchlichen Regeln bei Facebook Inhalte gelöscht werden müssen. Wir haben uns aus Gründen des Quellenschutzes, für eine Anonymisierung entschieden.

So ist das SZ-Magazin nach einigen Monaten der Recherche auch an eine große Menge interner Dokumente von Facebook gelangt, die im Detail erklären, was bisher weder Journalisten noch Politiker einsehen durfen: Die genauen Löschregeln von Facebook, die oft widersprüchlich sind: So muss das Bild einer sich übergebenden Frau mit hämischem Kommentar gelöscht werden, das Bild eines Mannes am Galgen mit dem Spruch „Hängt diesen Mistkerl auf“ aber nicht. In einer großen Zusammenarbeit mit Juristen, Redakteuren nicht nur des SZ-Magazins sondern auch mit Kollegen aus der Zeitung sowie der Online-Redaktion haben wir diese Regeln geprüft, analysiert, im Magazin ausführlich zitiert und in Teilen auch online veröffentlicht und erklärt – auf deutsch und englisch.

Weder Facebook noch Arvato wollten im Zuge der Recherche zu den Vorwürfen Stellung nehmen, innerhalb einer Frist äußerten sich beide Unternehmen nur ausweichend und unkonkret und antworteten auf viele der schriftlichen Fragen des SZ-Magazins nur mit „Dazu machen wir keine Angaben“. Auf die Frage, ob den Firmen Traumatisierungen bei Mitarbeitern bekannt seien, antwortete Facebook mit „Nein“ – dabei liegt dem SZ-Magazin ein Brief vor, in dem sich Arvato Mitarbeiter bei der Geschäftsführung über ihre belastenden Arbeitsbedingungen und die fehlende Unterstützung beklagen.

Am 27. Dezember 2016 veröffentlichte die Süddeutsche Zeitung auf Seite 2 ein „Thema des Tages“ zu den Folgen unserer Recherche – in dem wir beschreiben, dass bei Arvato momentan offenbar mehr wert auf die Verfolgung der Whistleblower gelegt wird (auch wenn unsere Quellen sich sicher fühlen), als auf die Verbesserung der Arbeitsbedingungen und der Transparenz.

Und im Mai 2017 haben wir dann in einem weiteren langen Artikel im SZ-Magazin enthüllt, dass Arvato mittlerweile offenbar ein weiteres Löschzentrum im Auftrag von Facebook betreibt - in Marokko, weit weg von strengen europäischen Arbeitsgesetzen: Mauern des Schweigens.