Die beiden Berichte des SZ-Magazins, 24.05.2017

von Hannes GRASSEGGER, Till KRAUSE

Mauern des Schweigens

Gewalt, Hass, Kinderpornografie: Vor einigen Monaten haben Mitarbeiter der Bertelsmann-Firma Arvato, die auf Facebook entsetzliche Inhalte sichten und löschen, im SZ-Magazin von ihrem belastenden Job erzählt. Wir sind mit den Mitarbeitern in Kontakt geblieben. Was hat sich inzwischen verändert?

 

Als Mitte Dezember 2016 ein Bericht im SZ-Magazin erschien, der beschreibt, unter welchen Umständen Menschen im Auftrag von Facebook täglich brutalste Bilder und Videos sehen müssen, hörte das Handy einer der Mitarbeiterinnen nicht mehr auf zu vibrieren. Ständig kamen neue Nachrichten von Kollegen: »Hast du das gesehen?« – »Ich frage mich, wer wohl mit den Reportern gesprochen hat.« – »Verlieren wir jetzt alle unsere Jobs?« Niemand weiß, dass sie eine der Whistleblowerinnen ist, die trotz Verbot mit Journalisten gesprochen hat, um ihre Arbeitsbedingungen öffentlich zu machen.

Ich musste wirklich gut schauspielern und so tun, als wäre ich überrascht über den Artikel – denn innerhalb der Firma begann sofort die Suche nach den Quellen.

Der Bericht machte schnell die Runde unter den damals rund 600 Mitarbeitern, die bei der Bertelsmann-Tochter Arvato in Berlin im Schichtdienst Gewalt, Hass und Kinderpornos von Facebook entfernen sollen. Sie dürfen nicht mit der Presse sprechen, auch Politikern wird seit Jahren der Zutritt zum Löschzentrum in Berlin verwehrt. Dabei ist die Arbeit, die dort erledigt wird, von großem Interesse für die Öffentlichkeit: Sogenannte »Content-Moderatoren« entscheiden, ob Beiträge, die von anderen Nutzern gemeldet wurden, bei Facebook gelöscht werden oder nicht. Etliches von dem, was sie zu sehen bekommen, sind Blicke in menschliche Abgründe: Foltervideos, Hinrichtungen, Tierquälerei.

Viele Mitarbeiter aus dem Löschteam sind froh, dass aufgrund des Artikels im SZ-Magazin auch eine breitere Öffentlichkeit über diese traumatisierende Arbeit diskutiert. Doch viele fühlen sich auch von Neuem eingeschüchtert.

Unsere Vorgesetzten haben uns aufgefordert, ihnen mitzuteilen, wenn wir mitbekommen, dass jemand mit Journalisten gesprochen hat.


Am Tag der Veröffentlichung machte unter den Angestellten das Gerücht die Runde, Facebook entziehe Arvato den Auftrag, allen im Löschteam würde dann gekündigt. Auch in den folgenden Monaten berichteten derzeitige und ehemalige Mitarbeiter von Arvato von dem Einfluss, den Facebook auf Arvato nimmt – und von den Sorgen in den Löschteams, den Auftrag zu verlieren.

Sie schüren ein Klima der Angst, das macht alles noch viel schlimmer.

Die Flüchtlinge haben am meisten Angst, ihren Job zu verlieren.


Im arabischen Team in Berlin arbeiten viele Menschen, die aus ihren Heimatländern vor Terror und Gewalt geflohen sind – und den Job dringend brauchen. Dieses Team ist eines der größten im nach Sprachen unterteilten Facebook-Löschzentrum in Berlin. Und für die arabischen Mitarbeiter ist die Bedrohung am greifbarsten, erzählen die Quellen: Arvato hat, ohne groß darüber zu berichten, einen Firmen-Ableger in Marokko aufgebaut. Ein Teil der Löscharbeit wird nach den Aussagen von derzeitigen und ehemaligen Arvato-Mitarbeitern dort bereits erledigt: In der Millionenstadt Casablanca betreibe eine Firma namens Phone Group, die mehrheitlich zu Arvatos Mutterkonzern Bertelsmann gehört, ein weiteres Löschzentrum. Gearbeitet wird dort für einen »großen Social Media Konzern«, wie aus einer Stellenanzeige dieser Firma hervorgeht. Insider berichten, Führungskräfte von Arvato seien nach Casablanca gereist, um Mitarbeiter in die Löschregeln von Facebook einzuweisen. Es gebe eine Zusammenarbeit zwischen Marokko und Berlin, manche der sogenannten »Subject Matter Experts«, die die Löscharbeit der Content-Moderatoren in Deutschland kontrollieren, würden von Marokko aus arbeiten, berichten Mitarbeiter von Arvato.

Sie drohen immer wieder: Wenn es hier Ärger gibt, kommen die Teams eben nach Afrika oder in andere Länder.

Der derzeitige Leiter des Berliner Löschzentrums gibt auf seinem öffentlichen Profil beim Karrierenetzwerk LinkedIn an, ein Team in Deutschland und Casablanca, Marokko geführt zu haben. Die Adresse einer Niederlassung der Phone Group in Marokko ist identisch mit dem offiziellen Firmensitz von Arvato. Aktuell sucht Arvato dort per Stellenanzeigen Mitarbeiter für Content-Moderation. Das strenge EU-Arbeitsrecht gilt in Marokko nicht. Wie die Menschen dort arbeiten und ob sie psychologische Hilfe bekommen können – dazu machen Arvato und Facebook auf Anfrage des SZ-Magazins keine Angaben.

Viele der Mitarbeiter im Berliner Löschzentrum sind nicht direkt bei Arvato angestellt, sondern bei Personaldienstleister-Firmen. Auch dort dürfe man nicht mit der Presse reden, Facebook verbiete das, sagt eine Mitarbeiterin einer solchen Agentur unter der Bedingung, hier anonym zu bleiben. Sie erzählt, dass die meisten Menschen, die ihre Firma an Arvato vermittelt, einfach einen Job suchen, egal welchen. Sie bekommen in der Regel einen Vertrag über sechs Monate, die meisten sprechen kein Deutsch und können kaum einschätzen, welche psychischen Gefahren ihre Tätigkeit mit sich bringt. Nach psychologischer Betreuung frage keiner der Bewerber. Die Personaldienstleister könnten diese Frage ohnehin nicht beantworten: Wie die Betreuung bei Arvato aus sehe, wisse sie nicht. Sie selbst durften die Arbeitsräume des Löschzentrums in Berlin, in das sie ihre Angestellten vermitteln,auf Order von Facebook nicht besuchen.

Einige der Informanten von 2016 haben Arvato mittlerweile verlassen, und es haben sich andere Arvato-Mitarbeiter beim SZ-Magazin gemeldet, die unsere Darstellungen bestätigt haben. Viele berichten: Von einer Verbesserung der Arbeitsbedingungen spüren sie seitdem weniger als vom Aufwand, der betrieben wurde, um das Löschzentrum noch weiter abzuschotten. Glastüren der Arvato-Großraumbüros zum Treppenhaus sowie einsehbare Fenster wurden mit Sichtschutzfolie beklebt, damit niemand von außen die Löschteams bei der Arbeit beobachten kann. Und sobald jemand vor den Türen des Gebäudes eine Person bemerkt, die Mitarbeiter anspricht, betonen Führungskräfte die Anweisung: Niemand darf reden. Das Lösch zentrum liegt in mehreren Etagen eines Bürokomplexes am Berliner Wohlrabedamm, im Erdgeschoss gibt es eine Kantine, auch andere Firmen haben dort Büros. Begegnet man Führungskräften von Arvato, drücken sie einem kopierte Zettel in die Hand: Wir sprechen nicht mit der Presse, Anfragen bitte ausschließlich an den Arvato-Pressesprecher in Gütersloh richten.

Sie haben die Sicherheitsvorkehrungen extrem erhöht: Es gibt mehr Sicherheitspersonal an den Eingängen, das Handyverbot wird strenger kontrolliert, und wenn man zur Toilette will, muss man sich abmelden.

Die Informanten berichten, sogar ehemalige Mitarbeiter bekämen Anrufe ihrer früheren Vorgesetzten. Sie fragen: Wer hat geredet? Und wie können wir die Leute dazu bringen, künftig zu schweigen? Manche Mitarbeiter, die in der Vergangenheit intern auf Probleme hingewiesen hätten, müssten Dokumente unterschreiben, in denen sinngemäß steht: Ich habe nicht mit Journalisten gesprochen und werde es auch nicht tun.

Ich arbeite zwar noch dort, habe aber innerlich aufgegeben. Oft schaue ich mir die Bilder gar nicht mehr an, ich klicke einfach nur auf den Tasten herum. Mal löschen, mal nicht. Ich will das alles nicht mehr sehen.

Die komplizierten und geheimen Löschregeln ändern sich weiter ständig und sind für die Mitarbeiter oft kaum zu verstehen. Mittlerweile sind die Regeln auch strenger gesichert und lassen sich laut Informanten nur über einen internen Browser einsehen, für den man sich einloggen muss und der es leichter macht zu verfolgen, wer zu welcher Zeit die Dokumente abgerufen hat. So soll sichergestellt werden, dass die Löschregeln nicht weiter an die Öffentlichkeit gelangen.

Gern hätte das SZ-Magazin mehr über die Veränderungen im Löschzentrum erfahren. Facebook und Arvato aber ließen mehrere schriftliche Anfragen des SZ-Magazins großteils unbeantwortet oder blieben in ihren Antworten sehr allgemein. Facebook erklärt, man sei »sehr besorgt« über die seinerzeit beschriebenen Zustände. Die Firma gibt an, man wolle »eine vollständige psychologische/psychische Risikobewertung durchführen, um das Wohlergehen unserer Mitarbeiter beurteilen zu können und gegebenenfalls zu fördern«. Warum so eine Bewertung erst jetzt erfolgen soll, knapp zwei Jahre nach dem Start des Löschzentrums in Berlin, erklärt Facebook auf Nachfrage nicht.

Die Betriebsprüfung


Mitte Januar 2017, rund vier Wochen nach der Veröffentlichung des Artikels im SZ-Magazin, standen in den Berliner Büros von Arvato Kontrolleure der Berliner Arbeitsschutzbehörde. Es war die erste von drei Kontrollen. Das Amt war durch den Bericht und durch einen Brief des Würzburger Anwalts Chan-jo Jun, der Facebook bereits mehrfach verklagt hat, auf die Arbeitsbedingungen im Löschzentrum aufmerksam geworden. Der Verdacht: Arvato hat Menschen einer psychisch belastenden Tätigkeit ausgesetzt, ohne eine angemessene Betreuung sichergestellt zu haben.

Im Arbeitsschutz gibt es dafür den Begriff der Gefährdungsbeurteilung, welche bei allen Tätigkeiten vorab erstellt werden muss: Wer beispielsweise einen Hochofen betreiben will, muss vorher festlegen, welche die geeigneten Schutzmaßnahmen für Mitarbeiter sind. An dieser Beurteilung kann gemessen werden, wie bewusst sich ein Unternehmen der Gefahrenlage ist – und wie sehr es sich an diese Erkenntnisse hält.

Auch für Tätigkeiten mit psychischer Belastung ist eine Gefährdungsbeurteilung verpflichtend. Weder Arvato noch Facebook haben bisher offengelegt, ob und wie eine solche Beurteilung für das Facebook-Team erstellt wurde.

Die Arbeitsschutzbehörde müssen selbst so verschlossene Unternehmen wie Facebook oder Arvato jederzeit in ihre Büros lassen und ihnen Einblicke in Unterlagen geben. In der Untersuchung der Behörde wurde deutlich: Es gibt eine Gefährdungsbeurteilung – aber sie war zunächst mangelhaft. Sie sei nicht ausreichend auf die psychische Belastung der Mitarbeiter eingegangen, berichtet jemand, der die Akten einsah. Ein Hinweis darauf, dass Arvato seine arbeitsrechtlichen Fürsorgepflichten nicht ernst genug genommen hat – was aber wohl folgenlos bleibt. »Es ist leider so, dass wir eine unvollständige Gefährdungsbeurteilung nicht ahnden können, wenn diese Fehler nach Aufforderung durch unsere Behörde behoben werden«, sagt ein Sprecher der Berliner Arbeitsschutzbehörde. Das heißt: Ein Unternehmen kann die erwartbaren psychischen Probleme seiner Mitarbeiter erst einmal auf sich beruhen lassen, weil es erst dann für bessere Betreuung sorgen muss, wenn die Arbeitsschutzbehörde auf Mängel hinweist.

Wir sind es schon gewohnt, dass hier ein großes Theater veranstaltet wird, wenn jemand von Facebook herkommt – da wird alles aufgeräumt, und jeder soll so tun, als wäre alles super hier. Es würde mich nicht wundern, wenn es bei einer Behördenkontrolle ähnlich zugeht.


Bei zwei weiteren Besuchen, einer davon unangekündigt, stellte die Behörde später fest, dass »Maßnahmen zur Minderung der psychischen Beanspruchung der Beschäftigten durch Beratungsangebote« getroffen wurden, wie die Berliner Senatorin für Arbeit und Soziales, Elke Breitenbach, Ende März bekanntgab. Arvato weist darauf hin, dass die Arbeitsschutzbehörde »keinen Anlass für ordnungsbehördliches Handeln gefunden hat«.

In der Berliner Landesregierung geht man davon aus, dass Arvato im Umgang mit Behörden geschickt ist. Zusätzlich habe Arvato in Berlin besondere Kenntnis darüber, wie man sich im Falle einer Kontrolle zu verhalten hat: Arvato, im Kern ein Outsourcing-Unternehmen für Dienstleitungen, hat jahrelang Verwaltungsaufgaben für die chronisch überlasteten Berliner Landesämter übernommen. Bis heute sei Arvato in den Ämtern bestens vernetzt, heißt es aus dem Berliner Senat. Dass nun offenbar mehr Rücksicht auf die psychische Belastung der Mitarbeiter genommen werde, sei »kein Freispruch für Arvato«, sagt der Leiter der Berliner Arbeitsschutzbehörde, Robert Rath. Um die weiter laufenden Ermittlungen voranzutreiben, will er vertrauliche Gespräche mit Arvato-Mitarbeitern – auch ehemaligen – über die Anschuldigungen führen.



Die Verbesserungen


Auch wenn Arvato und Facebook genaue Details nicht bekannt geben: Manche Mitarbeiter berichten seit der Veröffentlichung des Berichtes im SZ-Magazin von besseren Arbeitsbedingungen. Ihr größtes Arbeitsrisiko sind traumatische Erlebnisse, während sie gemeldete Facebook-Beiträge betrachten. Nach dem Erscheinen des Berichtes wurde die vorherige Sozialarbeiterin, die bei psychischen Problemen helfen sollte und die von vielen Informanten als nicht ausreichend qualifiziert empfunden wurde, durch einen Diplom-Psychologen ersetzt, der sich jede Woche vierzig Stunden im Gebäude von Arvato aufhält und die Mitarbeiter auch einzeln zu Terminen empfängt, kostenlos und während ihrer Arbeitszeit. Vorher waren vor allem Gruppensitzungen üblich, feste Ansprechpartner vor Ort gab es laut Aussage der Mitarbeiter nicht. Arvato bestätigt gegenüber dem SZ-Magazin die bessere psychologische Betreuung und betont, dass die Betreuer der gesetzlichen Schweigepflicht unterliegen.

Ich war noch nie bei ihm, er spricht nur Deutsch und Englisch, aber immerhin gibt es jetzt überhaupt jemanden, der da ist.


Zudem steht eine Sozialarbeiterin bereit, die sich hauptsächlich mit den Problemen von Ausländern befasst, die kein Deutsch sprechen. Solche Mitarbeiterinnen und Mitarbeiter machen einen Großteil in Arvatos Löschzentrum aus.

Ich glaube, sie haben gemerkt, dass sie etwas tun müssen. Und jetzt hören uns die Chefs wenigstens zu, wenn wir sagen, dass es uns schlecht geht.


Viele beklagen sich immer noch über hohen Druck und zu viele Fälle, die sie bearbeiten müssen. Doch für die Mitarbeiter gibt es nun regelmäßigere Ruhepausen. Zur Entspannung kann man sich demnach zu bestimmten Zeiten und mehrmals täglich in eine Art Ruheraum zurückziehen, maximal für 15 Minuten.

Da laufen dann aber leider nur die Bilder aus dem letzten schlimmen Video vor meinem inneren Auge ab.

Ein höherrangiger Arvato-Mitarbeiter, der die Arbeitsabläufe im Facebook-Löschzentrum kennt, sagt: »Wir haben anfangs Mist gebaut und die Gefahr unterschätzt, die so eine Arbeit mit sich bringt. Ich bin nicht lange genug in der Firma, um zu wissen, ob das Absicht oder Unkenntnis war.« Dass Content-Moderation eine traumatisierende Arbeit ist, hätte man bei Arvato aber durchaus wissen können: Die New York Times berichtete bereits 2010 von den Belastungen, die solche Klick-Arbeiter in den USA erleiden müssen. Auch das Magazin Wired hat mehrfach über die Gefahren von Content-Moderation berichtet. In Deutschland sichten Jugendschutzbehörden seit Jahrzehnten brutale Videos – diese Behörden hätten ihre Erfahrungen weitergeben können. Von einer Anfrage von Arvato an Jugendschutzbehörden ist nichts bekannt.

Politischer Druck

 

Am Tag der Veröffentlichung des SZ-Magazin-Berichtes im Dezember 2016 kündigte der Bundesjustizminister Heiko Maas rechtliche Konsequenzen für den Fall an, dass Facebook weiter so unbefriedigend mit problematischen Inhalten umgehe. Mitte März legte sein Ministerium dann einen Gesetzentwurf vor, der Firmen wie Facebook mit Geldbußen von bis zu fünfzig Millionen Euro droht, falls strafbare Inhalte nicht zuverlässiger und schneller gelöscht würden. Die Vorgabe für »offensichtlich rechtswidrige Inhalte« wäre: Sie müssten 24 Stunden nach Meldung entfernt werden.

Ich weiß nicht, wie das gehen soll. Es gibt so viele schlimme Bilder und Videos, die Leute sind ja jetzt schon überlastet.

Dieses Gesetzesvorhaben ist umstritten, unter anderem, weil Kritiker darin eine Gefahr für die Meinungsfreiheit sehen: Sie fürchten, dass Unternehmen, aus Angst vor Bußgeldern, gemeldete Inhalte ohne weitere Prüfung entfernen. Andere sehen die Gefahr, dass der Staat hier eine wichtige Aufgabe privatisiere: Nur Gerichte sollten über die Strafbarkeit von Inhalten entscheiden. Das deutsche Recht regelt eigentlich recht eindeutig, was im Internet verbreitet werden darf. Auch Facebook müsste sich daran halten – entfernt viele problematische Inhalte aber bislang zu spät oder gar nicht. Mit seinen sogenannten »Gemeinschaftsstandards« hat Facebook zudem ein eigenes Regelwerk geschaffen, das zusätzlich zu strafrechtlich eindeutigen Fällen genau festlegt, was auf seinen Seiten gesagt werden darf: Beleidigungen gegen bestimmte Bevölkerungsgruppen – etwa Rentner, Migranten oder Arbeitslose – wurden nach den dem SZ-Magazin vorliegenden Löschregeln von Facebook aus dem Jahr 2016 weniger streng entfernt als Hetze gegen Anhänger von Weltreligionen oder Menschen mit bestimmten Krankheiten. Die Details dieses Regelwerks werden geheimgehalten, auch Vertreter des Bundesjustizministeriums dürfen sie bisher nicht einsehen.

Der Gesetzentwurf sieht außerdem vor, dass Unternehmen wie Facebook transparenter werden müssen. »Wir wollen soziale Netzwerke auch dazu verpflichten, offenzulegen, wie sie mit ihren Content-Moderatoren umgehen: Wie sie geschult werden und auch, wie ihre psychologische Betreuung aussieht«, sagt Gerd Billen, Staatssekretär im Bundesjustizministerium. Dass das Ministerium überhaupt ein solches Gesetz durchsetzen will, liegt auch an der mangelnden Kooperationsbereitschaft von Firmen wie Facebook: »Bislang konnten Mitarbeiter unseres Ministeriums das Löschzentrum hier in Berlin, das Arvato im Auftrag von Facebook betreibt, nicht besuchen«, sagt Billen.

Auch die Gewerkschaft Verdi hatte bisher nicht die Möglichkeit, die angekündigten Verbesserungen der Arbeitsbedingungen im Facebook-Löschzentrum von Arvato vor Ort zu prüfen. »Wir haben im Augenblick in diesen Betriebsteilen keine Mitglieder und keinen Kontakt zum Betriebsrat«, sagt ein Verdi-Sprecher.

Die Linke-Fraktion im Bundestag hat eine Anfrage gestellt, um von der Regierung zu erfahren, wie Facebook mit Behörden zusammenarbeitet. Die häufigste Antwort: Dazu ist der Bundesregierung nichts bekannt. Besonders heikel: Auch wenn es um Straftaten geht, kooperiert Facebook offenbar nicht ausreichend mit deutschen Strafverfolgungsbehörden. »Es liegen keine Erkenntnisse vor, wonach Facebook aktiv an deutsche Strafverfolgungsbehörden herangetreten ist, um strafbare Inhalte zu melden«, heißt es in der Antwort aus dem Justizministerium auf die Anfrage der Linken.


Ausblick

 

Die Mitarbeiter, die Arvato mittlerweile verlassen haben, berichten, dass es ihnen seither besser gehe. Manche haben neue Jobs gefunden.

Ich versuche, alles zu vergessen. Je weniger ich daran denke, desto besser geht es mir.

Ich habe den Kontakt abgebrochen mit allem, was irgendwie mit Arvato zu tun hat.

Eine ehemalige Mitarbeiterin hat sich erst nach der Veröffentlichung des Berichtes getraut, ihrer Mutter im weit entfernten Ausland von ihrem Job in Deutschland zu erzählen. Die Mutter war entsetzt. Einige der Informanten planen, Arvato zu verklagen, wegen des erlittenen psychischen Schadens. Die meisten von ihnen haben sich an Psychologen, Therapeuten oder Trauma-Experten gewandt, die in ersten Untersuchungen Auffälligkeiten festgestellt haben.

»All diese Spätfolgen müssten nicht sein. Man kann heutzutage beinahe vollständig verhindern, dass Menschen, die derartige Bilder und Videos sehen müssen, traumatisiert werden – durch die richtige Vorbereitung und Betreuung am Arbeitsplatz «, sagt die Trauma-Expertin Jane Stevenson, die für England bereits im Jahr 2002 sogenannte Best Practices verfasste: Leitlinien für die Betreuung von Personen, die traumatisierende Inhalte sichten müssen. Dass Content-Moderatoren von Social-Media-Firmen derart litten, liege schlicht daran, dass diese Firmen sparen wollten. Im staatlichen Bereich – bei Polizisten, Geheimdienstlern, Ermittlern gegen Pädophilie – sei das Problem erkannt und weitgehend gelöst.

In den USA wurde im Januar die Klage der beiden ehemaligen Content-Moderatoren Henry Soto und Greg Blauert gegen ihren früheren Arbeitgeber Microsoft bekannt. Sie beklagen mangelnde Unterstützung gegen die schwerwiegenden psychischen Folgen des Jobs. Die Klage zeigt auch: Nicht nur Facebook kämpft gegen die Fluten von Hass, Pädophilie, Gewalt und Propaganda, sondern alle Unternehmen, die Online-Inhalte bereitstellen – auch Anbieter von Computerspielen mit Chatfunktionen. Es ist ein wachsendes Problem.

Bei Youtube werden rund neunzig Prozent der von Nutzern gemeldeten strafbaren Inhalte gelöscht. Das Ziel von Youtube: Bald sollen Computer automatisch verletzende Inhalte erkennen und löschen. Bisher bewältigen nur Menschen diese Arbeit, weil die Bewertung der Inhalte zu kompliziert ist. Doch die Arbeit der Youtube-Löschteams, die ebenfalls in aller Welt sehr belastende Inhalte sichten und entfernen, wird bereits maschinell analysiert. So wird nebenbei eine künstliche Intelligenz trainiert, die aus jeder Lösch-Entscheidung lernt. Das könnte dazu führen, die Arbeit der Content-Moderatoren zumindest teilweise an Maschinen auszulagern.

Ähnliche Ansätze sind seit 2016 von Facebook bekannt. Doch momentan steigt noch der Bedarf an Content-Moderatoren. Denn die Unternehmen erweitern ihre Angebote ständig weiter, zuletzt mit Diensten wie Live-Videos, die noch viel stärker betreut werden müssen, weil dort bereits Videos von Vergewaltigungen und Morden gezeigt wurden. Außerdem hat sich in letzter Zeit eine Unterwelt von digitalen Manipulatoren entwickelt, die gezielt soziale Netzwerke nutzen, um Fake News, Hate Speech oder andere Inhalte zu verbreiten, die von Maschinen schwer zu erkennen sind.

Der Facebook-Chef Mark Zuckerberg verkündete kürzlich die Aufstockung seiner Moderatoren-Teams von weltweit 4500 auf 7500 Mitarbeiter. Ob diese Mitarbeiter bei Facebook direkt angestellt oder wieder an Dienstleister wie Arvato – zu deutlich schlechteren Arbeitsbedingungen – ausgelagert werden, gibt Facebook nicht bekannt. Genug zu tun werden die neuen Content-Moderatoren haben: In letzter Zeit haben sich die Fälle gehäuft, in denen Videos brutaler Verbrechen auf Facebook öffentlich wurden. Ein Mord an einem alten Mann in Cleveland. Ein Vater in Thailand, der seine kleine Tochter umgebracht und ihren Tod bei Facebook dokumentiert hat. Der Umgang mit solchen Abgründen drohe zum größten Problem von Facebook zu werden, schrieb die New York Times. Zu den nächsten Schritten der technischen Entwicklung könnte gehören, dass das Grauen in Virtual-Reality-Anwendungen gezeigt wird – und gesichtet werden muss.

Arvato baut aus. Ende des Jahres sollen mehr als 700 Menschen im deutschen Facebook-Löschzentrum arbeiten. Am Berliner Wohlrabedamm wird gerade ein mehrstöckiges Gebäude umgebaut, in dem die Content-Moderatoren zusammengeführt werden sollen. Bald soll der Ausbau eingeweiht werden. Renate Künast, die Vorsitzende des Bundestagsausschusses für Verbraucherschutz, hatte Facebook immer wieder schriftlich darum gebeten, das Löschzentrum besuchen zu dürfen. Anfang Mai bekam Künast erstmals ein positives Signal der deutschen Facebook-Lobbyistin Eva Maria Kirschsieper: Ja, Künast könne kommen und sich selbst ein Bild vom Löschteam in Berlin machen. Man suche nur einen passenden Termin.

legalporn4k.com