Seit 17:05 Uhr Studio 9

Freitag, 17.08.2018
 
Seit 17:05 Uhr Studio 9

Vollbild | Beitrag vom 20.01.2018

Doku "The Cleaners" über Gewalt und Sex im Internet "Sie reinigen die digitale Welt von den Sünden"

Hans Block und Moritz Riesewieck im Gespräch mit Susanne Burg

Podcast abonnieren
Monitor mit Facebook-Startseite  (picture alliance/dpa/Foto: Jan-Philipp Strobe)
"Content Moderators" säubern soziale Medien von verstörenden, gewaltverherrlichenden Fotos und auch Kinderpornografie. (picture alliance/dpa/Foto: Jan-Philipp Strobe)

Auf den Philippinen säubern "Content Moderators" für Facebook, Google und Co. das Internet von Gewaltdarstellungen oder Pornografie. Die Filmemacher Hans Block und Moritz Riesewieck haben darüber den Dokumentarfilm "The Cleaners" gedreht, der auf dem Sundance Filmfestival Premiere feiert.

Susanne Burg: Das Festival in Sundance hat begonnen, und es gibt auch einen deutschen Beitrag im Dokumentarfilmwettbewerb. "The Cleaners" heißt der investigative Film, und darin geht es um die Schattenindustrie des Internets. Genauer gesagt um diejenigen, die im Internet genau das tun, was der Titel andeutet: aufräumen und saubermachen. Um Menschen, die das Netz durchforsten nach verstörenden, gewaltverherrlichenden Fotos und auch Kinderpornografie. Moritz Riesewieck und Hans Block haben diesen Film gedreht, und bevor sie nach Amerika zum Festival aufgebrochen sind, sind sie hier im Sender vorbeigekommen, und da habe ich die beiden interviewen können. Guten Tag, Herr Riesewieck und Herr Block.

Moritz Riesewieck: Hallo!

Hans Block: Guten Tag!

Burg: Wie geht es Ihnen vor der Abreise?

Block: Wir sind freudig gespannt, wir sind froh, dass es jetzt losgeht, wir fliegen morgen nach Salt Lake City zum Festival und gehen optimistisch in das Festival.

Burg: Herr Riesewieck, was bedeutet es, in Sundance zu laufen? Welche Vorstellungen haben Sie?

Riesewieck: Also erst mal ist es natürlich eine Riesenehre. Man hat ja solche Events eigentlich immer nur als Filmliebhaber mitbekommen, und jetzt da selbst mit einem Film zu laufen, ist eigentlich unfassbar. Also ich bin gespannt, wie divers das dort wird, denn ich glaube, das ist dann schon so, dass sich dort die Arthouse-Filmfamilie trifft, aber ich glaube, dass es mit unserem Film auch kontrovers werden könnte, weil bestimmte Themen, die dort vorkommen, glaube ich, anders diskutiert werden in den USA als in Europa.

Burg: Genau. Kommen wir mal zum Film, denn die Firmen, die Sie ansprechen, die haben ja ihren Sitz häufig in Amerika, zum Beispiel Facebook. Es geht um die Filterung von Inhalten im Netz und denjenigen, die das machen. Sie haben schon beide ein Theaterstück zum Thema gemacht, und im letzten Jahr ist auch das Buch herausgekommen von Ihnen, Herr Riesewieck, "Digitale Drecksarbeit: Wie uns Facebook und Co. von dem Bösen erlösen", darin beschreiben Sie unter anderem, was es mit Menschen häufig auf den Philippinen anstellt, wenn sie tagtäglich mit verstörenden Bildern umgehen und quasi als Online-Müllabfuhr arbeiten. Inwieweit ergänzt denn jetzt der Film die vorhergehenden Arbeiten, die Sie gemacht haben?

Riesewieck: Der Film kann natürlich etwas leisten, was kein anderes Medium in der Weise kann, und das ist diese besondere Atmosphäre einzufangen, die dort herrscht in dieser Stadt. Es hat was Gotham-City-haftes. Manila war jahrzehntelang der Ort, wo der analoge Giftmüll der westlichen Welt abgeladen wurde, und dass jetzt vor dieser Kulisse auch der digitale Giftmüll der Welt landet, das ist was, was man natürlich im Film wesentlich besser einfangen kann. Dazu kommt auch die Situation der Content Moderators – so heißen ja die Reviewer für Facebook und Co. –, der die dort ausgesetzt sind, das heißt, im 23. Stock über den Dächern der Stadt zu sitzen und dieses Gefühl von gleichzeitig Erhabenheit und andererseits aber auch Überforderung, wenn dann diese tausenden von Bildern jeden Tag auf sie einprasseln. Das ist etwas, was der Film zum allerersten Mal in der Weise erlebbar, spürbar macht.

"Sie waren froh, dass sie diese Geschichten erzählen konnten"

Burg: Herr Block, wie war denn das, sind Sie gleich bei Ihren ersten Recherchen dann schon mit der Kamera dabei gewesen oder ist der Film jetzt im Nachgang so ein bisschen oder zeitversetzt entstanden, weil ich mir auch vorstellen kann, dass es komisch ist, gleich mit der Kamera bei Treffen aufzubauen? Ich habe ja auch ein Buch gelesen, dass die Leute nicht gleich unbedingt vor der Kamera sprechen wollen.

Block: Ganz genau. Wir waren sehr vorsichtig bei der Kontaktaufnahme, weil, wie man sich vorstellen kann, ist es sehr schwierig, mit den Arbeitern in Kontakt zu treten, weil sie sehr großen Repressalien ausgesetzt sind. Viele, also alle dieser Mitarbeiter unterzeichnen Nondisclosure Agreements, so heißt das, also Schweigepflichtserklärungen, sie dürfen nicht über diesen Job reden, sie dürfen nicht reden, wer die Klienten sind, also Facebook, Google, YouTube, Twitter.

All das ist ihnen verwehrt, und dort war es für uns sozusagen sehr wichtig, dass wir erst über eine lange Zeit auch ohne eine Kamera mit denen in persönlichen Kontakt treten, keinen Druck ausüben, sondern tatsächlich ein Interesse an ihren Leben entwickeln und zu einem Punkt gelangen, wo sie das Vertrauen zu uns hatten, wo wir das Vertrauen zu ihnen hatten, und dann war es für uns eigentlich sehr erstaunlich, dass wenn man diesen ersten Bann gebrochen hat, dass ein großes Bedürfnis auch bestand dieser Arbeiter, mit uns zu reden, weil sie eben nicht nur Billiglohnarbeit machen, sondern sie selbst diese Arbeit als eine Mission empfinden. Also sie reinigen die digitale Welt von den Sünden, sie schützen die User vor Sachen, die sie nicht sehen sollen, und das erfüllt sehr, sehr viele Mitarbeiter mit Stolz dort, und sie waren froh, dass sie diese Geschichten erzählen konnten.

Burg: Sie haben ja mit denen auch drüber gesprochen, wie Sie eigentlich vorgehen, weil die Frage ja immer ist, wo ist die Grenze, wo wird was gewaltverherrlichend, wo ist irgendwas verstörend.

Riesewieck: Genau, und genau da wird es auch spannend in dem Film, denn es gibt wahnsinnig viele Grauzonen, in denen es extrem darauf ankommt, mit welchem Weltbild jemand diese Bilder ansieht, wie ist jemand geprägt, wie ist jemand aufgewachsen. Auf den Philippinen ist das natürlich der starke Einfluss des Katholizismus, sehr wertekonservativ, in vielen Fällen manchmal auch radikal. Es gibt Content Moderators, die dem Präsidenten nacheifern, Duterte, der die Wahl gewonnen hat mit dem Versprechen, die Gesellschaft rein zu machen, also aufzuräumen – social cleansing ist da das Stichwort –, und wenn mit diesem Wertegerüst dann über die Inhalte entschieden wird, dann fällt das oft eben zugunsten der Löschung aus, und es gehen feine Differenzierungen verloren, zum Beispiel zwischen Regierungskritikern und Terroristen, was ist gewaltverherrlichend, was dient der Dokumentation. Da wird im Zweifel, in den wenigen Sekunden, die sie haben, für die Entscheidung zugunsten der Löschung entschieden ganz oft, und das sind dann die sogenannten bedauerlichen Fehler, die dann immer mal wieder so auftauchen und in die Nachrichten geraten.

"Die Klienten vergeben einen Auftrag an Outsourcing-Firmen"

Burg: Denn die arbeiten ja häufig auch im Dienst amerikanischer Firmen. Wie weitgehend und detailliert sind denn da die Vorgaben, die Richtlinien?

Block: Also die Klienten vergeben einen Auftrag an Outsourcing-Firmen auf den Philippinen – es gibt sehr viele dort, also nicht nur einige –, und die haben einen bestimmten Dienst zu leisten wie zum Beispiel, nach einem Richtlinienkatalog, der zu diesen Outsourcing-Firmen geschickt wird, muss dann das soziale Medium gesäubert werden oder gefiltert werden. Das ist der einzige Kontakt, der eigentlich entsteht. Dort gibt es keine Verbindung, sondern sie versuchen, den Katalog bestmöglich zu erfüllen, und die sozialen Medien mit dem Sitz in Amerika, im Silicon Valley, vertrauen darauf, dass das getan wird.

Burg: Nun hatten Sie ja auch die Aufgabe, für das, was Sie da beschreiben, auch Bilder zu finden. Wie sind Sie denn da vorgegangen? Also ich sollte vielleicht noch sagen, der Film hat ja Weltpremiere in Sundance, ich konnte ihn vorher noch nicht sehen.

Block: Tut uns leid!

Riesewieck: Das war tatsächlich eine sehr lange Diskussion in dem Prozess, wie wir mit diesen Bildern umgehen, weil wir wollen natürlich nicht pornografisch… oder Ausstellen von dieser Gewalt, den Zuschauer belasten mit diesen Bildern, und haben Wege gesucht, wie zum Beispiel, dass wir sehr nahe an die Augen der Moderatoren gegangen sind, während sie diese Bilder moderiert haben, um das Schrecken in den Augen zu erkennen, also dass das Kopfkino losgeht, dass der Zuschauer ein Gefühl kriegt oder mit einer Soundebene gearbeitet, dass wir vielleicht einen Sound eines Videos hören, aber nicht tatsächlich die Gewalt vor Augen bekommen, wobei es doch ein, zwei Stellen gibt, wo wir uns entschieden haben, Bilder zu zeigen, die Sie sehen, die auch sehr schwer auszuhalten sind, um tatsächlich den Schrecken des Realen einmal einzufangen.

Block: Und man muss noch hinzufügen, dass wir ja auch versuchen, alle Beteiligten in diesem Zusammenhang aufzumachen. Also es sind ja nicht nur die Content Moderators, die wir porträtieren in dem Film, sondern auch die Opfer der Zensur, die ja nicht immer nur Privatpersonen sind, bei denen es um private Urlaubsfotos geht oder so, sondern teilweise ja wirklich um kriegsentscheidende Dinge wie eine Organisation aus London, die Videos, die aus Kriegsgebieten in Syrien zum Beispiel hochgeladen werden auf Facebook und Co., auswerten, um zu versuchen, Kriegsgeschehen aufzuklären. Zum Beispiel haben die es geschafft, den USA einen Militärschlag nachzuweisen, bei denen Zivilisten getötet wurden, den die Amerikaner versucht hatten zu vertuschen.

Das heißt, für so etwas kann tatsächlich ein soziales Netzwerk sehr politisch relevant werden. Oder in einem anderen Fall, jetzt jüngst, die Krise in Myanmar mit der verfolgten Minderheit der Rohingyas, wo sichtbar wird, dass im Gegenteil aber auch Content, der durchgelassen wird, also verhetzende Botschaften, Videos, die eben nicht rausgenommen werden, dazu beitragen können, eine Gesellschaft komplett zu spalten, eine Minderheit ins Elend zu treiben und das Ganze zu befeuern. Das heißt, an dieser Schlüsselstelle des Internets wird nicht nur über Privates entschieden, sondern wird in vielen Fällen auch wirklich Gesellschaftsentscheidendes betrieben.

"Entscheidung liegt in der Hand von wenigen Unternehmen"

Burg: Womit wir dann da sind, was Sie am Anfang sagten, dass in den USA noch mal dieses Thema auch viel relevanter ist und vielleicht auch sehr viel kontroverser diskutiert wird. Was erwarten Sie denn da für Diskussionen jetzt auch bei der Premiere in Sundance? Ich meine, da sind in der Regel ja eher die politisch liberalen Menschen der Kunstszene vertreten.

Riesewieck: Also es gibt ein Beispiel in unserem Film, auch ein Protagonist, den wir porträtieren, das ist ein rechter Streetartist, der mit seiner Argumentation auf das First Amendment, also sowas wie die Redefreiheit in Deutschland, sich beruft und sagt, ich darf hier alles sagen, und das ist ja auch das Statement, mit dem Zuckerberg und Co. antreten weltweit: Gib jedem eine Stimme, gib jedem die Kraft, alles zu teilen mit jedem, und das war auch für uns immer so eine Frage: Können sie das eigentlich gewährleisten oder was bedeutet das eigentlich, jedem eine Stimme zu geben, ist das überhaupt gut?

Die Debatte, die wir auch in Deutschland führen mit Hate Speech, darf dieser Hass ungebändigt durch die sozialen Medien gehen, versuchen wir kontrovers zu erzählen mit solchen Personen, zu sagen, okay, wir müssen uns selbst als Gesellschaft fragen, was darf dort vorkommen, und wo müssen wir die Grenze ziehen, und dass diese Entscheidung in der Hand von wenigen privaten Unternehmen liegt, die aber drei Milliarden Menschen vernetzen miteinander, das erschreckt uns teilweise sehr, weil die digitale Öffentlichkeit sind die sozialen Medien, es nicht nur noch eine Option, die wir haben, sondern die hat einen sehr, sehr großen gesellschaftlichen Einfluss.

Block: Dazu kommt, dass wir es auch geschafft haben, die ehemalige Policy-Makerin für Twitter und YouTube vor die Kamera zu bekommen, die uns auch mal Einblicke gewährt in wie eigentlich diese Richtlinien, nach denen dann die Content Moderators entscheiden sollen, wie die eigentlich entworfen werden dort in den Hinterzimmern im Silicon Valley. Das fanden wir zumindest hochspannend.

Burg: Jetzt bleibt zu sehen, wie dann das Publikum drauf reagiert und den Film auch diskutiert. Der Film heißt "The Cleaners" und läuft im Dokumentarfilmwettbewerb von Sundance. Im Mai kommt der Film dann nach bisherigen Planungen auch bei uns ins Kino. Die beiden Regisseure waren zu Gast, Moritz Riesewieck und Hans Block. Vielen Dank für Ihren Besuch!

Riesewieck: Sehr gerne!

Block: Vielen Dank!

Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Deutschlandfunk Kultur macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.

Hören Sie hier einen Beitrag zum Sundance Filmfestival von unserer Korrespondentin Nicole Markwald.
Mehr zum Thema

Wenn Sexting-Nachrichten im Netz landen - Und plötzlich kennen dich alle nackt
(Deutschlandfunk Kultur, Zeitfragen, 11.01.2018)

Flisek (SPD) zum NetzDG - "Mit Sicherheit nicht perfekt"
(Deutschlandfunk, Interview, 09.01.2018)

Hass im Netz - "60 Videos gemeldet, davon ist keins entfernt worden"
(Deutschlandfunk, @mediasres, 08.01.2018)

Vollbild auf Twitter

DlfKulturFilm bei Twitter

Wir twittern über alles, was flimmert.

Rang I

weitere Beiträge

Fazit

weitere Beiträge

Kompressor

"Can"-Musiker Irmin Schmidt"Film ist Teamwork"
Der Komponist, Musiker und Gründer der legendären Band "Can" Irmin Schmidt. (imago )

Schon bevor er 1968 die legendäre Band "Can" gründete, komponierte Irmin Schmidt Filmmusiken. Für sogenannte Kulturfilme, die als Vorprogramm im Kino liefen: "stinklangweilig", aber "eine gute Einnahme". Seitdem hat der 81-Jährige mehr als 100 Filmmusiken geschrieben.Mehr

weitere Beiträge

Entdecken Sie Deutschlandfunk Kultur