UB-Logo Online MagazinUntergrund-Blättle

Moritz Riesewieck: Digitale Drecksarbeit | Untergrund-Blättle

4400

Moritz Riesewieck: Digitale Drecksarbeit Wie Plattformen ihre Inhalte-Moderation organisieren

Sachliteratur

Irgendwo auf den Philippinen sitzt jemand und muss sich den ganzen digitalen Müll anschauen, den wir gar nicht mehr zu sehen bekommen.

Jeden Tag schauen sich die Moderatoren hunderte, wenn nicht tausende Bilder und Videos an, welche von Facebook-Nutzern und Algorithmen markiert wurden. (Symbolbild)
Mehr Artikel
Mehr Artikel

Jeden Tag schauen sich die Moderatoren hunderte, wenn nicht tausende Bilder und Videos an, welche von Facebook-Nutzern und Algorithmen markiert wurden. (Symbolbild) Foto: Sam Javanrouh (CC BY-NC 2.0 cropped)

7. November 2017
0
0
3 min.
Drucken
Korrektur
Moritz Riesewick hat ein Buch über die Menschen und Methoden hinter der Moderation auf kommerziellen Plattformen geschrieben. Es ist gut geworden.

Moritz Riesewieck kam über das Theater zu der Recherche für das Buch „Digitale Drecksarbeit“. Für ein Projekt fliegt er auf die Philippinen, trifft professionelle Content-Moderatoren, wühlt im Firmengeflecht der Subunternehmen, die von Facebook & Co. angeheuert werden. Die Mitarbeiter dieser Firmen löschen täglich hunderttausende Inhalte: Strafbares, Pornografie, Hassrede. Je nachdem, was der Auftraggeber als nicht zulässig definiert hat.

Dann wurde mehr als ein Theaterprojekt und eine Performance aus seinen Nachforschungen: Riesewieck fängt an, tiefer ins Thema einzusteigen, macht einen Film, noch ein Theaterstück und schreibt als netzpolitischer Newcomer ein Buch. Dieses Buch ist ihm gut gelungen. Denn Riesewieck erzählt gekonnt, mit vielen Referenzen, grossem Wissen sowie philosophischen und religiösen Nebenaspekten, wie soziale Netzwerke unerwünschte Inhalte von ihren Plattformen entfernen lassen. Es macht Spass, ihm in der Recherche und seinen Gedanken zu folgen. Plötzlich sitzt man mit ihm am Tisch eines Schnellrestaurants in Manila und hört, was die Menschen zu sagen haben, die den ganzen Tag den Dreck anschauen, bewerten und löschen müssen, den andere so hochladen. Ein Einblick in Jobs, die kaum auszuhalten sind.

Jeden Tag schauen sich die Moderatoren hunderte, wenn nicht tausende Bilder und Videos an, welche von Facebook-Nutzern und Algorithmen markiert wurden. Vom Köpfungsvideo des Islamischen Staats über Kinderpornografie bis zur Selbstmordanleitung kann alles dabei sein. Spannend sind dabei auch die Grenzfälle, denn am Ende entscheidet auch das Bauchgefühl des Moderators darüber, ob ein Inhalt bestehen bleibt oder privat zensiert wird. Übrigens etwas, das auch in der Kommentarmoderation vieler klassischer Medien hierzulande die Entscheidungen bestimmt.

Kritik am Walled Garden

Doch Riesewieck beschäftigt sich nicht nur mit der Moderation von Inhalten. Sein Buch ist auch eine Kritik am Internet der Walled Gardens, in denen Konzerne intransparent entscheiden, wo die Meinungsfreiheit endet. Ein Internet, in dem die Moderation auf den Philippinen angesiedelt ist, nicht nur, weil es dort günstig ist und viele Menschen englisch sprechen, sondern weil das katholische Weltbild recht gut mit den Good-Clean-Fun-Moralvorstellungen des Silicon Valleys zusammenpasst. Das alles erzählt das Buch, schlägt die Brücke nach Europa und zu den Debatten in Deutschland um Hassrede und besorgte Bürger, die mit Morddrohungen in den Netzwerken herumhantieren.

Mittlerweile ist einiges bekannt geworden über die Facebook-Regeln, die Löschzentren und die Methoden der Unternehmen. Der Umgang mit Hate Speech und das Netzwerkdurchsetzungsgesetz haben die netzpolitische Debatte des Jahres geprägt und die Gefahren einer privatisierten Rechtsdurchsetzung deutlich gemacht. Gerade in Bezug auf diese deutsche Debatte ist Riesewiecks Text leider weniger stark und etwas knapp gehalten.

Länglicher wird es hingegen am Ende des Buches, wo er eher allgemein über die Auswirkungen der Existenz sozialer Netzwerke und die Beschleunigung der Kommunikation schreibt. Immerhin rutscht Riesewieck hier nicht ins Kulturpessimistische ab, dafür ist das Buch viel zu reflektiert, sondern kritisiert die Technikgläubigkeit im Silicon Valley und die Auswirkungen von sozialen Netzwerken auf den Einzelnen. Die Entwicklung hinterlasse bei den Nutzern eine Verlassenheit und Entwurzelung, was Riesewieck als Bedrohung für die Demokratie wahrnimmt.

Insgesamt ein spannendes und persönliches Sachbuch, das vielleicht nicht mit grossen Enthüllungen aufwarten kann, aber auch denjenigen einen Blick in die kommerzielle Content Moderation erlaubt, die sich bislang nicht damit beschäftigt haben.

Wulf Loh
netzpolitik.org

Moritz Riesewieck: Digitale Drecksarbeit. dtv Verlagsgesellschaft. 312 Seiten. ca. 19.00 SFr., ISBN: 978-3423261739

Dieser Artikel steht unter einer Creative Commons (CC BY-NC-SA 4.0) Lizenz.

Mehr zum Thema...
Hauptsitz von Facebook in Menlo Park, San Francisco.
Horror im SekundentaktFacebook-Zensoren leiden unter Horrorbildern

13.05.2016

- Tausende Billigarbeiter auf den Philippinen säubern Facebook & Co.

mehr...
Big Data Blur.
Made to MeasureDie Doppelgängerin

01.09.2021

- Das Doku-Projekt „Made to Measure“ will untersuchen, ob man das Leben eines Menschen anhand seiner Google-Daten nachspielen kann. Das Experiment zeigt, wie wenig wir inzwischen noch überblicken, was Konzerne aus unseren Datenspuren alles herauslesen können.

mehr...
Datacenter von Google in Holland.
Unsichtbar gemachte Entscheider*innenContent-Moderation, KI und Arbeitskämpfe im Internet

03.12.2020

- Jeder zensierte Videoclip und jeder als Spam geflaggte Kommentar geht auf ein einfaches binäres Denken zurück: angemessen/unangemessen.

mehr...
THE CLEANERS – Im Schatten der Netzwelt

22.05.2018 - Wer entscheidet, was online kommt und was nicht? Wer filtert Pornographie, Propaganda und Gewalt aus den unzähligen Texten, Bildern und Videos, die jede Sekunde im gesamten Internet hochgeladen werden.

Projekt A - Der Film Radio Graswurzelrevolution

09.02.2016 - Bürgerfunksendung ohne Musik! Projekt A – Der Film "Eine Reise zu anarchistischen* Projekten in Europa." Bernd Drücke im Gespräch mit den Regisseuren Moritz Springer und Marcel Seehuber Beim Thema „Projekt A“ denken sicher viele an den Projektanarchismus, der durch Horst Stowasser und sein 1985 erschienenes Buch „Projekt A“ inspiriert und mit initiiert worden ist.

Dossier: Flüchtlingsproblematik
Ggia (   - )
Propaganda
Stop Control

Aktueller Termin in Düsseldorf

Gemeinsame Anreise zur Demonstration in Solingen

Am 29.05. (Pfingstmontag) treffen wir uns um 10.40 Uhr am Ufa Palast neben dem Hauptbahnhof um gemeinsam zur Gedenkdemonstration nach Solingen zu fahren.

Montag, 29. Mai 2023 - 10:40 Uhr

Linkes Zentrum Hinterhof, Corneliusstraße 108, 40215 Düsseldorf

Event in Winterthur

SAVE THE DATE! Pfingsten: Treffen gegen die Stadt der Reichen

Montag, 29. Mai 2023
- 12:00 -

Infoladen Rabia

Bachtelstrasse 70

8401 Winterthur

Mehr auf UB online...

Kühlraum eines Schlacht- und Fleischverarbeitungsbetriebs.
Vorheriger Artikel

Joseph Ponthus: Am laufenden Band

Berichte eines modernen Fabrikarbeiters

Landtagswahl 2023 am 23. April 2023 in Salzburg. Gruppenbild der Spitzenkandidaten nach der Bekanntgabe der ersten Ergebnisse. Im Bild v.l.: Kay-Michael Dankl (KPÖ), Landeshauptmann-Stellvertreterin Martina Berthold (GRÜNE), Landeshauptmann Wilfried Haslauer (ÖVP), Marlene Svazek (FPÖ), David Egger (SPÖ), Landesrätin Andrea Klambauer (NEOS).
Nächster Artikel

Extremisten der Mitte

Salzburg: Bekümmerung in Mozartkugelland

Untergrund-Blättle