Photo by Tianyi Ma on Unsplash
Das Internet ist bunt, es ist nahezu allgegenwärtig und oft überfordernd. Billionen von Informationen versprechen den Usern unendliche Weiten. Beiträge werden geliked und geteilt und damit verbreitet: Von Katzen-Videos bis zu wissenschaftlichen Informationen kennt das Internet keine Grenzen. Auf gleichem Wege werden aber auch Themen wie Verschwörungstheorien oder sogar illegale Inhalte Beiträge der Öffentlichkeit zugänglich gemacht.
Letzterem widmen sich Menschen, die im Auftrag von Facebook, Google und Co. Webinhalte filtern und unzumutbare, unangebrachten Posts und Uploads löschen: Content-Moderator*innen. Sie sind die wahren Hidden Heroes der sozialen Netze, denn sie überprüfen und löschen auch jene Inhalte, die bei Nutzer*innen psychische Folgen bis hin zu Suizidgedanken hervorrufen könnten. Content-Moderation wird meist ausgelagert und findet unter oft schlechten Arbeitsbedingungen in Ländern wie den Philippinen oder Indien statt. Aber auch in Berlin und Essen arbeiten rund 1.000 Facebook-Content-Moderator*innen für Firmen wie die Bertelsmann-Tochter Arvato.
Auch Content-Moderator*innen sind von Corona-bedingten Kontaktverboten betroffen: Die Sichtung brutaler Videos und gewaltverherrlichender Posts im unfreiwilligem Wohnzimmer-Home-Office womöglich neben Schulkindern, die ihre Schulaufgaben erledigen? Unvorstellbar. Die Content-Plattform-Unternehmen forcieren u.a. daher für das Filtern der Inhalte im virtuellen Raum die Verwendung von algorithmischen Systemen und Künstlicher Intelligenz (KI), da Maschinen schneller größere Informationsmengen bearbeiten können, als es ihren menschlichen Counterparts möglich wäre.
Die Fehlbarkeit von automatisierten Systemen macht ausgerechnet die Pandemie deutlich: Diverse Posts zum Thema COVID-19 identifizierten die Algorithmen fälschlicherweise als Spams und zensierten sie. Auf diese Weise tragen sie nur weiter zur Infodemie, sprich, der Verbreitung von Fehlinformationen im Zuge der Pandemie, bei. Im Artikel Algorithmic content moderation: Technical and political challenges in the automation of platform governance widmen sich Robert Gorwa, Reuben Binns und Christian Katzenbach (2020) weiteren möglichen Auswirkungen der automatisierten Content-Moderation. Sie verweisen darauf, dass die Richtlinien und Regeln, nach denen die automatisierte Content-Moderation filtert, immer undurchsichtiger werden. Denn selbstlernende Maschinen machen es immer schwieriger nachzuverfolgen, was sie gelernt haben und welche Konsequenzen diese Lernprozesse haben werden.
Aktuell geht die Entwicklung hin zum so genannten Overblocking, dem systematischen Löschen und Verhindern von Online-Content auf der Grundlage von Regeln und Vorgaben, die keine Ausnahmen erlauben. Ein Beispiel ist das Löschen von Kunst- oder Satire-Beiträgen, die vermeintlich gegen Grundsätze der Plattformen, auf denen sie gepostet wurden, verstoßen. So wurde ein Tweet des Autors Tom Hillenbrand gelöscht, welcher sich auf die Europawahl 2019 bezog. Twitter argumentierte, der Beitrag verstoße gegen interne Richtlinien zu Wahlmanipulation. Das Landgericht München sah hingegen in Hillenbrands Tweet einen satirischen Beitrag, welcher durch das Recht auf freie Meinungsäußerung geschützt sei. Unternehmen wie YouTube und Facebook haben inzwischen eigene Abteilungen eingerichtet, bei denen ihre Nutzer*innen Beschwerde für solche mutmaßlich zu Unrecht gesperrten oder gelöschten Beiträge einreichen können. Eine außergerichtliche Lösung dieser Dispute ist nicht immer möglich. Die zunehmende Automatisierung von Content-Moderation und die damit einhergehende Intransparenz kann und wird wahrscheinlich zu einer Zunahme von Overblocking führen, ist es für Maschinen doch (noch) zu schwierig, die komplexen Nuancen von Satire, Kunst und Humor zu erkennen.
Die Automatisierung von Content-Moderation könnte darüber hinaus zu einem subtileren Problem, ja zur gewollten aber auch zur unabsichtlichen Manipulation der User führen, indem sie zur Reproduktion von sozialen Ungleichheiten und Diskriminierung beiträgt. Wenn die Moderation komplett automatisiert wird, ordnen Algorithmen auch Inhalte, die mit Kategorien wie Gender, Alter oder ethnischer Zugehörigkeit in Verbindung gebracht werden, unterschiedlich zu und bewerten diese. Als Beispiel nennen Gorwa et al. (ebd., S.11) die Möglichkeit, dass bei der Identifizierung von Hassreden nach Wörtern gefiltert wird, die vornehmlich von einer bestimmten sozialen Gruppe verwendet werden. Die Content-Moderation trägt also im Zweifelsfall nicht nur zur (Un-)Sichtbarkeit von bestimmten sozialen Gruppen bei, sondern unterstützt auch die Reproduktion bestehender Vorurteile. Ebenso nehmen die Plattformunternehmen Einfluss auf die Verbreitung terroristischer Organisationen. Facebook hält sich beispielsweise zugute, dass es 99,6% terroristischer Propaganda Einhalt gebietet, doch wird auch hier nicht deutlich, welche Organisationen in die Kategorie Terrorismus fallen (ebd., S.12).
Diese Probleme der Content-Moderation sind nicht neu, doch kann aufgrund der zunehmenden Intransparenz automatisierter Systeme davon ausgegangen werden, dass sich diese Probleme verschärfen werden, und das obwohl in den letzten Jahren eine Entwicklung hin zu mehr Transparenz von Seiten der Unternehmen zu erkennen war. Es ist nach wie vor wichtig, Plattformunternehmen in die Verantwortung gegenüber ihren Nutzer*innen, aber auch gegenüber der Gesellschaft, zu nehmen. Besonders in Bezug auf die Content-Moderation braucht es einen öffentlichen Diskurs. Dies sollte auch im Interesse der Plattform-Unternehmen liegen. Für ein Vertrauen in die Unternehmen müssen sie mehr Transparenz herstellen und selbst in die Verantwortung gehen. Bieten sie doch sonst noch mehr Angriffsfläche für (teils abstruse) Anschuldigungen, wie die des US-amerikanischen Präsidenten Donald Trump, der soziale Medien am liebsten verbieten wollen würde, sollten sie weiterhin Faktenchecks durchführen.
Serafina Löber
≠ transformation 