Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Herbst 2022

Im Herbst 2022 dominierten Fragen zur Gestaltung von digitalen Plattformen die Debatten über Hass im Netz. Das hängt mit der Übernahme Twitters durch Elon Musk zusammen (siehe dazu unsere Rubrik Blitzlicht). Sie verdeutlicht eindrücklich, dass die Macht über die Gestaltung wichtiger Plattformen mit einem erheblichen Einfluss auf die globale Öffentlichkeit einhergeht – und damit auf das Schicksal der Demokratien. Auch deswegen wurde die Frage hitzig diskutiert, ob man solch einen »Techno-Feudalismus« als Nutzer*innen nicht boykottieren müsse.¹

Zugleich zeigt der Aufstand im Iran, dass es globale Plattformen benötigt, um demokratischen Bewegungen in autoritären Systemen ein Sprachrohr zu geben und den Rücken zu stärken. Immerhin gehört es mittlerweile schon zum Playbook der Aufstandsbekämpfung in solchen Systemen, dass sie in Zeiten des politischen Ausnahmezustands dem Internet den Stecker ziehen. Dass der Tech-Mogul Musk den Protestierenden mit seinem Satelliten-Internetdienst Starlink hilft, die Internetsperre zu umgehen, macht die Konstellation nicht weniger zwiespältig.

Die Plattformökonomie ist widersprüchlich. Akteure, die an einer Stelle als Gefährder der Demokratie erscheinen, wirken an anderer Stelle gegen autoritäre Regime. Dass sich Geschäftsinteressen wie eine zweite Haut über den sozialen Kern des Internets legen, versteht sich von selbst. Jedoch weckt der Umstand, dass ein Milliardär die Spielregeln des öffentlichen Diskurses nach eigenem Gusto ändern kann, das Gefühl, dass sich die Demokratie einer solchen Allmacht erwehren muss. In der Rundschau beleuchten wir mitunter die Spielräume, die sich demokratischen Akteuren in dieser Konstellation bieten.

Strategische Interaktion: Aus der Praxis der Zivilgesellschaft

TikTok-Kampagne #GemeinsamGegenAntisemitismus: Hass gegen Jüdinnen und Juden findet sich auf jeder digitalen Plattform, ob in offener oder subtiler Form. Gerade bei audiovisuellen Inhalten wie auf TikTok kann es schwer fallen, dem zu begegnen. Oft sind die jungen Menschen, die diese Plattform vor allem nutzen, nicht dafür sensibilisiert, welche Muster und Codes auf antisemitische Weltbilder hindeuten. Die Bildungsstätte Anne Frank hat deswegen die Aufklärungskampagne #GemeinsamgegenAntisemitismus ins Leben gerufen, um antisemitischer Hetze und Verschwörungserzählungen auf TikTok nachhaltig entgegenwirken.² Sie arbeitet dabei mit reichweitenstarken Influencer*innen zusammen, die User*innen zum Benennen antisemitischer Inhalte ermutigen sollen. Ein hörenswerter Podcast³ und eine Argumentationshilfe⁴ begleiten das Projekt.

Verleumdungsklage gegen Twitter erfolgreich: Der Antisemitismusbeauftragte für Baden-Württemberg, Michael Blume, sah sich auf Twitter über Monate hinweg verleumderischen Pädophilie-Vorwürfen ausgesetzt. Obwohl über 40 Tweets mehrfach gemeldet wurden, ließ Twitter sie fast alle online stehen.⁵ Blume klagte daher – unterstützt von HateAid – gegen das Tech-Unternehmen; es sei für die Verbreitung der Tweets mitverantwortlich. Statt die nach dem Netzwerkdurchsetzungsgesetz (NetzDG) gemeldeten Inhalte auf ihre Rechtswidrigkeit zu überprüfen, habe Twitter bloß seine internen Richtlinien angewandt. Anwalt Chan-jo Jun argumentierte, dass das Persönlichkeitsrecht geschützt werden müsse, selbst wenn die Tweets nicht gegen die Regeln der Plattform verstoßen.⁶ Das Landgericht Frankfurt a.M. schloss sich dieser Interpretation an und verurteilte Twitter im Dezember 2022 erstinstanzlich.

Milliardenklage gegen Meta in Kenia: Der Tech-Konzern Meta wird in einer in Kenia eingereichten Klage beschuldigt, nicht genug gegen Facebook-Posts vorgegangen zu sein, die den Bürgerkrieg in Äthiopien angeheizt haben sollen.⁷ Laut Klage, eingereicht von zwei äthiopischen Forschern und dem kenianischen Katiba Institute, hätten die Empfehlungssysteme von Facebook Gewaltaufrufe verstärkt, darunter mehrere, die dem Mord am Vater eines der Forscher vorausgingen.⁸ Die Kläger fordern die Einrichtung eines Entschädigungsfonds in Höhe von 1,6 Milliarden US-Dollar. Ein wichtiger Hintergrund: Tech-Konzerne wie Meta haben in vielen afrikanischen und asiatischen Ländern weit weniger personelle Kapazitäten für die Moderation von Inhalten abgestellt.⁹ Schon in Myanmar wurden gezielt Hassinhalte über Facebook lanciert, um den Genozid an den Rohingya zu legitimieren.

Technische Kuration: Entwicklungen bei den Plattformen

Twitter zeigt Views von Tweets an: Seit dem 15. Dezember 2022 zeigt Twitter für alle transparent an, wie oft ein Tweet gesehen wurde.¹⁰ Damit soll offenbar demonstriert werden, dass die Plattform lebendiger ist, als es Likes, Retweets und Kommentare nahelegen. Seit seiner Übernahme versucht Musk nämlich insbesondere Werbetreibenden zu beweisen, dass das finanziell angeschlagene Unternehmen nichts an Dynamik verloren hat. Auch für User*innen möchte man damit wohl einen weiteren Nutzungsanreiz neben den Metriken direkter Interaktionen schaffen. Ein Nebeneffekt davon ist, dass damit der analytische Blick auf Reichweiten geschärft wird, da sich nun Zusammenhänge zwischen jenen Metriken, wie etwa Likes und Retweets, und den Views herstellen lassen. So lassen sich etwa die reine Anzahl von Hassinhalten und ihre tatsächliche Virulenz besser ins Verhältnis setzen.

Künstliche Intelligenz mit stereotyper Neigung: Im November 2022 wurde das Programm ChatGPT vom US-Unternehmen OpenAI der Öffentlichkeit zugänglich gemacht: eine künstliche Intelligenz (KI), die im Dialog mit den Nutzer*innen verschiedene Arten von Text erstellen kann.¹¹ Dies nährte Bedenken, dass sich derlei Technik negativ auf die Bildungs- und Kreativbranche auswirken könnte, wenn etwa Nutzer*innen damit erstellte Inhalte als eigene Leistung ausgeben. Auch für den politischen Diskurs könnte sie Folgen haben, da das Programm ja auch von problematischen Inhalten lernt, die online zuhauf zirkulieren. Bereits 2016 hatte der Chatbot Tay von Microsoft aufhorchen lassen, weil er rassistische Inhalte generierte, die er zuvor »erlernt« hatte,¹² zum Teil unter gezielter Einwirkung rechtsextremer Akteure.¹³ Zwar filtert das neue Programm von OpenAI nun unethische Inhalte stärker heraus. Es bleibt aber das Problem bestehen, dass die KI inhärent die Stereotype reproduziert, die den Daten eingeschrieben sind.¹⁴

TikTok kündigt algorithmische Transparenz an: Die Kurzvideo-Plattform TikTok will für mehr Klarheit sorgen, warum ihren Nutzer*innen bestimmte Inhalte angezeigt werden.¹⁵ Zuletzt stand der Mutterkonzern ByteDance in der Kritik, weil die Feeds keinen Hinweis darauf geben, warum manche Inhalte angezeigt werden – und andere nicht. Insbesondere von zivilgesellschaftlicher Seite wurde beklagt, dass bestimmte Hashtags und Darstellungsformen einem Shadowbanning unterliegen, wodurch marginale Positionen aus der Plattform gedrängt würden.¹⁶ Angedacht ist nun, dass es zu jedem Video Informationen geben soll, die seine Sichtbarkeit erklären. Hierzu zählen etwa Interaktionswerte, Followerzahlen, Aktualität und Geolocation.¹⁷ Auch für Beobachter*innen ergeben sich damit neue Möglichkeiten, um zu analysieren, warum bestimmte Hassinhalte viral gehen.

Politische Regulation: Maßnahmen von Staat und Behörden 

US-Senat verbietet TikTok-Nutzung auf Regierungsgeräten: Der US-Senat hat eine Gesetzesvorlage verabschiedet, die es Bundesbediensteten untersagt, die TikTok-App auf Geräten zu nutzen, die von der Regierung ausgegeben wurden.¹⁸ Die Maßnahme ist der jüngste Schritt Washingtons, um den Einfluss chinesischer Tech-Unternehmen zurückzudrängen. Insbesondere ist der Senat besorgt, dass ByteDance, der Konzern hinter TikTok, die Sicherheit der USA bedrohen könnte. Demnach wäre es Peking über die App möglich, an die persönlichen Daten von US-Amerikaner*innen zu gelangen und so Spionage zu betreiben. Schon unter der Trump-Administration gab es Bemühungen, den Dienst im Land abzuschalten; auch jetzt fordern republikanische Politiker*innen gar ein Verbot von TikTok in den USA.¹⁹

Forderung nach EU-Aufsicht über Twitter: Das Bundeswirtschaftsministerium hat die Forderung aufgestellt, Twitter in Europa unter direkte Aufsicht der EU-Kommission zu stellen. Damit soll nicht nur ein wettbewerbswidriges Verhalten von Twitter-CEO Elon Musk unterbunden, sondern auch das Risiko für Demokratie, Meinungs-, Informations- und Pressefreiheit durch den Dienst adressiert werden. Dies teilte Staatssekretär Sven Giegold Ende Dezember in einem Brief an die Europäische Kommission mit. Bereits im Oktober 2022, als Musk den Microblogging-Dienst übernahm, war eine erste Reaktion aus Brüssel, dass der Vogel in Europa nach den Regeln der Europäischen Union fliegen werde.²⁰ Ob allerdings Twitter als Gatekeeper eingestuft werden kann, damit eine EU-Aufsicht gemäß Digital Market Act (DMA) greifen kann, wird unter Expert*innen bezweifelt.²¹

Mastodon und das Gesetz über digitale Dienste: Da der Mikroblogging-Dienst Mastodon wächst, stellt sich die Frage, wie sich der Digital Services Act (DSA) der EU auf die Plattform auswirken könnte.²² Dieser wurde geschaffen, um Probleme bei der Moderation von Inhalten bei größeren Dienstleistern anzugehen. Allerdings ist Mastodon ein dezentrales System mit derzeit mehr als 3.000 Instanzen – alle mit ihren eigenen Nutzer*innen, Richtlinien und Admins.²³ Der DSA ist diesbezüglich unklar, wahrscheinlich ist aber, dass jede Instanz als unabhängige Plattform behandelt wird. Sie müssten dann alle eine Reihe von Mindeststandards erfüllen. Dazu gehören eine offizielle Kontaktstelle, eine rechtliche Vertretung, klare Geschäftsbedingungen, halbjährliche Transparenzberichte und die Übermittlung von Informationen über die Entfernung oder Einschränkung von Inhalten an die Melde- und Inhaltsanbieter.

Analytische Reflexion: Für die Praxis relevante Studien

Abstoßungseffekte in der digitalen Interaktion: Viel diskutiert wurde zuletzt eine Studie des Soziologen Petter Törnberg, die sich damit befasst, wie digitale Medien eine »affektive Polarisierung« vorantreiben.²⁴ Entgegen der (vereinfachten) Vorstellung von Echokammern schlussfolgert die Studie, dass die Verhärtung von Fronten weniger durch die Isoliertheit differenter Ansichten zu erklären ist. Vielmehr steigerten sich die Akteure über rege Interaktionen mit anderen Ansichten in einen Lagerkampf hinein. Die Studie verweist damit auf starke Abstoßungseffekte (Reaktanz), denen im Kampf gegen digitalen Hass mehr Aufmerksamkeit zukommen sollte. Zu diesen Ergebnissen spricht auch eine neue Studie zweier Datenwissenschaftler, der zufolge Hassrede häufiger durch moralisierende Sprache hervorgerufen wird.²⁵ Für Strategien, die auf die Minderung von Hassrede abzielen, sind solche Erkenntnisse kritisches Reflexionswissen.

Unbeabsichtigte Folgen von Warnhinweisen: Nicht nur Abstoßungseffekte können im Kampf gegen (digitalen) Hass unbeabsichtigte Folgen erzeugen. Bestimmte Praxen können auch Effekte auf kommunikative und emotionale Systeme haben – und sich so negativ auf Betroffene auswirken. So stellt eine aktuelle psychologische Studie fest, dass die Warnung vor verletzenden Inhalten zu einer Abnahme der Ambiguitätstoleranz führe und sich emotional labile Personen dadurch stärker von vieldeutigen Kommunikaten verletzt fühlten.²⁶ Sie reiht sich damit in eine wachsende Forschungsliteratur ein, mit der sich vorherrschende Praxen im Kampf gegen Hass kritisch reflektieren lassen. Bereits 2020 hatte etwa eine andere psychologische Studie zum Ergebnis, dass Triggerwarnungen zu einem Anstieg von Ängsten bei Personen mit traumatischem Hintergrund führen würden.²⁷

Sachbuch über YouTube jetzt auch in deutscher Sprache:YouTube ist die digitale Plattform mit der weltweit größten Reichweite. Allein 95 Prozent der Jugendlichen in den USA nutzen laut einer Umfrage den Videostreaming-Dienst,²⁸ womit sie andere Plattformen weit in den Schatten stellt. Umso bemerkenswerter ist, dass in den Debatten über digitalen Hass YouTube kaum mehr Erwähnung findet. Generell sind viele Aspekte dieser global dominanten und von Google betriebenen Plattform noch immer wenig erforscht. Der Journalist Mark Bergen schafft hier mit seinem investigativen Sachbuch Abhilfe. Wie sich der Aufstieg zur »globalen Supermacht« vollzog, welche Geschäftsmodelle hinter der Programmierung der Algorithmen stecken und inwiefern YouTube seine gesellschaftliche Verantwortung wahrnimmt, lässt sich in der jüngst auf Deutsch erschienenen Ausgabe nachlesen.²⁹