Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Sommer 2023

Der Sommer 2023 war geprägt von digitalen Migrationsbewegungen. Dazu gehört insbesondere, dass der Kurznachrichtendienst X, der bis vor kurzem noch auf den Namen Twitter hörte, zuletzt erneut eine Abwanderung vieler Nutzer*innen zu verzeichnen hatte. Bereits im vergangenen Jahr, kurz nach der Übernahme der Plattform durch Tech-Unternehmer Elon Musk, suchten viele User*innen nach Alternativen, die dann allerdings nicht den Durchbruch hatten, den sich viele erhofften. Während der anfängliche Hype um die Fediverse-Alternative Mastodon abgeebbt ist, steht inzwischen mit Bluesky Social eine weitere Option parat. In der aktuellen Beta-Version ist sie allerdings nur über einen Invite Code zugänglich. Was aber ist ausschlaggebend für diesen Andrang auf ein Netzwerk, das sich noch in der Testphase befindet? Neben den vielen technischen Änderungen, die unten ausführlicher zusammengefasst sind, ist auch das Verhalten von Musk selbst ein gewichtiger Push-Faktor für die Abwanderung.

So machte dieser jüngst insbesondere in Deutschland von sich reden, als er den Beitrag eines pro-russischen Propagandakanals teilte¹: ein Video, das die Seenotrettung von Flüchtlingen im Mittelmeer durch deutsche Organisationen zeigt – versehen mit einer Caption, die zur Wahl der AfD aufruft, um einen »europäischen Suizid« zu verhindern. Solche Beiträge von Musk lassen sich kaum noch als Ausrutscher deuten. Schon öfter hat er jetzt als Broker von Propaganda fungiert. Aktuell lässt sich das auch an seinen Nachrichtenempfehlungen zur Situation in Israel/Palästina sehen. Hier schlug er Accounts vor, die mit antisemitischen und manipulativen Inhalten auffallen.² Obendrein hat sich auch EU-Kommissar Thierry Breton eingeschaltet. Er forderte Musk auf, terroristische Inhalte auf X zu verbieten, wobei er sich auf den Digital Services Act beruft.³ Ob das Verhalten des CEOs allerdings als repräsentativ für die politischen Dynamiken auf der Plattform insgesamt gesehen werden kann, wird in Fachkreisen kontrovers diskutiert.⁴

Indessen haben sich viele X-User*innen auf Bluesky eingefunden, darunter auch die Antidiskriminierungsstelle des Bundes, die sich zum Abschied von der »Desinformationsplattform« X erklärte.⁵ Im Gegensatz zu anderen Alternativen läuft Bluesky zentral auf einem Server, wenngleich bereits eine Dezentralisierung angekündigt wurde. Im Oktober konnte die Plattform bereits 1,5-Millionen Nutzer*innen vermelden – Tendenz steigend.⁶ Ob der Schwung ausreicht, um sich oben zu etablieren, bleibt abzuwarten. Welche Probleme es bei einer digitalen Massenmigration geben kann, haben wir bereits im Winter mit Michael Seemann diskutiert.⁷ Er betonte, dass neben dem passenden Momentum auch die technischen Affordanzen der neuen Plattform wichtig seien. Sie könnten auch Konflikte bis hin zur Selbstzerfleischung stimulieren. Zeigen muss Bluesky auch, ob es – sollte das Wachstum konstant bleiben –, die Anforderungen an eine große Plattform erfüllen und trotzdem schwarze Zahlen schreiben kann. Davon ist die Aktiengesellschaft nämlich ebenso abhängig wie X –⁸ und da kann von einer Konsolidierung gerade keine Rede sein.

Strategische Interaktion: Aus der Praxis der Zivilgesellschaft

Mittelkürzungen für zivilgesellschaftliche Projekte: Im Sommer verbreitete sich schnell die Nachricht von finanziellen Einschnitten bei Projekten gegen digitalen Hass. Insgesamt 130 Millionen Euro werden im kommenden Jahr bei den Förderungen durch verschiedene Ministerien eingespart. Betroffen davon sind etwa die Beratungsstelle Hate Aid, die Amadeu Antonio Stiftung, Teile des Bundesfreiwilligendiensts und die Bundeszentrale für politische Bildung (bpb). Inzwischen werden die Kürzungen jedoch parteiübergreifend kritisch diskutiert. Auch in der Zivilgesellschaft regte sich Widerspruch. Eine Petition der Amadeu Antonio Stiftung, zu deren Erstunterzeichner*innen auch Das Nettz gehört,⁹ schlossen sich bereits über 70.000 Unterstützer*innen an.¹⁰ Der öffentliche Druck hatte denn auch Folgen: Erst kürzlich beschloss der Bundestag, dass Hate Aid im Jahr 2024 doch weiter gefördert werde.¹¹ Auch nahm Innenministerin Nancy Faeser die angekündigten Einsparungen von 20 Millionen Euro vorerst wieder zurück. Allerdings stehen Haushaltsverhandlungen noch bevor.¹²

Aufklärungskampagne #AFDnee: Im Kontext des blauen Umfragehochs initiierte der Verein zur Förderung demokratischer Bildung und Kultur (Demokult e.V.) die Hashtag-Kampagne #AFDnee. Sie soll potenzielle Wähler*innen der AfD zum Nachdenken über die Konsequenzen ihrer Entscheidung anregen. Demokult bezieht sich damit auf ein Papier des Wirtschaftsforschers Marcel Fratzscher (DIW Berlin), wonach gerade diejenigen, die am ehesten die AfD wählen, am meisten unter den anzunehmenden Folgen ihres Programms zu leiden hätten.¹³ Insbesondere werden damit potenzielle AfD-Wähler*innen an ihre sozio-ökonomischen Interessen erinnert. Dazu setzt die Kampagne auf Bilder, in denen fiktive Menschen aus der Zukunft erklären, aus welchen, meist emotionalen Gründen sie die AfD gewählt haben und welche Folgen deren Politik auf ihre persönlichen und wirtschaftlichen Verhältnisse gehabt hätte. Kritisch zu hinterfragen wäre allerdings, wie sehr ausschlaggebend sozio-ökonomische Interessen für Wahlentscheidungen sind, die auch von anderen Bedürfnissen geprägt sein können.

Neue Handreichung zu apokalyptischen Narrativen: Ob des angeblichen Untergangs des christlichen Abendlandes, der Mär vom Bevölkerungsaustausch oder auch eines viel beschworenen Blackouts im Kontext der Energiekrise:¹⁴ Untergangsszenarien finden in vielen politischen Milieus ihren Anklang und können demokratiegefährdende Dimensionen annehmen. Das Zentrum Liberale Moderne hat sich daher im ersten Teil einer neuen Reihe – den »Narrativ Checks« – diesem Problemkomplex gewidmet. Die digitale Handreichung Apokalypse now what führt zunächst grundlegend in die historischen Ursprünge und politischen Bedeutungen von apokalyptischen Erzählungen ein, anschließend versammelt sie mehrere Beiträge, die die Rolle von Untergangsszenarien in verschiedenen Phänomenbereichen verorten.¹⁵ Neben der Apokalyptik in Verschwörungserzählungen, im Islamismus oder in der Prepper-Szene wird das Narrativ von der Klimakatastrophe als Sonderfall diskutiert. Weiterhin enthält die Broschüre eine Vorstellung des Projekts Good Gaming,¹⁶ praxisrelevante Einschätzungen und ein Glossar.

Technische Kuration: Entwicklungen bei den Plattformen

Entwicklungen auf X (ehem. Twitter): Wie einleitend schon angedeutet, überschlagen sich die Ereignisse um die Plattform X. Nicht nur, dass munter rebrandet wird (Twitter heißt jetzt X, der Vogel wurde durch ein stilisiertes X ersetzt, Tweets sind jetzt Posts), auch technisch wird weiter herumgespielt. So wurden erst kürzlich die Überschriften bei geteilten externen Inhalten abgeschafft, was die Identifikation seriöser Nachrichten erschweren dürfte.¹⁷ Zudem wurden weitere Mitarbeiter*innen entlassen, die mit der Eindämmung von Desinformation befasst waren.¹⁸ Auch soll erwogen werden, Grundfunktionen von X zu monetarisieren.¹⁹ Mit ersten Abos wird bereits in Neuseeland und den Philippinen experimentiert,²⁰ angeblich in der Absicht, die vielen Bots damit zu begrenzen.²¹ Obendrein fiel der X-CEO im Kontext von Debatten über Antisemitismus auf, nachdem die Anti-Defamation League (ADL) X dazu aufgefordert hatte, die Moderation mit Blick auf antisemitische Inhalte zu verbessern. Musk warf daraufhin der jüdischen Organisation vor, der Reputation der Plattform zu schaden und Werbetreibende zu verschrecken. Antisemitismusforscher David Austin Walsh sieht mit dieser Täter-Opfer-Umkehr eine »rote Linie« überschritten.²² Zuletzt erwog Musk sogar eine Verleumdungsklage gegen die Organisation.²³

WhatsApp führt Kanalfunktion ein: Während Instagram bereits Anfang des Jahres bekannt gab, eine Broadcast-Funktion für Creator*innen zur Verfügung zu stellen,²⁴ zog nun auch WhatsApp, der Messenger von Meta, nach.²⁵ Seit September ist es auch dort möglich, one to many zu kommunizieren. User*innen können sich nun einen Kanal erstellen und Nachrichten, Fotos oder Videos an ein größeres Publikum ausspielen, das wiederum über kleine Reactions Feedback geben kann. Inhalte werden allerdings nach 30 Tagen wieder gelöscht und sind dann nicht mehr für die Abonnent*innen einsehbar. Mit dieser Funktion schließt WhatsApp zur Konkurrenz von Telegram auf, die schon vor Jahren eine Kanalfunktion integriert hatte. Zuletzt machte der Dienst jedoch vor allem als Hort verschwörungsideologischer Inhalte von sich reden. Davon unterscheidet sich Whatsapp derzeit deutlich. Während sich auf Telegram Akteure wie Boris Reitschuster, Eva Herrmann und AUF1 oben in den deutschen Charts tummeln, senden auf WhatsApp vor allem Konzerne, Fußballvereine oder Nachrichtenportale.

Moderationspraxis im Israel-Gaza-Krieg: Im Zuge des Terrorangriffs der Hamas auf Israel ist TikTok in den Fokus medialer Aufmerksamkeit gerückt. Wohl nicht zuletzt, weil die audiovisuellen Inhalte von einer eher jungen Zielgruppe konsumiert werden.²⁶ Außerdem wird dem Unternehmen eine Verbindung zur KP Chinas nachgesagt, weswegen mit der Plattform auch geostrategische Interessen assoziiert werden. Der sonst moderatorisch zurückhaltende Social-Media-Riese gab nun binnen einer Woche nach Kriegsbeginn bekannt, welche Maßnahmen er gegen Propaganda und Desinformation ergriffen habe.²⁷ Nach eigenen Angaben wurden in neun Tagen mehr als 500.000 Videos entfernt und über 8.000 Live-Übertragungen gestoppt.²⁸ Aber auch die konkurrierenden Dienste von Meta erklärten, ihre Moderationspraxis anzupassen.²⁹ X hingegen setzt auf crowd-basierte Community Notes. Einer investigativen Recherche zufolge machen diese das Problem jedoch eher schlimmer; andere Studien sehen zumindest keine signifikanten Effekte, da die Inhalte meist zu spät bemerkt würden.³⁰

Politische Regulation: Maßnahmen von Staat und Behörden 

DSA für große Online-Plattformen in Kraft getreten: Seit Ende August gilt der Digital Services Act (DSA). Er etabliert auf europäischer Ebene rechtskräftige Standards für digitale Dienste. Zunächst gilt der DSA für Plattformen und Suchmaschinen, die mindestens zehn Prozent aller EU-Bürger*innen erreichen. Ab Februar 2024 wird der Geltungsbereich auf kleinere Dienste ausgeweitet und der bisher freiwillige Code of Practice on Disinformation verpflichtend.³¹ Der DSA beinhaltet primär einheitliche Regeln bezüglich illegaler Inhalte, Moderation und Transparenz. Dadurch sollen Meldeverfahren niedrigschwelliger gestaltet, alternative Empfehlungssysteme bereitgestellt und ein Datenzugang für die Forschung gewährleistet werden.³² Während erste Plattformen sich auf die Umsetzung einstellen,³³ fürchten Kritiker*innen, dass sich kontroverse Themen in verschlossene Kommunikationsräume verlagern.³⁴ Auch unser Beiratsmitglied Wolf Schünemann verweist auf die Fallstricke staatlich repressiver Maßnahmen gegen Desinformationen und macht darauf aufmerksam, dass Zensur ein beliebte Methode autoritärer Regime sei.³⁵

Entwurf für Digitale-Dienste-Gesetz liegt vor: Die DSA-Umsetzung geht mit einigen Unklarheiten bei der nationalen und behördlichen Übersetzung einher. In Deutschland etwa legte das Bundesministerium für Digitales und Verkehr (BMDV) zwar im August den Entwurf für ein Digitale-Dienste-Gesetz vor, das den DSA ergänzen soll, allerdings ist immer noch unklar, welche Institutionen ab Februar als Digital Services Coordinator (DSC) fungieren werden. Als sicher gilt, dass die Bundesnetzagentur (BNtzA) eine zentrale Rolle spielen soll; vermutlich wird sie durch den Bundesdatenschutzbeauftragten (BfDI) und durch die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) unterstützt. Umstritten ist wiederum, wie die Beteiligung des Bundesamts für Justiz (BfJ) und der Landesmedienanstalten (LMA) aussehen soll. Ferner fordern Teile der Zivilgesellschaft auch eine Zusammenarbeit mit externen Fachleuten, die Einrichtung eines Beirats und eine kontinuierliche Evaluierung des DSC.³⁶ Die EU forderte die Mitgliedstaaten indessen auf, die Umsetzung zu beschleunigen.³⁷

Staatlicher Druck auf Telegram zur Löschung von Hamas-Propaganda: Bereits beim Aufstieg des Islamischen Staates spielte der Messenger-Dienst Telegram eine wichtige Rolle. Über ein weites Netzwerk wurden damit Propaganda-Statements und -Videos aus den Kriegsgebieten auf die Smartphones weltweit gebracht. Später brüstete sich Telegram damit, entschieden gegen islamistische Hetzer vorgegangen zu sein und die Plattform sicherer gemacht zu haben.³⁸ Im Kontext des Israel-Gaza-Kriegs nimmt der Messenger wieder eine wichtige Rolle ein.³⁹ Hier nun rühmt sich Telegram-CEO Pavel Durov damit, dass seine Plattform eine »einzigartige Quelle für Informationen aus erster Hand« sei.⁴⁰ Deswegen würden Informationen der Hamas nicht gelöscht; u.a. warne diese ja auch israelische Bürger*innen vor Raketenbeschuss. Tatsächlich war Telegram bisher eine wichtige Plattform für die Terrororganisation. Politischer Druck ändert das gerade. So sollen nach einer Intervention des BKA wichtige Kanäle der Hamas gesperrt worden sein.⁴¹

Analytische Reflexion: Für die Praxis relevante Studien

Studien zu Polarisierung in Kooperation mit Facebook: Seit dem Skandal um Cambridge Analytica im US-Wahlkampf 2016 hat Facebook seine Programmierschnittstelle dauerhaft für Forscher*innen geschlossen. In diesem Sommer erschienen erstmals seit der verhängten Blockade vier neue Studien, für die Meta die empirische Grundlage bereitstellte. Die Arbeiten experimentierten u.a. mit manipulierten Variablen, um zu untersuchen, welchen Einfluss die algorithmische Kuratierung des Newsfeeds,⁴² das erneute Teilen von Postings (Reshares)⁴³ und sogenannter like-minded content⁴⁴ auf politische Polarisierung haben. Sie kommen weitestgehend zum Schluss, dass sie zwar stark bedingen, was den Nutzer*innen angezeigt wird, ihre politischen Überzeugungen aber nicht signifikant veränderten. Ein viertes Experiment stellte hingegen eine ideologische Polarisierung beim Konsum von Nachrichten fest.⁴⁵ Kritiker*innen bemängeln, dass Verallgemeinerungen wegen des engen Untersuchungszeitraums schwierig seien,⁴⁶ aber auch den intransparenten Prozess der Datenbereitstellung.⁴⁷

Studie zur Wahrnehmung von Desinformation: Im August hat das Projekt Upgrade Democracy der Bertelsmann-Stiftung eine neue Studie zum Thema Desinformation in der EU vorgestellt.⁴⁸ Insgesamt wurden über 13.000 Bürger*innen aus allen Mitgliedstaaten zu ihrer Wahrnehmung von Desinformation, aber auch zu ihrer Zufriedenheit mit dem Zustand der Demokratie befragt. Über ein Drittel gab dabei an, häufig auf desinformierende Inhalte zu stoßen. Die Hälfte der Befragten sei sich zudem unsicher, inwieweit sie Informationen aus dem Internet vertrauen können. Dennoch stellen weniger als die Hälfte die Informationen auf den Prüfstand; noch weniger greifen zu Interventionen. Der Soziologe Nils C. Kumkar ordnete die Ergebnisse und die daraus abgeleiteten Empfehlungen kritisch ein: Er verwies dabei darauf, dass die Befragung lediglich auf der Wahrnehmung von Desinformation beruhe – über die tatsächliche Verbreitung und Wirkung von Desinformation sage das wenig aus. Es müsse außerdem hinterfragt werden, inwieweit der Diskurs über Desinformation selbst die Wahrnehmung von Desinformation präge.⁴⁹

Studie zu Effekten von Hass- und Gegenrede: Im September veröffentlichten Kommunikationswissenschaftler*innen der Universität Wien eine Studie, die sich mit den Auswirkungen von Hass- und Gegenrede befasst.⁵⁰ Konkret gehen sie darin der Frage nach, inwiefern sich Hassrede auf die Vorurteile der Rezipient*innen auswirken. Außerdem wird untersucht, welchen Effekt Gegenrede auf die Wahrnehmung von sozialen Gruppen hat, gegen die sich Hassinhalte richten. Dafür testen sie, ob sich die Ergebnisse früherer Studien, die sich mit Vorurteilen gegenüber Menschen muslimischen Glaubens und Geflüchteten beschäftigten, auch in Bezug auf Chines*innen und Transpersonen replizieren lassen. Die Ergebnisse legen nahe, dass die Wahrnehmung von Hassinhalten zum einen vom nationalen Kontext abhängt, zum anderen davon, welche soziale Gruppe genau online abgewertet wird. Auffallend ist jedoch, dass Personen, die Hassrede bereits im Vorfeld als störend wahrgenommen haben, Gegenrede in Kommentarspalten eher begrüßen. Auf Personen hingegen, die als vorurteilsbehaftet eingeordnet werden, hat Gegenrede einen gegenteiligen Effekt: Ihre Einstellungen gegenüber der sozialen Gruppe radikalisierten sich noch, so dass die Autor*innen sogar von einem »Bumerang-Effekt« sprechen.