Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Frühjahr 2024

#reclaimtiktok im Europawahlkampf: Im ersten Halbjahr diesen Jahres wurde mehrfach die Dominanz der AfD und anderer rechter und rechtsextremer Akteure auf TikTok beklagt; andere Akteure des politischen Spektrums kämen auf deutlich weniger Reichweite, hieß es.¹⁷ Um die Kräfte zu vereinigen und ein Zeichen im Kampf gegen Rechtsextremismus zu setzen, kreierte die Bewegung Fridays For Future den Hashtag #reclaimtiktok. Mit dieser Hashtag-Kampagne sollten junge Menschen im Europawahlkampf erreicht werden, um ihnen eine Alternative zu rechtsextremem Content zu bieten. Knapp 50.000 TikTok-Videos sind unter diesem Hashtag abgesetzt worden, deren Themen von alltäglichen Problemen über Umweltpolitik bis hin zu Rechtsextremismus eben reichten. Ähnlich wie schon bei anderen Hashtags versuchten auch hier die AfD und ihr ideologisches Vorfeld, den Hashtag zu kapern, hatten damit aber nur mäßigen Erfolg.

Gründung des Center for User Rights: Der Digital Services Act (DSA) gibt Organisationen wie der Gesellschaft für Freiheitsrechte (GFF) die Möglichkeit, Nutzer*innen gegenüber Plattformen zu vertreten und Beschwerderechte für sie wahrzunehmen (Art. 86 des DSA), etwa wenn sie Plattformentscheidungen wie systemische Kontosperrungen, Downranking oder die Entfernung von Inhalten anfechten möchten. Die eingereichten Beschwerden sollen zudem vorrangig bearbeitet und zeitnah entschieden werden. Bis jetzt haben die Plattformen der gesetzlichen Vorgabe entweder keine oder nur mangelhaft Rechnung getragen. Die GFF hat deshalb eine Sammelbeschwerde gegen Google, X, TikTok, LinkedIn und Meta eingereicht.¹⁸ Mit dem im Januar 2024 gegründeten Center for User Rights will die GFF die Rechte von Nutzer*innen nachhaltig stärken, einfordern und durchsetzen – vor allem beim Thema Inhaltsmoderation, Meldewege und Datenzugang.¹⁹

Neues Projekt – Bürgerrat gegen Fakes: 84 Prozent der Menschen denken, dass Desinformation im Internet ein großes Problem für unsere Gesellschaft und für die freiheitliche Demokratie sei.²⁰ Mit dem Projekt »Forum gegen Fakes – Gemeinsam für eine starke Demokratie« möchte die Bertelsmann-Stiftung eine bundesweite Bürgerbeteiligung zum Umgang mit Desinformation anstoßen.²¹ Das Format kombiniert zwei Formen von Bürgerbeteiligung: eine für alle offene Online-Beteiligung und ein zufällig ausgewählter Bürger*innenrat, der die eingereichten Vorschläge, Kommentare und Einschätzungen aufbereitet, Themenschwerpunkte setzt und Handlungsempfehlungen ableitet. Am 9. Juli ging die letzte Online-Beteiligungsphase zu Ende. Insgesamt haben 1,5 Millionen Bürger*innen abgestimmt. Jetzt werden die Handlungsempfehlungen des Rats mit den Ergebnissen der Beteiligung in einem Bürgergutachten aufbereitet.

Likes auf X sind jetzt anonym: Dass das Liken von Social-Media-Beiträgen auch zum Politikum werden kann, musste kürzlich die TU-Präsidentin, Geraldine Rauch, erfahren. Ihr wurde vorgeworfen, Beiträge auf X gelikt zu haben, die von vielen als eindeutig antisemitisch eingestuft werden.²² Dies dürfte vorerst der letzte Fall dieser Art gewesen sein. Noch im selben Monat erklärte das Engineering Team von X Likes zur Privatsache.²³ Vor diesem Schritt war X eine der wenigen Plattformen, auf denen andere über einen separaten Tab einsehen konnten, was einem Profil in der Vergangenheit gefiel. Nun sind Likes global nicht mehr einsehbar. Elon Musk bekräftigte den Schritt und betonte, dass es wichtig sei, wenn Menschen Likes vergeben können, ohne dafür öffentlich angegriffen zu werden.²⁴ Aus Sicht der Plattform könnte dies den positiven Nebeneffekt haben, dass ungehemmteres Liken die Interaktionen auf der Plattform steigern könnten.

Bluesky nun auch offen für ungeladene Gäste: Als Thronfolger von X, dem führenden, aber in Verruf geratenen Kurznachrichtendienst, wurde im vergangenen Jahr auch Bluesky gehandelt.²⁵ Während der Beta-Phase war die Anmeldung bei diesem Dienst aber nur auf Einladung möglich und damit geladenen Gästen vorbehalten. Seit Februar diesen Jahres ist die Exklusivität aufgehoben und die Testphase beendet.²⁶ Um dem Kreislauf großer Plattformen, der sogenannten Enshittification zu entkommen,²⁷ so erklärte BlueSky-CEO Jay Graber in einem Interview, würde die Plattform in Fragen der Moderation sowohl auf feste Regeln als auch auf die User*innen setzten.²⁸ Die Öffnung führte zu einem kleinen Schub bei den Anmeldungen auf der Plattform, die zwar kontinuierlich steigen, aber X nicht das Wasser reichen können. Außerdem gab der ehemalige Twitter-CEO und BlueSky-Gründer Jack Dorsey seinen Rücktritt bekannt; er kappte alle Verbindungen zur Plattform.²⁹

Bei OpenAI ist viel los: Gerade noch veröffentlichte das Noch-Non-Profit-Unternehmen seinen Text-zu-Videogenerator Sora in der Beta-Version,³⁰ da folgte schon das optimierte Sprachmodell GPT-4o. Dieses ist zwar nur geringfügig leistungsfähiger als die Vorgänger GPT-4 Turbo und GPT-4, aber o-mni(präsent). So soll es nach einer Testphase für Plus-Abonnent*innen frei verfügbar sein. Der Clou: die Sprachassistentenfunktion des Modells, die ein bisschen wie Scarlett Johansson im Film Her klingt.³¹ Das zeigt auch: Die Texteingabe bei Sprachmodellen ist auf dem Rückzug; Fotos, Sprachnachrichten und Videos dominieren als In- und Output. Neben all der Optimierung steht OpenAIs ChatGPT aber immer noch in der Kritik, Fehlinformation zu reproduzieren.³² Im Frühjahr deckte das Unternehmen sogar fünf Desinformationskampagnen von staatlich unterstützen Akteuren auf, die für Inhalte und Programmiercodes auf ChatGPT zurückgriffen.³³

Digitale-Dienste-Gesetz ist in Kraft: Seit dem 14. Mai, also knapp drei Monate nach Inkrafttreten des DSA auf EU-Ebene, gilt das Digitale-Dienste-Gesetz in Deutschland. Als nationale Koordinierungs- und Aufsichtsbehörde hat die Bundesnetzagentur (BNtzA) ihre Arbeit aufgenommen.³⁴ Für zivilgesellschaftliche Akteure eröffnen sich dadurch neue Optionen: So können sie sich über die BNtzA, die auch als Beschwerdestelle fungiert, als Hinweisgeber*innen oder Streitbeilegungsstelle akkreditieren lassen, besseren Datenzugang erlangen und für ihre Belange eintreten.³⁵ Dafür gibt es auch einen Beirat. Seit Anfang Juni steht er formal als beratendes Organ zur Seite. Mit Bündnis 5, Zentrum digitaler Fortschritt D64, HateAid und LOAD sind auch zivilgesellschaftliche Stimmen vertreten.³⁶ Außerdem wurde die KidD-Stelle bei der Bundeszentrale für Kinder- und Jugendmedienschutz zur Durchsetzung von Kinderrechten im digitalen Dienst gegründet.³⁷

Datenzugang für Forschung stockt: Mit dem Artikel 40 des DSA soll es Forscher*innen leichter möglich werden, Zugang zu den Daten von Plattformen zu erlangen. Bislang gestaltet sich dies nämlich als schwierig, selbst wenn die Daten auf den Plattformen selbst bereits verfügbar sind. Das zeigt auch das vorläufige Ergebnis einer Untersuchung der EU-Kommission bezüglich X.³⁸ Dass CrowdTangle als etabliertes Analysetool im August von Meta eingestellt werden soll, macht die Sache nicht einfacher.³⁹ Mit einem offenen Brief wandte sich daher Mozilla für viele Organisationen an Meta und die EU-Kommission – nachdem diese ein Verfahren gegen Meta eingeläutet hatte⁴⁰ – und forderte, die Laufzeit von CrowdTangle zu verlängern.⁴¹ Der DSA 40 Data Access Tracker des Weizenbaum Instituts und der European New School versucht derweil, Anträge für Datenzugänge zu sammeln, um besser zu verstehen, warum sie angenommen oder abgelehnt werden.⁴²

KI-Regulierung braucht nationale Aufsicht: Am 1. August tritt der Artificial Intelligence-Act (AI Act) in Kraft. Was die BNtzA für den DSA ist, muss für den AI Act noch gesucht werden. Die KI-Verordnung sieht vor, dass nationale Gesetzgeber innerhalb von zwölf Monaten nach Inkrafttreten eine KI-Aufsicht bestimmen müssen. Bis Frühjahr 2025 muss auch Deutschland eine solche Behörde nominieren – mit entsprechendem Fachpersonal. In Brüssel gibt es schon das EU AI Office, die europäische KI-Behörde. Eine ihrer ersten Aufgaben ist es, Verhaltenskodizes für General Purpose AI, also KI-Systeme, die für verschiedene Zwecke genutzt werden können, auszuarbeiten. Anbieter wie OpenAI oder Microsoft können die Kodizes nutzen, um die Einhaltung ihrer Verpflichtungen nachzuweisen, bis harmonisierte Standards geschaffen werden. Wer diese Kodizes entwirft und ob zivilgesellschaftliche Beteiligung erwünscht ist, ist bislang aber ein Rätsel.⁴³

Bots oder Supersharer: Während sich die psychologische Forschung mit der Frage beschäftigt, wer anfällig für Desinformation ist, ist wenig darüber bekannt, wer sie verbreitet. Ein israelisches Forschungsteam hat dazu nun Ergebnisse vorgelegt.⁴⁴ Anhand einer Stichprobe der Inhalte von über 600.000 Twitter-Accounts während des US-Wahlkampfs 2020 wurde analysiert, welche Nutzer*innen Desinformation teilten, indem die Profile mit dem Wahlregister abgeglichen wurden. Sie fanden heraus, dass tendenziell ältere, weiße, konservative Frauen solche Inhalte verbreiteten. Bei den »Supersharern« gingen die Forscher*innen zunächst davon aus, dass es sich um automatisierte Nachrichten handele, waren aber überrascht, dass 0,3 Prozent der User*innen für 80 Prozent der Desinformation verantwortlich waren.⁴⁵ Die Studie ist aber nur bedingt aussagekräftig, da das Retweet-Verhalten anonymer User*innen nicht abgeglichen werden konnte.

Das rechte Ökosystem und das Klima: Eine netzwerkanalytische Studie beschäftigt sich mit der Verbreitung rechtsextremer Frames im Kontext der Klima-Debatte und hat zusammenhängende Dynamiken im Zeitverlauf analysiert.⁴⁶ Sie differenziert sowohl zwischen Parteien, aktiven Social-Media-Accounts als auch rechtsextremen Nachrichtenseiten und etablierter Presse. Herausgefunden wurde, dass signifikante Wortkombinationen, die ausschließlich von rechtsextremen Akteuren genutzt werden, sich in keine typischen Verbreitungsmuster einordnen lassen. Bei den relevanten Frames, der sich die Akteure bedienten, wurde etwa gegen einen vermeintlichen »Klimakult« der Grünen oder der Klimabewegung agitiert. Die konkrete Leugnung des Klimawandels war hingegen weniger präsent. Die Ergebnisse decken sich weitgehend mit denen des Centers for Countering Digital Hate, das einen rhetorischen Wandel im rechtsextremen Klimadiskurs feststellt.⁴⁷

Das Timing beim Content Warning: In zwei Laborexperimenten wurde der Frage nachgegangen, welche Rolle der Zeitpunkt bei der Warnung vor Desinformation spielt.⁴⁸ In der Studie fanden sich Hinweise, dass Vorwarnungen einen stärkeren Effekt haben könnten als nachgelagerte Hinweise auf das Vorliegen von Desinformation. Allerdings konnten in beiden Fällen ein Continued Influence Effect nachgewiesen werden: Nach kurzer Zeit verblasste auch bei den Probant*innen, denen eine Vorwarnung gezeigt wurde, die Erinnerung an selbige. Das psychologische Phänomen hängt mit der Tendenz zusammen, dass Desinformation auch im Nachhinein das Denken von Menschen beeinflusst, selbst wenn sie korrigiert wurde. Die Ergebnisse können jedoch nicht pauschal auf alle Formen des Prebunkings übertragen werden. So bedient sich der Inoculation-Ansatz eines anderen Mechanismus, da hier nicht nur gewarnt, sondern auch aufgeklärt wird.