Glossar

Hierbei handelt es sich um eine im Juni 2024 verabschiedete EU-Verordnung zum Thema der Künstlichen Intelligenz. Es ist die erste umfangreiche Regulierung in diesem Bereich. Aufgrund des großen Binnenmarktes und der großen Population hat sie einen starken Einfluss auf die europäischen Wirtschaften und Gesellschaften..

Der Attention-Mechanismus ist eine Technik im maschinellen Lernen und in KI-Systemen, die es dem Modell ermöglicht, dynamisch zu erlernen, welche Komponenten in einer (Text-)Sequenz für die Verarbeitung des aktuellen Wortes relevant sind. Diese Technik bietet den Vorteil, Abhängigkeiten in langen Texten abzubilden, ohne dass die Rechenkomplexität explodiert. Gleichzeitig ermöglicht die Parallelisierbarkeit eine vorher nicht mögliche nicht-chronologische Verarbeitung von Textdaten. Zusammengenommen führten diese beiden Vorteile zu einem Quantensprung in der Skalierbarkeit auf große Textmengen und waren eine der Grundvoraussetzungen für die Entwicklung von Large Language Models (LLMs).

Die Alt-Right ist eine rechtsextreme Bewegung, die sich über digitale Plattformen formiert hat. Sie gilt als Bezugspunkt für eine junge Generation von White Supremacists und strebt eine ethnisch homogene Bevölkerungsstruktur an. Bekannt geworden ist sie durch einen exzessiven Online-Aktivismus.

Dieser Organisationsansatz steht für eine von US-amerikanischen Neonazis gegründete Bewegung, die die Ideologie der White Supremacy verfolgt. Im Mittelpunkt der Agitation und Propaganda, die sich mit konkreten ideologischen Inhalten zurückhält, stehen Kampfsport, ein selbstoptimierender Lebensstil und das martialische Auftreten als Gang. Damit wird versucht, insbesondere jüngere Menschen als neue Mitglieder für ein dezentral und militant organisiertes Netzwerk anzusprechen und zu rekrutieren.

Eine Botfarm ist ein Software-Paket, das die Erstellung gefälschter Nutzerprofile auf Social-Media-Plattformen ermöglicht. Mithilfe eingebetteter KI-Tools erzeugt es teilweise künstliche Profilbilder und biografische Informationen, wodurch die Profile schwerer für Plattformen zu erkennen sind. Botfarmen dienen der Erstellung sogenannter Botnetzwerke (Botnets): Gruppen automatisierter Programme (Bots), die koordiniert eingesetzt werden, um auf Social Media oder anderen Online-Plattformen Interaktionen wie Posten, Liken, Kommentieren oder Teilen durchzuführen. Häufig kommen sie zum Einsatz, um die öffentliche Meinung zu beeinflussen, Trends vorzutäuschen oder Werbung und Spam zu verbreiten.

Hierbei handelt es sich um einen Kofferbegriff aus »Deep Learning« und »Fake«, dermanipulierte oder synthetisch erzeugte Inhalte meint, die basierend auf Methoden des Deep Learning erstellt wurden und visuelle oder akustische Inhalte so realistisch verändern, dass sie echt wirken, obwohl sie es nicht sind. Häufiges Einsatzgebiet sind Gesichter und Stimmen von Personen, welche in Videos oder Audiodateien so verändert werden, dass sie täuschend echt erscheinen.

Deep Learning ist ein Bereich des maschinellen Lernens, der auf tiefen, mehrschichtigen neuronalen Netzen basiert und es Computern ermöglicht, komplexe Muster und Zusammenhänge in großen Datenmengen wie Bildern und Texten zu erkennen. Basierend auf den Arbeiten von Forschern wie Geoffrey Hinton, Yoshua Bengio und Yann LeCun, die dafür mit dem Turing Award und Hinton zuletzt sogar mit dem Physik-Nobelpreis ausgezeichnet wurden, wurden neuronale Netzwerke in den 2000er Jahren so entwickelt, dass sie effizient aus Daten lernen können. Der Durchbruch dieser Ansätze erfolgte in den frühen 2010er Jahren mit der Einführung immer tieferer Netzwerke, was dem Deep Learning innerhalb der Datenverarbeitung große Bedeutung verlieh und letztendlich auch einer der Wegbereiter für generative KI war.

Der Digital Services Act ist eine EU-weite Verordnung für digitale Dienste, die seit dem Februar 2024 vollkommen in Kraft ist. Digitale Dienste beziehen sich im Rahmen des DSA auf Vermittlungsdienste wie Host-Provider, Online-Marktplätze und soziale Netzwerke. Der DSA zielt darauf ab, die Rechte von europäischen Nutzer*innen im Internet besser zu schützen, und soll dazu beitragen, dass effektiver auf Falschinformation und rechtswidrige Inhalte auf Plattformen reagiert werden kann.

Menschen, die neueste (technische) Errungenschaften oder Produkte als erste verwenden – nach den Innovator*innen bzw. Entwickler*innen. In der Diffusionsforschung gelten sie als zentral für die Verbreitung von Ideen und Praxen, da diese eher risikobereiten und neugierigen Akteure einer Innovation zum Durchbruch verhelfen, bevor die »early majority« die Nutzung nachzuahmen beginnt.

Die Idee von autonom durchgeführten Gewalttaten durch Einzeltäter – sogenannte einsame Wölfe – geht auf den US-amerikanischen Neonazi William Luther Pierce III. zurück, der unter dem Pseudonym Andrew Macdonald »The Turner Diaries« veröffentlichte. Diese als Roman getarnte Anleitung zum bewaffneten Kampf beeinflusst Rechtsterroristen bis heute. Kennzeichnend für diese Strategie ist, dass die Täter nicht in einem Kommando organisiert sind, um sich der Erfassung durch die Sicherheitsbehörden zu entziehen. Der Begriff wurde von der Terrorismusforschung übernommen und wird auch auf den islamistischen Phänomenbereich angewendet, insbesondere seit der IS stark auf die Mobilisierung unorganisierter Einzeltäter setzte.

Damit wird eine Strategie in der politischen Kommunikation bezeichnet, die darauf abzielt, den öffentlichen Diskurs mit einer Übermenge an Desinformationen und Ablenkungen zu fluten, damit es für die Öffentlichkeit schwer wird, zwischen wahren und falschen Informationen zu unterscheiden. Die Phrase wurde vom ehemaligen Trump-Berater Steve Bannon geprägt, um das strategische Vorgehen der Trump-Administration zu beschreiben. Diese Taktik nutzt Verwirrung und die gezielte Verbreitung falscher Narrative, um die öffentliche Meinung zu beeinflussen und kritische Stimmen zu übertönen. Das Konzept hat inhaltliche Ähnlichkeiten zur russischen Propaganda-Strategie der »Firehose of falsehood«.

So bezeichnet man im Kontext von KI und maschinellem Lernen Sicherheitsmaßnahmen, Regeln und Begrenzungen, die sicherstellen, dass Modelle verantwortungsvoll, ethisch und vorhersagbar agieren. Diese Schutzvorkehrungen sollen verhindern, dass KI-Systeme schädliche, unangemessene oder irreführende Ergebnisse liefern; auch unbeabsichtigte Konsequenzen sollen damit vermieden werden. Zu den Strategien, die unter diesem Begriff zusammengefasst werden, gehören etwa Inhaltsfilter, Sicherheitsprotokolle und Transparenzanforderungen.

Generative Adversarial Networks (GANs),sind ein Konzept aus dem Bereich der Künstlichen Intelligenz, das darauf ausgelegt ist, realistische Inhalte zu erzeugen (z.B. Bilder, Text, Musik). Das Grundprinzip ist dabei, dass gleichzeitig zwei Modelle trainiert werden und wiederholt miteinander konkurrieren. Das sogenannte Generatormodell lernt, möglichst realistische synthetische Inhalte herzustellen, während das sogenannte Detektormodell auf die Erkennung von Fälschungen spezialisiert wird. Durch das iterative Katz-und-Maus-Spiel, bei dem beide Modelle voneinander lernen, erhält man mit der Zeit synthetische Inhalte, die von echten kaum unterscheidbar sind.

Dies meint ein Konzept, das ursprünglich vom Marktforschungsunternehmen Gartner entwickelt wurde, um den typischen Verlauf der öffentlichen Wahrnehmung von neuen Technologien/Innovationen zu veranschaulichen. Nach diesem Schema erleben neue Technologien zunächst einen enormen Hype und übersteigerte Erwartungen, bevor Ernüchterung einsetzt und realistische Anwendungen und Produktivitätsgewinne erreicht werden.

Inpainting bedeutet, dass Bereiche innerhalb eines Bildes verändert werden können (z.B. um Motive zu ergänzen oder Motive zu entfernen). Beim Outpainting ​​werden neue Inhalte außerhalb des ursprünglichen Bildbereiches hinzugefügt.

Hierbei handelt es sich um die Jugendorganisation der Partei Alternative für Deutschland (AfD). Sie wird seit April 2023 durch das Bundesamt für Verfassungsschutz als »gesichert rechtsextremistisch« eingestuft.

Die Metapher bezeichnet Phasen in der Geschichte der Künstlichen Intelligenz, in der Forschung und Investitionen im Feld stark zurückgehen. Dies geschieht oft, wenn Erwartungen an den Fortschritt der KI zu hoch waren und nicht erfüllt wurden, was zu einer Abkühlung des Interesses und der Finanzierung führt. Historische Beispiele dafür sind der erste KI-Winter in den 1970ern, der durch ein Buch über die Grenzen neuronaler Netzwerke eingeleitet wurde, sowie der zweite KI-Winter Ende der 1980er, als Expertensysteme und Lisp-Maschinen, den in sie gesteckten Erwartungen nicht gerecht werden konnten. Der Release von ChatGPT 2022 ist dieser Metapher nach Teil eines erneuten KI-Frühlings.

LLMs sind Sprachmodelle und im weiteren Sinne künstliche neuronale Netzwerke, die mit riesigen Datenmengen trainiert wurden, um dann unspezifischen Text erzeugen zu können. Das LLM GPT-4 von OpenAI wird heute beispielsweise in Chat-GPT verwendet und ist das wahrscheinlich geläufigste. Mittlerweile haben aber auch andere Firmen ähnliche LLMs entwickelt. Beispielhaft seien hier Googles Gemini, Mistral oder Metas LLAMA-Reihe genannt. Die beiden letzteren haben den Vorteil, dass sie Open-Source sind, offline betrieben und in eigene Programme eingebunden werden können.

Microtargeting bezeichnet eine ursprüngliche aus dem Marketing kommende Strategie, welche später in der politischen Kommunikation übernommen wurde. Bei dieser Strategie werden Zielgruppen auf Basis detaillierter Daten sehr individualisiert, entsprechend ihrer errechneten Präferenzen, angesprochen. Durch den Datenskandal um Facebook und Cambridge Analytica im Rahmen des US Wahlkampfs 2016 erreichte der Begriff weltweite Aufmerksamkeit.

Open-Source-Modelle sind Large Language Models, deren Quellcode und Architektur öffentlich zugänglich sind und die so lizenziert sind, dass die kostenfreie Nutzung, Veränderung und Weiterverbreitung unter minimalen Bedingungen möglich sind.

Der Frosch Pepe ist eine Cartoon-Figur, die sich von rechtsextremen Online-Aktivist*innen der sogenannten Alt-Right angeeignet wurde. Die Popularität von Pepe bei der alternativen Rechten war nicht nur auf die ikonografische Darstellung des Frosches mit nationalsozialistischen und rechtsextremen Symbolen zurückzuführen, sondern auch auf die Art und Weise, wie der Frosch eine Art von überlegener Lässigkeit gegenüber anderen äußerte und dazu beitrug, feindselige Haltungen gegenüber Minderheiten und politischen Gegner*innen zu transportieren.

Post-Digitalität. bezieht sich auf einen gesellschaftlichen Zustand, in dem eine durch die digitale Informationstechnologie hervorgerufene Disruption bereits stattgefunden hat. Dies kann bedeuten, dass diese Technologie nicht mehr als neu und revolutionär wahrgenommen wird. Darüber hinaus bezeichnet das Post-Digitale einen technischen Zustand, der auf die sogenannte digitale Revolution folgte. Durch die Veralltäglichung von vernetzten Computerprozessen und -ergebnissen ist Digitalität jetzt untrennbar mit unserer Lebensweise verbunden, so dass ihre Formen, Funktionen und Auswirkungen nicht mehr unbedingt wahrnehmbar sind.

Red-Teaming ist eine Form der Sicherheitsevaluierung, bei der die Prüfung der Sicherheit eines Produktes nicht im Aufgabengebiet der Entwicklungsabteilung liegt, sondern unabhängige Teams gebildet werden, deren expliziter Auftrag es ist, Wege zu finden, das Produkt zu hacken (Sicherheitsvorkehrungen zu umgehen). Dieser Ansatz wird seit einiger Zeit auch zur Aufdeckung von Schwachstellen der generativen KI eingesetzt, um unerwünschte Verhaltensweisen zu identifizieren, bevor externe Personen diese missbrauchen können. Jailbreaking ist ein verwandter Begriff der beschreibt, dass ein bestimmtes Produkt von denen von den Entwicklern vorgesehenen Einschränkungen befreit wird. Im Kontext von Sprachmodellen spricht man dann beispielsweise davon, dass mittels Red-Teaming verschiedene Jailsbreaks gefunden wurden, bei dem das LLM so manipuliert wird, dass es aus seinen Leitplanken ausbricht.

Remigration ist ein ursprünglich aus den Wirtschafts- und Sozialforschung kommender Begriff, der die Rückkehr von Menschen in ihr Herkunftsland oder ihre Herkunftsregion nach einem längeren Aufenthalt im Ausland beschreibt. Dieser Begriff hat sich die Neue Rechte als Kampfbegriff und Euphemismus für Vertreibung und Deportation angeeignet. Durch die Correctiv-Veröffentlichungen zu einem angeblichen »Geheimplan gegen Deutschland« erlangte der Begriff breite gesellschaftliche Aufmerksamkeit.

Eine self-fulfilling prophecy meint eine Vorhersage bzw. Befürchtung, die Akteure etwa abwenden wollen, letztlich aber durch genau diese Bemühungen wahr gemacht wird. Demnach führt der Glaube an ein bestimmtes Ergebnis zu Handlungen, die im Zusammenspiel mit einer komplexen Umwelt die entsprechenden Prozesse auslösen. Diese psycho-soziale Dynamik zeigt, wie Erwartungen die Realität beeinflussen können, unabhängig davon, ob die ursprüngliche Annahme wahr ist oder nicht. Sie spielt in verschiedenen Bereichen wie Soziologie, Psychologie und Wirtschaft eine Rolle

Stock-Images sind vorproduzierte, professionell aufgenommene Bilder, die von Bilddatenbanken und Lizenzanbietern zur Verwendung angeboten werden. Der Begriff definiert sich vor allem als Abgrenzung zur Auftragsfotografie, bei der Bilder für einen vordefinierten Zweck geschossen werden. Stock ist dabei der englische Begriff für Lager, weil die Bilder auf Vorrat produziert werden, um kreative Projekte wie Werbung, Webseiten, Publikationen und Social Media visuell zu unterstützen, ohne dass eigene Fotos in Auftrag gegeben werden müssen.

Der Digital Services Act (DSA) verpflichtet die Betreiber von sehr großen Online-Plattformen (Very Large Online Platforms, VLOPs) und sehr großen Suchmaschinen (Very Large Online Search Engines, VLOSEs) dazu, jährlich systemische Risiken auf ihren Plattformen zu ermitteln, analysieren und bewerten, die sich aus dem Design, der Nutzung und der Funktionsweise ihrer Dienste und ähnlicher (algorithmischer) Systeme ergeben. Solche Risiken beinhalten z.B. die Verbreitung illegaler Inhalte, geschlechtsbasierte Gewalt sowie bereits stattfindende oder zu erwartende negative Folgen für die Grundrechte, den zivilen Diskurs, Wahlprozesse, das Gesundheitswesen, Minderjährige, die öffentliche Sicherheit und das körperliche und geistige Wohlbefinden von Nutzer*innen.

Im Kontext von terroristischen Einzeltaten wird häufiger das Konzept des stochastischen Terrorismus bemüht. Dieses geht davon aus, dass politische Gewalt dort wahrscheinlicher wird, wo Gewaltrhetorik den politischen Diskurs eines Milieus prägt. Damit sind nicht unbedingt direkte Gewaltaufrufe gemeint, sondern auch solche Kommunikate, die Hass gegen bestimmte Personen oder Gruppen schüren – und die von anderen als Aufforderung verstanden werden können, gewalttätig gegen diese vorzugehen. Das Konzept reagiert auf die Auflösung fester Strukturen in extremistischen Bewegungen und plädiert auch dafür, die Tragweite der Massenmedien bei der Vermittlung entsprechender Botschaften miteinzubeziehen.