Die Entwicklung der generativen künstlichen Intelligenz verändert die Art und Weise, wie Desinformationen erstellt und verbreitet werden. Jüngste Forschungsergebnisse, die in der Zeitschrift Science veröffentlicht wurden, weisen auf eine wachsende Bedrohung durch die sogenannte KI-Schwärme - koordinierte Systeme künstlicher Intelligenz, die in der Lage sind, soziale Medien massenhaft zu infiltrieren, um die öffentliche Meinung zu manipulieren und die Grundlagen der demokratischen Debatte zu untergraben.

Wissenschaftler schlagen Alarm, dass die Entwicklung der generativen künstlichen Intelligenz eine neue Phase der Bedrohung der öffentlichen Debatte und der Demokratie einleitet. In einem Kommentar, der in der Zeitschrift Wissenschaft beschreiben Forscher das Phänomen der so genannten „Schwärme künstlicher Intelligenz” (KI-Schwärme) - hochentwickelte KI-Systeme mit mehreren Agenten, die massenhaft in soziale Medien eindringen, menschliches Verhalten imitieren, Emotionen manipulieren und ausgewählte Erzählungen verstärken können.

Im Gegensatz zu herkömmlichen Bots, die in der Regel einfache und sich wiederholende Aktionen ausführen, sollen KI-Schwärme von großen Sprachmodellen (LLM) koordiniert werden und wie ein sich selbst erhaltender Organismus agieren. Ein solches System kann in Echtzeit lernen, sich an die Umgebung der Plattform und die Reaktionen der Nutzer anpassen und gleichzeitig die Entdeckung durch Moderationsmechanismen vermeiden. Dies ist ein qualitativer Wandel: Es geht nicht mehr um Automaten, die Nachrichten wiederholen, sondern um ein anpassungsfähiges, verteiltes Beeinflussungssystem, das in der Lage ist, sich an Gesprächen zu beteiligen und Glaubwürdigkeit aufzubauen.

Entwicklung von Bots zu „bösartigen KI-Schwärmen”

Autoren Wissenschaft heben hervor, dass die Technologie der generativen Sprachmodelle und die Entwicklung von Multi-Agenten-Systemen das Entstehen so genannter „bösartiger KI-Schwärme” ermöglichen - autonome, koordinierte Gruppen von Agenten der künstlichen Intelligenz, die in der Lage sind, wie ein adaptiver, kollektiver Organismus zu handeln. Solche Schwärme können ihre Aktionen koordinieren und sich an den Kontext und die Reaktionen ihrer Umgebung anpassen. Sie können das Gedächtnis und die einheitliche Identität mehrerer Agenten aufrechterhalten, auf bestimmte Zielgruppen zugeschnittene Inhalte erstellen und langfristig und parallel auf mehreren Plattformen operieren.

Wie die Autoren der Publikation anmerken, sind es diese Möglichkeiten, die eine neue Kategorie von Bedrohungen schaffen:
„Mit diesen Fähigkeiten entsteht eine destabilisierende Bedrohung: Schwärme von kollaborativen, bösartigen KI-Agenten. Indem sie die menschliche soziale Dynamik adaptiv nachahmen, bedrohen diese Systeme die Demokratie.”

„Der ”synthetische Konsens" als Mechanismus der Manipulation

Die zentrale Gefahr besteht nicht nur in der Produktion falscher Inhalte. Die Publikation benennt ein viel tiefer gehendes Problem: die Manipulation sozialer Strukturen durch die Erzeugung eines so genannten synthetischen Konsenses, d. h. des Eindrucks, dass „alle so denken”, auch wenn dies tatsächlich nicht der Fall ist. In diesem Modell geht es bei der Beeinflussung nicht darum, mit Argumenten zu überzeugen, sondern darum, ein Gefühl der vorherrschenden Meinung zu prägen.

Infolgedessen können KI-Schwärme die sozialen Normen, Überzeugungen und Entscheidungen der Bürger beeinflussen und so eine rationale Debatte und das Vertrauen in unabhängige Stimmen untergraben. Wie die Forscher betonen:
„Die größte Bedrohung sind nicht nur falsche Inhalte. Es ist der synthetische Konsens: die massenhaft erzeugte Illusion einer universellen Übereinstimmung.”

Wie KI-Schwärme funktionieren

Nach Ansicht der Autoren ist ein „KI-Schwarm” ein Netz von Agenten, die von künstlicher Intelligenz gesteuert werden und verteilt, aber zielgerichtet auf gemeinsame Ziele hinarbeiten. Der entscheidende Punkt ist, dass die Agenten eine dauerhafte Identität und ein Gedächtnis für Beziehungen und frühere Interaktionen behalten können, so dass ihre Präsenz in der Gemeinschaft nicht wie zufälliger Spam wirkt.

Der Schwarm kann sich auf ein einziges Ziel hin koordinieren und dabei den Tonfall, den Inhalt und die Rollen der einzelnen Accounts variieren, um der natürlichen Vielfalt menschlicher Nutzer zu ähneln. Das System arbeitet adaptiv: Es beobachtet Plattformsignale und Publikumsreaktionen, lernt und optimiert seine Strategien mit minimaler menschlicher Aufsicht. Wie die Autoren es definieren:
„Ein bösartiger KI-Schwarm ist ein Netzwerk von Agenten, die von künstlicher Intelligenz gesteuert werden und in der Lage sind, dauerhafte Identitäten und Erinnerungen aufrechtzuerhalten, sich auf gemeinsame Ziele hin zu koordinieren, wobei Ton und Inhalt der Nachrichten variieren, und sich an das Engagement und die Reaktionen der Nutzer anzupassen.”

Ausmaß und Auswirkungen: von Manipulation bis Belästigung

Der Umfang, in dem KI-Schwärme arbeiten können, hängt von den technischen Ressourcen und den in die Plattformen eingebauten Barrieren ab. Obwohl oft von Hunderttausenden oder Millionen von Agenten die Rede ist, weisen die Autoren darauf hin, dass nicht nur die Anzahl entscheidend ist, sondern auch die Zuverlässigkeit und Anpassungsfähigkeit des Systems. Selbst ein relativ kleiner Schwarm kann effektiv Mehrheitsdruck erzeugen und die Dynamik der Debatte beeinflussen.

In der Veröffentlichung wird darauf hingewiesen, dass KI-Schwärme auf vielen Ebenen Schaden anrichten können. Sie können die öffentliche Meinung manipulieren und demokratische Prozesse beeinträchtigen, zur Aushöhlung einer unabhängigen kritischen Debatte führen und die gemeinsame Informationsrealität fragmentieren, insbesondere in bereits stark polarisierten Gesellschaften. Die Autoren weisen auch auf den breiten Katalog möglicher Anwendungen hin - von kommerziellen über politische Zwecke bis hin zu staatlichen Maßnahmen.

Sie kommen zu dem Schluss:
„Fortschritte in der Entwicklung von KI schaffen die Möglichkeit, Überzeugungen und Verhaltensweisen auf der Ebene ganzer Bevölkerungen zu manipulieren. Generative Werkzeuge erlauben es der Propaganda, sich zu vergrößern, ohne an Glaubwürdigkeit zu verlieren.”

In der Praxis können KI-Schwärme zwei Einflussmöglichkeiten kombinieren: Manipulation der Wahrnehmung dessen, was „üblich” ist, und Ausübung von sozialem Druck. Letzteres kann in Form von Massenbelästigung geschehen, indem ein „wütender Mob” simuliert wird, der Andersdenkende angreift, sie von der Teilnahme an Debatten abhält oder sie von Plattformen verdrängt.

Vorgeschlagene Verteidigungsmaßnahmen

Die Autoren der Veröffentlichung betonen, dass der Schutz vor KI-Schwärmen nicht nur auf der Löschung einzelner Konten oder der reaktiven Moderation von Inhalten beruhen kann. Aufgrund der adaptiven und verteilten Natur von Schwärmen ist ein mehrschichtiger Ansatz erforderlich, der technische und institutionelle Lösungen kombiniert.

Sie weisen auf die Notwendigkeit hin, die Erkennung auf der Grundlage von Verhaltensanalysen zu entwickeln, einschließlich der Identifizierung von anormalen Mustern der Koordinierung von Aktivitäten, die auf einen Schwarm hinweisen können. Eine stärkere Überprüfung der Benutzeridentität und die Entwicklung von Lösungen zum Nachweis der eigenen Identität sind ebenfalls ein wichtiger Aspekt. Die Autoren befürworten auch den Einsatz von Simulationen und Robustheitstests, um die Entwicklung des KI-Schwarmverhaltens vorherzusagen. Ergänzt würde dies durch die Einrichtung einer Beobachtungsstelle für KI-Einfluss, eines globalen Netzwerks zur Überwachung und Analyse von Beeinflussungsoperationen, die mit Hilfe künstlicher Intelligenz durchgeführt werden.

Wie die Forscher betonen: „Die Abwehrmaßnahmen gegen diese Systeme müssen vielschichtig und pragmatisch sein, um die Kosten, das Risiko und die Sichtbarkeit von Manipulationen zu erhöhen.”

Was dies für die öffentliche Debatte und die Unternehmen bedeutet

Wenn KI-Schwärme in großem Maßstab zu operieren beginnen, wird der Druck auf Plattformen, Institutionen und Organisationen stetig zunehmen. Für die Demokratie bedeutet dies das Risiko einer allmählichen Erosion des Vertrauens, einer Schwächung des Pluralismus und der Verdrängung rationaler Debatten durch emotionalen Druck und die Illusion der Mehrheit. Aus der Perspektive von Unternehmen und Marken bedeutet dies auch eine größere Anfälligkeit für künstlich erzeugte Reputationskrisen und die Schwierigkeit, authentische öffentliche Stimmungen von koordinierten Beeinflussungsmaßnahmen zu unterscheiden.

In einer Welt, in der die Grenze zwischen menschlicher und künstlich erzeugter Aktivität zunehmend verschwimmt, wird die Widerstandsfähigkeit von Informationen zu einem strategischen Element. KI-Schwärme funktionieren am besten im Chaos, und die wirksamste Antwort darauf bleibt die konsequente Stärkung der Glaubwürdigkeit, Transparenz und Qualität der Debatte in den Bereichen, für die wir verantwortlich sind.

Literaturverzeichnis

1. Wissenschaft (2026). Wie bösartige KI-Schwärme die Demokratie bedrohen können. Politisches Forum.
2. Lebendige Wissenschaft (2026). Forscher warnen: KI-Schwärme der nächsten Generation werden in soziale Medien eindringen, indem sie menschliches Verhalten imitieren und echte Nutzer belästigen.
   https://www.livescience.com/technology/artificial-intelligence/next-generation-ai-swarms-will-invade-social-media-by-mimicking-human-behavior-and-harassing-real-users-researchers-warn
3. EurekAlert! (2026). Wissenschaftspolitisches Forum warnt: KI-Schwärme könnten die Demokratie im Stillen verzerren.
4. City St. George's, Universität von London (2026). KI-Schwärme könnten einen öffentlichen Konsens vortäuschen und die Demokratie untergraben.