Rozwój generatywnej sztucznej inteligencji zmienia sposób, w jaki powstaje i rozprzestrzenia się dezinformacja. Najnowsze badania opublikowane w czasopiśmie Science wskazują na rosnące zagrożenie ze strony tzw. rojów AI – skoordynowanych systemów sztucznej inteligencji zdolnych do masowej infiltracji mediów społecznościowych, manipulowania opinią publiczną i podważania fundamentów demokratycznej debaty.

Naukowcy alarmują, że rozwój generatywnej sztucznej inteligencji otwiera nowy etap zagrożeń dla debaty publicznej i demokracji. W komentarzu opublikowanym na łamach czasopisma Science badacze opisują zjawisko tzw. „rojów sztucznej inteligencji” (AI swarms) — zaawansowanych, wieloagentowych systemów AI, które mogą masowo przenikać do mediów społecznościowych, naśladując ludzkie zachowania, manipulując emocjami i wzmacniając wybrane narracje.

W odróżnieniu od tradycyjnych botów, które zwykle wykonują proste i powtarzalne działania, roje AI mają być koordynowane przez duże modele językowe (LLM) i działać jak samowystarczalny organizm. Taki system może uczyć się w czasie rzeczywistym, dopasowywać do środowiska platformy i reakcji użytkowników, a jednocześnie unikać wykrycia przez mechanizmy moderacji. To jakościowa zmiana: nie chodzi już o automaty powielające komunikaty, ale o adaptacyjny, rozproszony system wpływu, potrafiący angażować się w rozmowy i budować wiarygodność.

Ewolucja od botów do „malicious AI swarms”

Autorzy Science podkreślają, że technologia generatywnych modeli językowych oraz rozwój systemów wieloagentowych umożliwiają powstanie tzw. „złośliwych rojów AI” — autonomicznych, koordynowanych grup agentów sztucznej inteligencji, zdolnych do działania jak adaptacyjny, zbiorowy organizm. Takie roje potrafią koordynować swoje działania i dostosowywać się do kontekstu oraz reakcji otoczenia. Mogą utrzymywać pamięć i spójną tożsamość wielu agentów, generować treści dopasowane do konkretnych odbiorców oraz działać długotrwale i równolegle na wielu platformach.

Jak zauważają autorzy publikacji, to właśnie te możliwości tworzą nową kategorię zagrożenia:
„Dzięki tym zdolnościom wyłania się destabilizujące zagrożenie, którym są roje współpracujących, złośliwych agentów AI. Poprzez adaptacyjne naśladowanie ludzkiej dynamiki społecznej systemy te zagrażają demokracji.”

„Synthetic consensus” jako mechanizm manipulacji

Centralnym ryzykiem nie jest wyłącznie produkcja fałszywych treści. Publikacja identyfikuje znacznie głębszy problem: manipulację strukturami społecznymi poprzez wytwarzanie tzw. syntetycznego konsensusu, czyli wrażenia, że „wszyscy tak myślą”, nawet jeśli w rzeczywistości tak nie jest. W tym modelu wpływ nie polega na przekonywaniu argumentami, lecz na kształtowaniu poczucia dominującej opinii.

W efekcie roje AI mogą wpływać na normy społeczne, przekonania i decyzje obywateli, osłabiając racjonalną debatę oraz zaufanie do niezależnych głosów. Jak podkreślają badacze:
„Głównym zagrożeniem nie są wyłącznie fałszywe treści. Jest nim syntetyczny konsensus: iluzja powszechnej zgody, wytwarzana na masową skalę.”

Jak działają roje AI

W ujęciu autorów „AI swarm” to sieć agentów sterowanych przez sztuczną inteligencję, funkcjonujących w sposób rozproszony, lecz ukierunkowany na wspólne cele. Kluczowe jest to, że agenci mogą utrzymywać trwałe tożsamości oraz pamięć relacji i wcześniejszych interakcji, dzięki czemu ich obecność w społeczności nie przypomina przypadkowego spamu.

Rój może koordynować działania wokół jednego celu, jednocześnie różnicując ton wypowiedzi, treści i role poszczególnych kont, tak aby przypominały naturalną różnorodność ludzkich użytkowników. System działa adaptacyjnie: obserwuje sygnały z platform, reakcje odbiorców, uczy się i optymalizuje swoje strategie, przy minimalnym nadzorze człowieka. Jak definiują to autorzy:
„Złośliwy rój AI to sieć agentów kontrolowanych przez sztuczną inteligencję, zdolnych do utrzymywania trwałych tożsamości i pamięci, koordynowania działań wokół wspólnych celów przy zróżnicowanym tonie i treści komunikatów oraz adaptowania się do zaangażowania użytkowników i ich reakcji.”

Skala i skutki: od manipulacji po nękanie

Skala, na jaką mogą działać roje AI, zależy od zasobów technicznych oraz barier wbudowanych w platformy. Choć często mówi się o setkach tysięcy czy milionach agentów, autorzy zwracają uwagę, że decydujące znaczenie ma nie tylko liczba, lecz także wiarygodność i zdolność adaptacji systemu. Nawet relatywnie niewielki rój może skutecznie wytwarzać presję większości i wpływać na dynamikę debaty.

Publikacja wskazuje, że roje AI mogą szkodzić na wielu poziomach. Mogą manipulować opinią publiczną i wpływać na procesy demokratyczne, prowadzić do erozji niezależnej krytycznej debaty oraz fragmentacji wspólnej rzeczywistości informacyjnej, szczególnie w społeczeństwach już silnie spolaryzowanych. Autorzy zwracają też uwagę na szeroki katalog możliwych zastosowań – od celów komercyjnych, przez polityczne, aż po działania państwowe.

Jak podsumowują:
„Postępy w rozwoju AI stwarzają możliwość manipulowania przekonaniami i zachowaniami na poziomie całych populacji. Narzędzia generatywne pozwalają zwiększyć skalę propagandy bez utraty wiarygodności.”

W praktyce roje AI mogą łączyć dwa wektory oddziaływania: manipulowanie percepcją tego, co jest „powszechne” oraz wywieranie presji społecznej. Ta druga może przyjmować formę masowego nękania, symulowania „wściekłego tłumu” i atakowania osób prezentujących odmienne poglądy, zniechęcając je do udziału w debacie lub wypychając z platform.

Proponowane środki obrony

Autorzy publikacji podkreślają, że obrona przed rojami AI nie może opierać się wyłącznie na usuwaniu pojedynczych kont czy reaktywnym moderowaniu treści. Ze względu na adaptacyjny i rozproszony charakter rojów konieczne jest podejście wielowarstwowe, łączące rozwiązania techniczne i instytucjonalne.

Wskazują na potrzebę rozwijania detekcji opartej na analizie zachowań, w tym identyfikacji nietypowych wzorców koordynacji działań, które mogą świadczyć o istnieniu roju. Istotnym kierunkiem jest także wzmocnienie weryfikacji tożsamości użytkowników oraz rozwój rozwiązań typu proof-of-personhood. Autorzy postulują również stosowanie symulacji i testów odporności, pozwalających przewidywać ewolucję zachowań rojów AI. Uzupełnieniem tych działań miałoby być powołanie AI Influence Observatory, globalnej sieci monitorującej i analizującej operacje wpływu prowadzone z użyciem sztucznej inteligencji.

Jak podkreślają badacze: „Obrona przed tymi systemami musi być wielowarstwowa i pragmatyczna tak, aby podnosić koszt, ryzyko i widoczność manipulacji.”

Co to oznacza dla debaty publicznej i firm

Jeśli roje AI zaczną funkcjonować na szeroką skalę, presja na platformy, instytucje i organizacje będzie systematycznie rosła. Dla demokracji oznacza to ryzyko stopniowej erozji zaufania, osłabienia pluralizmu oraz wypierania racjonalnej debaty przez presję emocjonalną i iluzję większości. Z perspektywy firm i marek to również większa podatność na sztucznie generowane kryzysy reputacyjne oraz trudność w odróżnieniu autentycznych nastrojów społecznych od skoordynowanych operacji wpływu.

W świecie, w którym granica między ludzką a sztucznie generowaną aktywnością coraz bardziej się zaciera, odporność informacyjna staje się elementem strategicznym. Roje AI najlepiej funkcjonują w chaosie a najskuteczniejszą odpowiedzią pozostaje konsekwentne wzmacnianie wiarygodności, przejrzystości i jakości debaty w przestrzeniach, za które ponosimy odpowiedzialność.

Bibliografia

1. Science (2026). How malicious AI swarms can threaten democracy. Policy Forum.
2. Live Science (2026). Next-generation AI swarms will invade social media by mimicking human behavior and harassing real users, researchers warn.
   https://www.livescience.com/technology/artificial-intelligence/next-generation-ai-swarms-will-invade-social-media-by-mimicking-human-behavior-and-harassing-real-users-researchers-warn
3. EurekAlert! (2026). AI swarms could quietly distort democracy, Science policy forum warns.
4. City St George’s, University of London (2026). AI swarms could fake public consensus and undermine democracy.