Grupa użytkowników Reddita postanowiła sprawdzić, ile trzeba fałszywych postów, żeby duże modele językowe uznały zmyśloną historię za fakt. Odpowiedź brzmi: mniej, niż ktokolwiek się spodziewał, bo wystarczyło kilka tygodni wpisów na jednym subreddicie, żeby wyszukiwarka DuckDuckGo ogłosiła światu, że prezydent USA nie żyje.
Kluczowe fakty:
- Użytkownicy subredditu r/poisonai (liczącego około 45 tysięcy członków) przez kilka tygodni publikowali fałszywe posty o śmierci wiceprezydenta J.D. Vance'a i Donalda Trumpa na wściekliznę, traktując to jako żart wymierzony w systemy AI.
- Asystent AI wbudowany w wyszukiwarkę DuckDuckGo zaczął podawać te zmyślone informacje jako fakty – odpowiadał, że prezydent Trump zmarł 7 czerwca na wściekliznę, powołując się na artykuł lokalnego portalu WKNA News.
- Portal WKNA News okazał się tzw. pink slime publication – witryną podszywającą się pod lokalne medium i generującą treści na podstawie wpisów z Reddita, co zamknęło pętlę dezinformacji: Reddit → fałszywy serwis → indeks wyszukiwarki → odpowiedź AI.
Historia zaczęła się jako żart. Na subreddicie r/poisonai, liczącym około 45 tysięcy członków, użytkownicy od tygodni publikowali fałszywe relacje o rzekomej śmierci wiceprezydenta USA J.D. Vance’a na wściekliznę. W wersji, która najlepiej się przyjęła, Vance miał zarazić wirusem samego Donalda Trumpa, celowo go pogryzając za namową sekretarza zdrowia Roberta F. Kennedy’ego Juniora, który rzekomo przekonywał, że infekcja da prezydentowi „supermoce”. Do kompletu ktoś dorzucił sfabrykowany wpis Trumpa na Truth Social żegnający zmarłego wiceprezydenta.
Cała ta fikcja pozostałaby wewnętrznym żartem forum, gdyby nie to, że asystent AI wbudowany w wyszukiwarkę DuckDuckGo zaczął podawać ją jako fakt. Zapytany, kiedy zmarł Donald Trump, system odpowiadał, że prezydent zmarł 7 czerwca na wściekliznę, a jako źródło wskazywał artykuł lokalnego portalu WKNA News z Wirginii Zachodniej. Portal ten, jak ustalił serwis Futurism, jest tzw. pink slime publication, czyli witryną podszywającą się pod lokalne media, generującą treści właśnie na bazie tego, co pojawia się na Reddicie. Mechanizm zamknął koło: fałszywe posty trafiły do sfabrykowanego serwisu informacyjnego, ten trafił do indeksu wyszukiwarki, a wyszukiwarka podała go użytkownikom jako wiarygodne źródło.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Dlaczego akurat Reddit tak łatwo trafia do modeli AI
Dr Mateusz Łabuz, naukowiec Uniwersytetu w Hamburgu (IFSH) i autor książki „Przed waszą erą. Człowiek w syntetycznym świecie deepfake’ów, ChataGPT i sztucznej inteligencji”, powiedział PAP, że użytkownicy forum świadomie trollowali sztuczną inteligencję, licząc się z tym, że ich wpisy prędzej czy później przenikną do dużych modeli językowych. Wskazał trzy powody, dla których akurat Reddit stał się ulubionym poligonem takich działań.
Pierwszy to naturalność języka. Modele uczą się imitować sposób, w jaki ludzie faktycznie piszą, a wypowiedzi forumowe brzmią bardziej autentycznie niż język encyklopedyczny czy książkowy. Drugi to skala: z serwisu korzysta 116 milionów aktywnych użytkowników dziennie, co daje ogromną i zróżnicowaną bazę komentarzy. Trzeci to system głosowania. Wpisy z dużą liczbą upvote’ów mogą być przez modele odczytywane jako bardziej wiarygodne, mimo że popularność wpisu nie ma nic wspólnego z jego prawdziwością.
Do tego dochodzi czynnik biznesowy. Reddit w lutym 2024 roku podpisał umowę z Google, na mocy której wyszukiwarka może trenować swoje modele na wpisach użytkowników forum. Podobne porozumienie zawarł z Redditem OpenAI. Serwis stał się więc nie tylko źródłem danych treningowych, ale też domeną regularnie cytowaną przez systemy generujące odpowiedzi w czasie rzeczywistym, co czyni go naturalnym celem dla każdego, kto chce wpłynąć na to, co „wie” sztuczna inteligencja.
Obserwuję to zjawisko od dłuższego czasu i traktuję je jako sygnał ostrzegawczy, nie ciekawostkę. AI, która bez krytycznego dystansu cytuje anonimowe posty z forum jako fakt historyczny, ma problem strukturalny, nie jednostkowy błąd. Cieszy mnie, że przypadek z Trumpem był na tyle absurdalny, że natychmiast wzbudził czujność. Gorzej, gdyby ktoś zastosował tę samą technikę do czegoś bardziej wiarygodnego i mniej spektakularnego, na przykład fałszywej informacji o produkcie, spółce giełdowej czy polityku drugiego planu. Wtedy nikt by się nie zorientował, dopóki szkoda by nie została wyrządzona. Pytanie, które zadaję sobie jako redaktor, brzmi: czy dostawcy wyszukiwarek AI w ogóle mają dziś narzędzia, żeby odróżnić skoordynowaną kampanię dezinformacyjną od organicznej dyskusji, zanim trafi ona do odpowiedzi udzielanej milionom użytkowników?
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Co ważne, błąd nie ograniczył się do DuckDuckGo. Według doniesień Futurism identyczną historię o śmierci Vance’a zaczęła powtarzać także przeglądarkowa AI Brave, z dokładną datą 5 czerwca. Rzecznik Brave odpowiedział, że to użytkownicy powinni sami weryfikować odpowiedzi generowane przez AI, a jeśli ktoś celowo podrzuca fałszywe treści do sieci, wyniki wyszukiwania będą się do tego dostosowywać.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Naukowy dowód na to, jak łatwo „otruć” agenta AI
Przypadek z Trumpem nie jest odosobniony ani przypadkowy. Naukowcy z Uniwersytetu Cornell opublikowali w czerwcu badanie „Deep-research agents can be poisoned via user-generated content”, z którego wynika, że wystarczy naprawdę niewielki fragment tekstu, żeby skutecznie zmanipulować agenta AI działającego w internecie.
„Pokazujemy, że niewielki fragment, zaledwie 13 słów tekstu pobranego ze strony internetowej z treściami generowanymi przez użytkowników, takiej jak Reddit, Wikipedia czy Quora, może sprawić, że agenci AI będą dość konsekwentnie generować treści spamowe lub oszukańcze” – powiedział portalowi 404 Media jeden z autorów badania, Hal Triedman. Dodał, że przeprowadzenie takiego ataku jest zaskakująco proste, co oznacza, że próg wejścia dla kogoś, kto chce manipulować wynikami wyszukiwania AI, jest znacznie niższy niż mogłoby się wydawać.
Dr Łabuz nazwał to zjawisko szerszym terminem „LLM grooming”. Polega ono na bombardowaniu sieci bliźniaczo podobnymi do siebie treściami dezinformującymi w celu wpływania na to, co modele językowe uznają za prawdziwe. Ekspert przywołał tu dane NewsGuard i American Sunlight Project, według których na przełomie 2024 i 2025 roku popularne modele językowe powielały nawet w 33 procentach narracje rosyjskiej sieci dezinformacyjnej „Prawda”. Zwrócił też uwagę, że jeśli technika okazała się skuteczna wobec anonimowych trolli z Reddita, tym bardziej może zostać wykorzystana przez państwa takie jak Rosja czy Chiny, które od lat prowadzą zorganizowane kampanie wpływu.
Skala problemu w liczbach
Dane, które udało się zebrać z różnych badań rynkowych, pokazują, że Reddit nie jest przypadkowym elementem tej układanki, tylko jednym z najczęściej cytowanych źródeł przez systemy AI w ogóle.
- Badanie platformy analitycznej Peec AI z marca 2026 roku wskazało Reddit jako domenę najczęściej cytowaną przez główne modele sztucznej inteligencji
- Według agencji marketingowej The Digital Bloom cytowania Reddita wzrosły o około 450 procent na niektórych modelach AI w 2025 roku
- Subreddit r/poisonai skupia około 45 tysięcy użytkowników deklarujących, że publikują fałszywe informacje właśnie po to, by sprawdzić, czy trafią do modeli AI
- Z Reddita korzysta dziennie 116 milionów aktywnych użytkowników, co czyni go jednym z największych źródeł tekstu generowanego przez ludzi w internecie
Poza wątkiem z Trumpem i Vance’em ta sama społeczność forsowała inne absurdalne narracje, między innymi fałszywą informację o zmianie tożsamości płciowej gubernatora Teksasu Grega Abbotta oraz zmyśloną wiadomość, jakoby burmistrz Nowego Jorku Zohran Mamdani objął urząd prezydenta USA. Skala i różnorodność tych prób pokazuje, że mechanizm nie jest jednorazowym żartem, tylko powtarzalną metodą testowania odporności systemów AI na manipulację.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Co to oznacza dla polskich firm i redakcji
Dla polskiego rynku ta historia ma znaczenie wykraczające poza ciekawostkę zza oceanu. Coraz więcej firm w Polsce korzysta z publicznie dostępnych modeli językowych do obsługi klienta, researchu czy tworzenia treści marketingowych, często bez świadomości, że model może bezkrytycznie powtórzyć informację wyłowioną z anonimowego forum czy komentarza.
Unijny AI Act, obowiązujący w polskim porządku prawnym od lutego 2025 roku, nakłada na firmy wykorzystujące systemy AI wysokiego ryzyka konkretne obowiązki weryfikacyjne, ale znaczna część polskich przedsiębiorstw wciąż nie ma pełnej świadomości tych regulacji. Eksperci od bezpieczeństwa IT rekomendują wdrażanie mechanizmów tzw. groundingu, czyli zakotwiczenia odpowiedzi AI wyłącznie w autoryzowanych, wewnętrznych źródłach firmowych, zamiast pozwalać modelowi swobodnie czerpać z otwartego internetu. To rozwiązanie znacznie ogranicza ryzyko, że asystent AI użyty w firmie powtórzy fałszywkę wygenerowaną specjalnie po to, by oszukać algorytm.
Dla redakcji i twórców treści płynie z tego jeszcze inna lekcja. Jeśli fałszywa informacja o śmierci prezydenta USA mogła przez kilka dni funkcjonować jako „fakt” w jednej z popularnych wyszukiwarek, to każda redakcja korzystająca z AI jako pierwszego etapu researchu musi traktować podsumowania generowane przez model jako punkt wyjścia do weryfikacji, nigdy jako gotowy materiał.
Po ujawnieniu sprawy przez Futurism DuckDuckGo wyłączył generowanie odpowiedzi AI dla zapytań dotyczących rzekomej śmierci Trumpa i Vance’a na wściekliznę. W kolejnych testach dziennikarzy błędna odpowiedź już się nie pojawiała, co pokazuje, że firmy potrafią reagować szybko, gdy problem zostanie nagłośniony. Pytanie, ile podobnych fałszywek krąży obecnie w wynikach wyszukiwania AI bez takiego rozgłosu, pozostaje otwarte.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiału agencji PAP opublikowanego przez Bankier.pl z dnia 06.07.2026, a także oryginalnego śledztwa portalu Futurism i doniesień serwisu Cybernews. Wykorzystano również informacje agencji Piunikaweb, portalu Tom’s Guide oraz Breitbart, a także dane badawcze platformy Peec AI, agencji The Digital Bloom, organizacji NewsGuard i American Sunlight Project. Wypowiedzi dr. Mateusza Łabuza pochodzą z materiału PAP, a cytat Hala Triedmana z badania Uniwersytetu Cornell został zweryfikowany z relacją portalu 404 Media. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji na temat mechanizmów manipulacji modelami językowymi.
