Niemieccy badacze sprawdzili, skąd pięć czołowych systemów AI czerpie wiadomości i trafili na coś, czego nie chcieli znaleźć. Claude Anthropic w części odpowiedzi linkował do domen rosyjskiej sieci dezinformacyjnej Pravda, traktując je tak samo jak portale informacyjne.
Kluczowe fakty:
- Berlińska organizacja ADI przeanalizowała 675 zapytań i ponad 4800 odniesień do źródeł zadanych pięciu systemom AI (ChatGPT, Google Gemini, Claude, Google AI Overview i Perplexity) przez pięć kolejnych dni roboczych w maju 2025 roku.
- Claude firmy Anthropic w części odpowiedzi linkował do domen należących do rosyjskiej sieci dezinformacyjnej Pravda, traktując je na równi z wiarygodnymi portalami informacyjnymi.
- ChatGPT cytował dziennik „Die Welt" niemal pięć razy częściej niż kolejne źródło – co badaczki wiążą z wieloletnim partnerstwem zawartym w grudniu 2023 roku między OpenAI a koncernem Axel Springer, właścicielem „Die Welt".
Piszę o tym, bo mechanizm jest podstępny. Nikt nie musi włamywać się do modelu AI, żeby zatruć jego odpowiedzi. Wystarczy zalać internet tysiącami stron, które wyglądają na wiarygodne źródła, i czekać aż system sam po nie sięgnie.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Co dokładnie sprawdzili badacze
Berlińska organizacja badawcza Agora Digitale Transformation (ADI), finansowana przez Fundację Mercator, przez pięć kolejnych dni roboczych na początku maja zadawała pięciu systemom AI pytania o bieżące wydarzenia. Chodziło o ChatGPT, Google Gemini, Claude, Google AI Overview i Perplexity. Autorki badania, Vivien Benert i Stina Timmermann, przeanalizowały 675 zapytań i ponad 4800 odniesień do źródeł.
Wynik nie był jednolity. Badaczki opisują dobór źródeł przez systemy AI jako czarną skrzynkę, ponieważ żaden z badanych dostawców nie dokumentuje, według jakich kryteriów system wybiera i waży źródła. Sposób doboru zmienia się w zależności od zapytania, tematu i dostawcy, nie jest powtarzalny ani możliwy do zweryfikowania.
Tygodnikowi „Der Spiegel” udostępniono analizę jako pierwszemu, a niemiecka telewizja ZDF opisała jej wyniki szerzej.
Springer, Welt i niewidoczna umowa
Najbardziej wyrazisty wzorzec badaczki znalazły u ChatGPT. Model OpenAI przy niemieckich zapytaniach cytował dziennik „Die Welt” niemal pięć razy częściej niż publicznego nadawcę Deutschlandfunk, który zajął drugie miejsce pod względem cytowalności.
Wytłumaczenie jest proste, choć niewidoczne dla przeciętnego użytkownika. W grudniu 2023 roku koncern Axel Springer, do którego należą „Die Welt”, „Bild” i Politico, zawarł z OpenAI wieloletnie partnerstwo. Firma otrzymuje wynagrodzenie za udostępnianie treści do trenowania modeli, a ChatGPT w zamian może cytować i streszczać artykuły Springera, w tym te zza paywalla.
„Ta współpraca znajduje zasadnicze odzwierciedlenie w wyborze źródeł przez ChatGPT” / „Diese Kooperation findet ihren wesentlichen Niederschlag in der Quellenauswahl von ChatGPT” – czytamy w raporcie ADI.
Benert dodaje, że użytkownicy zwykle zakładają, że model po prostu przeszukuje sieć i wybiera najbardziej trafne wyniki. Tymczasem komercyjna umowa prowadzi do uprzywilejowania jednego wydawcy, którego nikt nie oznacza jako reklamę ani współpracę sponsorowaną.
U Claude’a i Gemini sytuacja wygląda inaczej. Treści dziennikarskie stanowią tam około 50 procent wszystkich cytowanych źródeł, częściej pojawiają się za to strony rządowe i organizacje pozarządowe. Model Anthropic sięga też szerzej po media specjalistyczne i regionalne niż konkurenci, co samo w sobie nie jest problemem.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Ten raport nie mówi, że Claude jest gorszy od ChatGPT. Mówi coś bardziej niepokojącego: żaden z tych systemów nie ma spójnej, przejrzystej metody wyboru źródeł, a to oznacza, że nikt z zewnątrz, łącznie z samymi twórcami modeli, nie jest w stanie w pełni przewidzieć, skąd model weźmie odpowiedź na konkretne pytanie.
Rozumiem mechanizm biznesowy za sprawą Axel Springer. OpenAI zapłaciło za dostęp do treści wysokiej jakości i to jest transparentna, komercyjna decyzja, nawet jeśli końcowy efekt wygląda dla użytkownika jak naturalna preferencja algorytmu.
Sprawa Pravdy to zupełnie inna kategoria problemu. Tu nikt nikomu nie zapłacił. Sieć dezinformacyjna po prostu wyprodukowała tyle treści w tylu językach, że model sam zaczął je traktować jako źródło wiedzy o świecie. To pokazuje, że obrona przed tym typem manipulacji nie może polegać wyłącznie na blokowaniu konkretnych domen, bo nowe powstają szybciej niż ktokolwiek zdąży je wpisać na czarną listę.
Zanim ktoś zacznie się z tego cieszyć kosztem konkurenta, warto pamiętać, że to badanie objęło pięć dni w maju i konkretny zestaw pytań. Nie wiemy, jak wygląda sytuacja dziś, ani czy Anthropic już zareagował. Ale sam fakt, że w ogóle trzeba było o to pytać zewnętrznych badaczy, bo firmy same tego nie ujawniają, jest wystarczającym sygnałem alarmowym.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Sieć Pravda i „zatrucie danych”
Domeny, na które trafiał Claude, należą do sieci Pravda, czyli rosyjskiej operacji propagandowej zidentyfikowanej przez Digital Forensic Research Lab (DFRLab). Raport ADI podaje, że w badanym okresie Claude siedmiokrotnie linkował do domen tej sieci, a odniesienia te pojawiały się nieoznaczone, obok źródeł dziennikarskich, przez co użytkownicy prawdopodobnie nie rozpoznawali w nich dezinformacji.
To nie jest odosobniony przypadek. Amerykańska organizacja NewsGuard w badaniu z marca 2025 roku sprawdziła dziesięć czołowych chatbotów AI i stwierdziła, że w jednej trzeciej odpowiedzi powielały one fałszywe narracje sieci Pravda, a siedem z dziesięciu botów bezpośrednio cytowało jej artykuły jako źródła. Sieć ta opublikowała 3,6 miliona artykułów w jednym tylko roku, korzystając z około 150 stron w kilkudziesięciu językach.
Mechanizm nazywany jest „LLM grooming” (czasem też data poisoning). Zamiast atakować model bezpośrednio, propagandyści zalewają internet treściami zoptymalizowanymi pod kątem tego, jak systemy AI wybierają i cytują źródła, licząc na to, że model sam wchłonie te treści jako wiarygodne.
Kilka faktów z badania ADI w skrócie:
- 675 zapytań o bieżące wiadomości skierowano do pięciu systemów AI w ciągu pięciu kolejnych dni roboczych na początku maja
- ponad 4800 odniesień do źródeł przeanalizowano łącznie
- Claude siedmiokrotnie zalinkował domeny sieci Pravda w badanym okresie
- u Claude’a i Gemini treści dziennikarskie stanowiły około 50 procent wszystkich cytowanych źródeł
- ChatGPT cytował „Die Welt” niemal pięciokrotnie częściej niż drugie w kolejności źródło
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Co to oznacza dla polskich firm i użytkowników
Polska od dawna znajduje się w centrum rosyjskich działań dezinformacyjnych. Pełnomocnik MSZ ds. przeciwdziałania dezinformacji Tomasz Chłoń mówił niedawno, że Polska jest krajem najbardziej atakowanym rosyjską dezinformacją, a najwięcej fałszywych treści dotyczy Ukrainy. Ten sam mechanizm „zatrutej studni”, z którego korzystają zachodnie modele AI opisane w raporcie ADI, dotyczy więc bezpośrednio treści wymierzonych w polskich odbiorców.
Instytut NASK zgłosił w minionym roku ponad 46 tysięcy materiałów dezinformacyjnych wielkim platformom cyfrowym. Latem 2026 roku polski rząd musiał publicznie reagować na falę wygenerowanych przez AI nagrań z udziałem rzekomych „młodych Polek” krytykujących Unię Europejską, które okazały się rosyjską dezinformacją.
Dla firm korzystających z Claude’a, ChatGPT czy Gemini w procesach opartych na wyszukiwaniu informacji, takich jak analiza rynku, monitoring mediów czy przygotowywanie treści, raport ADI oznacza coś konkretnego: system, który brzmi pewnie i podaje link do źródła, wcale nie gwarantuje, że to źródło jest wiarygodne. Automatyczne treści generowane na podstawie odpowiedzi AI, bez ręcznej weryfikacji, mogą nieświadomie powielać narracje, które trafiły do modelu tylnymi drzwiami.
Autorki raportu apelują do polityków o wprowadzenie obowiązku transparentności dla modeli AI, w tym oznaczania komercyjnych partnerstw takich jak umowa Springer-OpenAI już na etapie odpowiedzi. Zalecają też użytkownikom, by tam gdzie to możliwe, samodzielnie sprawdzali źródła podawane przez chatboty, chociaż same przyznają, że wymaga to dodatkowego wysiłku.
Springer odrzuca krytykę. Rzecznik koncernu przekazał ZDF, że współpraca z OpenAI została w pełni transparentnie zakomunikowana.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz raportu Agory Digitale Transformation „Meinungsbildung im Wandel” agoradigital.de, a także materiałów ZDFheute z 8 lipca 2026 roku i turi2.de. Kontekst dotyczący sieci Pravda oparto na badaniu NewsGuard z marca 2025 roku, cytowanym m.in. przez Forbes i Meduza.io. Cytaty Vivien Benert zostały zweryfikowane z oryginalnym niemieckojęzycznym materiałem źródłowym. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji w temacie doboru źródeł przez modele AI.
