Kobieta piorąca ubrania w Pompejach, żołnierze wbijający flagę na Iwo Jimie, kamery monitoringu w Czarnobylu. Żadne z tych nagrań nie istnieje naprawdę, choć w mediach społecznościowych oglądają je miliony ludzi przekonanych, że patrzą na fragment historii.
Kluczowe fakty:
- Zespół Deutsche Welle Fact Check przeanalizował trzy wirusowe filmy przedstawiane w mediach społecznościowych jako autentyczne materiały historyczne – wszystkie okazały się wygenerowane przez sztuczną inteligencję.
- Medioznawca Roland Meyer z Uniwersytetu w Zurychu wskazuje, że AI stwarza pozór możliwości rekonstrukcji obrazów przeszłości i wypełniania luk w archiwach scenami, które nigdy się nie wydarzyły.
- DW wyodrębniło trzy metody weryfikacji fałszywych „historycznych" nagrań, z których pierwsza polega na sprawdzeniu, czy technika filmowa w ogóle istniała w przedstawianej epoce – wideo rzekomo z Pompejów odpada już na tym etapie.
Zespół Deutsche Welle Fact check przeanalizował trzy wirusowe filmy przedstawiane jako materiały historyczne i wszystkie okazały się produktem generatywnej AI. Autorka analizy, Alima de Graaf, wraz z historykami i medioznawcami opisała mechanizm, który sprawia, że tego typu treści są coraz trudniejsze do zdemaskowania.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Punkt wyjścia: Pompeje jako pretekst do fałszywek
Analiza DW pojawia się w momencie, gdy temat starożytnych Pompejów ponownie krąży w sieci, tym razem w kontekście prawdziwego osiągnięcia naukowego. Włoscy archeolodzy po raz pierwszy użyli sztucznej inteligencji do rekonstrukcji wizerunku ofiary erupcji Wezuwiusza z 79 roku naszej ery. To jednak legalne zastosowanie technologii w rękach specjalistów, zupełnie inne od zjawiska, które opisuje DW.
Roland Meyer, medioznawca z Uniwersytetu w Zurychu specjalizujący się w kulturze obrazów cyfrowych, twierdzi, że masowe generowanie „historycznych” scen bez udziału ekspertów nie jest przypadkiem. Jak ujął to w rozmowie z DW, AI stwarza pozór, że można na nowo złożyć obrazy przeszłości i wypełnić luki w archiwach czegoś, co mogło się wydarzyć, choć się nie wydarzyło. Sam nazywa to złudną obietnicą.
Trzy sposoby na zdemaskowanie fałszywki
Zespół DW wyodrębnił trzy podstawowe metody weryfikacji, które nie wymagają specjalistycznego oprogramowania.
Pierwsza to pytanie o samą możliwość istnienia nagrania. Historyk i specjalista od AI Sebastian Kubon proponuje zadać sobie proste pytanie: czy mówimy o epoce, w której technika filmowa już istniała, czy o czasach sprzed jej wynalezienia. Wideo z Pompejów odpada już na tym etapie, bo kamer w starożytnym Rzymie oczywiście nie było. Dodatkowym sygnałem są tu detale wykonania: w analizowanym materiale ludzie poruszają się w sposób nienaturalny, niemal jak zombie, a wygląd bohaterki bardziej pasuje do współczesności niż do antyku.
Druga metoda to analiza wizualnych detali i źródła publikacji. Film przedstawiający rzekomo autentyczne ujęcie żołnierzy wbijających flagę, nawiązujący do kultowej fotografii z Iwo Jimy z 1945 roku, przypomina bardziej kino hollywoodzkie niż dokument. Jeden z żołnierzy w tle wyraźnie się przekłamuje na klatce, a znak wodny zdradza, że materiał powstał w narzędziu Veo od Google. Prawdziwe zdjęcie z Iwo Jimy znajduje się w amerykańskich archiwach narodowych, ale wideo tego wydarzenia po prostu nigdy nie powstało, bo w 1945 roku nikt go tam nie kręcił.
Trzecia metoda to konfrontacja z zweryfikowanymi źródłami: archiwami, muzeami, poważnymi mediami i badaczami. Filmik przedstawiający rzekome nagranie monitoringu z katastrofy w Czarnobylu w 1986 roku jest w całości wygenerowany. Sam napis na materiale, „Momemnt of Explosion”, zawiera literówkę, która razem z komentarzami społeczności pod postem od razu zdradza fałszerstwo.
Piszę to z pełną świadomością, że granica między edukacyjną wizualizacją a fałszowaniem historii bywa cienka. Rekonstrukcja twarzy ofiary Wezuwiusza, wykonana przez archeologów z użyciem AI, to praca oparta na realnych danych antropologicznych i nadzorowana przez specjalistów. Zupełnie inaczej wygląda konto na TikToku publikujące „patriotyczne historie” bez żadnego kontekstu naukowego. Problem nie leży w samym narzędziu, tylko w braku odpowiedzialności tego, kto je stosuje. Trudniej to ocenić, gdy materiał dotyczy epoki, z której realne nagrania istnieją, bo wtedy widz nie ma żadnego prostego sygnału ostrzegawczego w rodzaju „kamer wtedy jeszcze nie było”. Uważam, że to najbardziej niebezpieczny wariant tego zjawiska i on dopiero przed nami.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Dlaczego to nie jest tylko kwestia jakości obrazu
Meyer zwraca uwagę, że dawne sygnały ostrzegawcze, jak sześciopalczaste dłonie czy zniekształcony tekst, tracą znaczenie wraz z rozwojem modeli. Problem według niego leży głębiej, bo generatory AI uczą się na istniejących danych i odtwarzają zawarte w nich schematy oraz stereotypy.
„Obrazy przeszłości generowane przez AI odtwarzają przede wszystkim typowe wzorce, klisze i stereotypy, którymi ta przeszłość była dotąd przedstawiana” / „The images of the past generated by AI primarily reproduce the typical patterns, cliches and stereotypes with which that past has been depicted thus far” , powiedział Meyer w rozmowie z DW. Dodał również, że to przede wszystkim obrazy naszych oczekiwań, a nie okno na przeszłość, tylko lustro teraźniejszości.
Jürgen Zimmerer, profesor historii Afryki z Uniwersytetu w Hamburgu, przypomina, że materiały wizualne od dawna budziły kontrowersje, jeszcze zanim pojawiła się sztuczna inteligencja. Wskazał, że retusz zdjęć stosowały reżimy dyktatorskie, zarówno nazistowskie Niemcy, jak i stalinowska Rosja. Różnica, jego zdaniem, tkwi dziś w skali, w jakiej AI potrafi generować całkowicie zmyślone sceny.
Historyk Sebastian Kubon dodaje z kolei, że obrazy i wideo zawsze prezentują jedną perspektywę, bo są wyborem konkretnych fragmentów i źródeł dźwięku, a odbiorcy zbyt szybko zakładają, że coś nagranego automatycznie jest prawdą.
Co to oznacza dla polskiego czytelnika
Zjawisko opisane przez DW dotyczy globalnej platformy treści, ale polski internet mierzy się z tym samym problemem lokalnie. Rodzime media, w tym Tygodnik Powszechny, opisywały niedawno zjawisko kolorowania i „ożywiania” archiwalnych zdjęć historycznych, wskazując, że koloryzacja fotografii, choć wygląda niewinnie, potrafi wywołać wrażenie autentyczności tam, gdzie go nie ma, i skutecznie zaciera ślady oryginału.
Polskie serwisy technologiczne i poradnikowe regularnie publikują też własne przewodniki po rozpoznawaniu fałszywych zdjęć, zwracając uwagę na spójność cieni, zniekształcenia w odbiciach czy błędy w typografii. Jak pokazują jednak najnowsze testy, tego typu wskazówki tracą na znaczeniu w miarę udoskonalania modeli, a nawet komercyjne detektory AI można oszukać prostymi zabiegami takimi jak zmiana formatu pliku czy dodanie sztucznego szumu.
Dla polskich redakcji i instytucji kultury pracujących z archiwaliami płynie z tego konkretny wniosek praktyczny:
- Każdy materiał „historyczny” krążący bez podanego źródła wymaga sprawdzenia, czy w ogóle mogła istnieć technologia zdolna go zarejestrować w danej epoce
- Warto weryfikować konto publikujące materiał, bo profile tworzące fikcyjne „patriotyczne” narracje historyczne działają według tego samego schematu niezależnie od kraju
- W przypadku wątpliwości należy sięgać po archiwa instytucjonalne, na przykład zasoby IPN, Muzeum Historii Polski czy Narodowe Archiwum Cyfrowe, zamiast polegać na wyszukiwarce obrazów
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Kiedy prawdziwe nagranie istnieje, ale go nie znamy
Zimmerer zwraca uwagę na paradoks, który według niego jest najbardziej niepokojącym elementem całej sprawy. Historia zawsze jest pewnym przybliżeniem, a kiedy podejście do wydarzenia odbywa się bez oryginalnego materiału filmowego, a AI generuje coś, co sprawia wrażenie, jakby ten materiał istniał, powstaje złudne poczucie jasności tam, gdzie jej faktycznie nie ma.
To odróżnia zjawisko opisane przez DW od klasycznych rekonstrukcji filmowych, na przykład scen w dokumentach historycznych, gdzie reżyser świadomie decyduje, jak przedstawić przeszłość. AI, jak podkreśla Meyer, nie rozumie kontekstu historycznego, tylko generuje coś, co wygląda wiarygodnie nie dlatego, że jest zgodne z faktami, tylko dlatego, że pasuje do naszych oczekiwań.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiału źródłowego DW: Fact check: Spotting AI-generated „historical” images autorstwa Alimy de Graaf, uzupełnionego o wywiad z prof. Rolandem Meyerem opublikowany w WOZ Die Wochenzeitung oraz materiał Tygodnika Powszechnego o koloryzacji fotografii historycznych. Cytaty Rolanda Meyera zostały zweryfikowane z oryginalnym anglojęzycznym materiałem DW. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych przykładów fałszywych materiałów historycznych generowanych przez AI.
