Google od miesięcy chwali się, że algorytmy uczenia maszynowego coraz skuteczniej wyłapują fałszywe wpisy w Mapach. W pierwszy weekend lipca ktoś pokazał, że wystarczy odrobina determinacji, żeby ten system rozłożyć na łopatki.
Kluczowe fakty:
- W pierwszy weekend lipca nieznani sprawcy zmienili nazwy kilkunastu warszawskich miejsc w Google Maps, m.in. Pałac Prezydencki przemianowano na „Pałac Kibolski", a Plac Piłsudskiego na „Plac Dzierżyńskiego".
- Zmiany były możliwe dzięki funkcji „zaproponuj zmianę" dostępnej dla każdego użytkownika Google Maps – system moderacji oparty na algorytmach uczenia maszynowego nie wychwycił fałszywych zgłoszeń.
- Wiceszef Ministerstwa Cyfryzacji Dariusz Standerski stwierdził, że według dostępnych informacji nie był to zorganizowany atak, lecz działanie zwykłych użytkowników, jednocześnie nie wykluczając, że incydent mógł stanowić test zewnętrznych podmiotów.
Zamiast Pałacu Prezydenckiego internauci zobaczyli „Pałac Kibolski”. Biuro Bezpieczeństwa Narodowego zmieniło się w „Biuro Bezpieczeństwa Kibolskiego”, co komentatorzy natychmiast odczytali jako złośliwość wobec kibicowskiej przeszłości prezydenta Karola Nawrockiego. Plac Piłsudskiego na chwilę stał się „Placem Dzierżyńskiego”. Grób Nieznanego Żołnierza przemianowano na „Grób Znanego Żołnierza SS”, a Muzeum Powstania Warszawskiego na „Muzeum Powstania III Rzeszy”.
Lista ciągnie się dalej i robi się coraz bardziej niesmaczna. Pomnik Syreny nad Wisłą zyskał nazwę nawiązującą wprost do Marty Kaczyńskiej. Pałac na Wodzie w Łazienkach Królewskich połączono z aferą Jeffreya Epsteina. Park Stefana Żeromskiego na jakiś czas stał się „Parkiem Stepana Bandery”.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Jak to w ogóle możliwe
Odpowiedź jest prostsza niż mogłoby się wydawać. Google od lat pozwala każdemu użytkownikowi zaproponować zmianę nazwy miejsca w Mapach przez opcję „zaproponuj zmianę”. Zgłoszenie trafia do systemu moderacji, który akceptuje je albo odrzuca. Tyle że przy skali, w jakiej działa ta platforma, ręczna weryfikacja każdego wpisu nie wchodzi w grę.
Wiceszef Ministerstwa Cyfryzacji Dariusz Standerski, pytany o sprawę w programie „Onet Rano”, nie miał wątpliwości co do charakteru incydentu.
„Według naszych aktualnych informacji to nie był żaden atak czy zorganizowana akcja” – powiedział. I dodał bez ogródek: „W uproszczeniu dzieciaki się dorwały i zaczęły kombinować. Skutek był bardzo poważny, bo wielu ludzi na tych mapach jeździ i to jest ich nawigacja do celu”.
Pytany wprost, czy mógł to być test rosyjskich służb sprawdzających polskie zdolności cyfrowej obrony, odpowiedział wymijająco, że każdy taki incydent jest w jakimś sensie testem, obojętnie czy przeprowadzonym przez wrogie służby, czy tylko przez nie obserwowanym.
Sprawą zajęła się Naukowa i Akademicka Sieć Komputerowa.
Obserwuję Mapy Google od lat i za każdym razem, kiedy Google ogłasza nową warstwę zabezpieczeń przed fałszywymi wpisami, ktoś w ciągu kilku miesięcy znajduje sposób, żeby ją obejść. Problem nie leży w złej woli garstki internautów, bo ci będą zawsze. Leży w architekturze systemu, który musi obsługiwać dwadzieścia milionów zgłoszeń dziennie i z konieczności stawia na automatyzację. Kiedy padają ważne, symboliczne miejsca w stolicy kraju członkowskiego NATO, trudno już mówić wyłącznie o żarcie studentów. To sygnał, że infrastruktura informacyjna, z której korzystają miliony kierowców i pieszych, ma dziury pozwalające na coś więcej niż złośliwy dowcip.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
AI miała to ogarnąć. Nie ogarnęła
Właśnie tu robi się nieprzyjemnie dla Google. Firma od dawna deklaruje, że korzysta ze sztucznej inteligencji do wykrywania wzorców nadużyć w Mapach. Według opisu mechanizmów moderacji systemy analizują treść zgłoszenia pod kątem obraźliwości, historię konta, z którego pochodzi wpis, oraz nietypową aktywność wokół danego miejsca, na przykład nagły wysyp zgłoszeń w krótkim czasie.
Mechanizm zadziałał tylko częściowo. Część najbardziej drastycznych wpisów zaczęła znikać dopiero w poniedziałek rano, czyli po całym weekendzie ich funkcjonowania w aplikacji, z której nawigują miliony ludzi. Niektóre, mniej nagłaśniane nazwy utrzymywały się jeszcze dłużej.
Google zareagowało oficjalnym oświadczeniem dla mediów. Firma zapewniła, że na bieżąco usuwa niewłaściwe nazwy przypisane do lokalizacji w Polsce, blokuje odpowiedzialne za nie konta i egzekwuje zasady dotyczące treści. Dodano też, że jeśli zachowanie użytkownika szkodzi innym użytkownikom, społeczności albo całemu ekosystemowi Map, firma może zawiesić uprawnienia albo zamknąć konto.
Brzmi standardowo. Problem w tym, że to samo zapewnienie słyszeliśmy już wcześniej, bo cały ten scenariusz nie jest w Polsce nowy.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
To nie pierwszy raz
Zmiana nazw miejsc w Mapach Google jako forma protestu czy prowokacji ma swoją historię. W 2020 roku, po publikacji raportu o ukrywaniu przypadków pedofilii w Kościele katolickim, do nazw ulic, parków i skwerów imienia Jana Pawła II dopisywano „ofiar”. Na początku rosyjskiej inwazji na Ukrainę w 2022 roku wewnętrzną drogę na terenie ambasady Rosji w Warszawie przechrzczono na ulicę Wołodymyra Zełenskiego.
Pod koniec kwietnia tego roku ktoś zmienił nazwę Pomnika Ofiar Tragedii Smoleńskiej na „Pomnik Ofiar Komedii Smoleńskiej”. To był sygnał, że coś się szykuje, tylko nikt chyba nie docenił skali, jaką przybierze kolejna fala.
Kilka rzeczy powtarza się w każdym z tych przypadków:
- Nazwy da się zmienić przez zwykłą funkcję „zaproponuj zmianę”, dostępną dla każdego zalogowanego użytkownika
- Moderacja automatyczna reaguje z opóźnieniem liczonym w godzinach, czasem dniach
- Cel ataku niemal zawsze jest symboliczny i polityczny, nie przypadkowy
- Skala nagłośnienia w mediach społecznościowych przyspiesza reakcję Google bardziej niż same wewnętrzne mechanizmy firmy
Co to oznacza dla polskich firm i instytucji
Dla redakcji zajmującej się technologią najciekawszy wątek nie leży w samych żartach, tylko w tym, co pokazują o zależności instytucji publicznych i firm od infrastruktury, nad którą nie mają żadnej kontroli. Urzędy, muzea, pomniki państwowe: żadna z tych instytucji nie zarządza własnym wpisem w Mapach Google tak, jak zarządza swoją stroną internetową.
To samo dotyczy tysięcy polskich firm, które polegają na Google Business Profile jako głównym kanale kontaktu z klientem. Zmiana nazwy, adresu czy godzin otwarcia przez osobę trzecią to codzienność, z którą małe i średnie firmy w Polsce mierzą się regularnie, tylko bez rozgłosu medialnego, jaki towarzyszył warszawskiemu incydentowi. Jedynym realnym zabezpieczeniem pozostaje pełna weryfikacja wizytówki kodem wysyłanym pocztą, co daje właścicielowi prawo zatwierdzania każdej proponowanej zmiany.
Przy okazji tego zamieszania warto pamiętać o skali, w jakiej w ogóle działa ten system. Google deklaruje, że codziennie otrzymuje około dwudziestu milionów wpisów od użytkowników Map na całym świecie. Sama aplikacja ma ponad miliard aktywnych użytkowników miesięcznie i obejmuje ponad 220 krajów i regionów. Przy takich liczbach nawet promil błędnie zaakceptowanych zgłoszeń oznacza tysiące fałszywych wpisów dziennie.
Ironia w tle: Google akurat teraz inwestuje w AI dla Map
Cały incydent trafia w wyjątkowo niewygodny moment dla Google. Firma w marcu ogłosiła największą aktualizację Map od dekady, opartą w dużej mierze na Gemini: konwersacyjnego asystenta Ask Maps oraz nawigację 3D o nazwie Immersive Navigation. Google przekonuje, że sztuczna inteligencja ma sprawić, że aplikacja będzie „dokładniejsza” i lepiej rozumie kontekst zapytań użytkowników.
Trudno o lepszy kontrast: z jednej strony firma chwali się, że AI potrafi znaleźć restaurację spełniającą pięć warunków naraz, z drugiej ta sama infrastruktura przez cały weekend nie potrafiła odróżnić nazwy „Pałac Prezydencki” od wulgarnego żartu.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Co dalej
Zmienione nazwy zniknęły w większości do poniedziałku, ale sprawą zajmują się już NASK oraz najpewniej też polskie służby zajmujące się cyberbezpieczeństwem, jeśli uznają, że doszło do naruszenia przepisów Kodeksu karnego, na przykład związanych ze znieważeniem symboli państwowych czy miejsc pamięci. Ustalenie sprawców będzie wymagało współpracy z Google przy identyfikacji kont i adresów IP, co w praktyce bywa procesem długim i niepewnym co do skutku.
Na razie nie wiadomo, czy za akcją stoi zorganizowana grupa, pojedynczy żartowniś z dostępem do kilkunastu kont, czy rzeczywiście coś bliższego prowokacji wymierzonej w zaufanie Polaków do cyfrowej infrastruktury. Ministerstwo Cyfryzacji na razie nie wyklucza żadnego scenariusza.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiałów prasowych, w tym informacji przekazanych przez wiceministra cyfryzacji Dariusza Standerskiego dla programu Onet Rano (za pośrednictwem Bankier.pl), oświadczenia biura prasowego Google Polska oraz doniesień Wprost i portalu Sekurak.pl na temat mechanizmów moderacji Map Google. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę ustaleń NASK i ewentualnych informacji o sprawcach incydentu.
Jeden komentarz
Ministerstwa Zdrowia nadal nie poprawili