Funkcja AI Overviews w wyszukiwarce Google, która miała ułatwić dostęp do informacji, staje się dziś bronią w rękach cyberprzestępców. Oszuści nauczyli się manipulować systemem sztucznej inteligencji, podrzucając fałszywe numery telefonów i kierując użytkowników wprost w ręce przestępców.
Od absurdów do realnych zagrożeń
Kiedy Google wprowadził AI Overviews w 2024 roku, internauci szybko zaczęli dzielić się absurdalnymi wynikami generowanymi przez system – od porad, by dodawać klej do pizzy, po rekomendacje zjadania kamieni. Dziś problem jest znacznie poważniejszy. Według raportu Wired, oszuści odkryli sposób na zatruwanie wyników AI, wstrzykując do nich złośliwe informacje, które następnie trafiają do użytkowników jako rzekomo wiarygodne podsumowania.
Problem dotyczy głównie numerów telefonów do obsługi klienta. Użytkownik szukający kontaktu do swojego banku czy firmy telekomunikacyjnej otrzymuje AI Overview z numerem telefonu – ale to numer prowadzący do oszusta. Przestępcy doskonale wykorzystują fakt, że informacje prezentowane przez AI Google wyglądają na oficjalne i zweryfikowane.
Mechanizm manipulacji
Cyberprzestępcy wykorzystują sposób, w jaki duże modele językowe priorytetyzują i syntetyzują informacje. W przeciwieństwie do tradycyjnego rankingu wyszukiwania, który opiera się na ugruntowanych sygnałach autorytetu jak linki zwrotne czy wiek domeny, AI Overviews mogą być wpływane przez nowsze treści pojawiające się często w wielu źródłach niskiej jakości. Oszuści tworzą sieci stron, które powielają te same fałszywe informacje, aż AI zaakceptuje je jako konsensus.
Komentarz redakcji:
To nie jest przypadkowy efekt uboczny nowej technologii – to strukturalny problem z całym podejściem Google do AI w wyszukiwarce. Firma forsuje AI Overviews jako przyszłość wyszukiwania, ale jednocześnie tworzy system, w którym prezentacja informacji sugeruje oficjalne potwierdzenie, podczas gdy za kulisami działa probabilistyczny model podatny na manipulacje. Nie ma opcji wyłączenia tej funkcji. Google decyduje za nas, kiedy widzimy AI Overview, a my możemy tylko przewinąć ekran dalej. To paternalizm technologiczny w najczystszej formie – i właśnie pokazuje swoje konsekwencje – mówi Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Skala problemu i reakcja Google
Przypadki fałszywych numerów w AI Overviews zostały zgłoszone przez użytkowników na Facebooku i Reddicie. Ostrzeżenia publikują także banki i unie kredytowe, które zauważyły, że oszuści podszywają się pod ich linie wsparcia. Do czasu, gdy prawdziwa firma zorientuje się w problemie, dziesiątki klientów mogły już przekazać dane płatnicze przestępcom.
Google twierdzi, że „aktywnie walczy” z oszustami i wdraża aktualizacje wzmacniające systemy wykrywania spamu. W oficjalnym oświadczeniu dla Wired firma zapewniła: „Nasze zabezpieczenia antyspamowe są bardzo skuteczne w utrzymywaniu oszustw z dala od AI Overviews i pokazywaniu oficjalnych numerów obsługi klienta tam, gdzie to możliwe.” Jednak sama firma zaleca użytkownikom weryfikowanie numerów telefonów przez dodatkowe wyszukiwania.
Jak się chronić?
Specjaliści od bezpieczeństwa wskazują kilka zasad ostrożności:
Nie wierz ślepo wszystkiemu, co widzisz w AI Overview – szczególnie w przypadku konkretnych faktów, liczb czy numerów telefonów. System Google jest podatny na pobieranie przestarzałych lub podejrzanych informacji z sieci.
Jeśli szukasz numeru kontaktowego, przeprowadź dodatkowe wyszukiwanie i użyj danych ze strony internetowej samej firmy. To dodatkowe kliknięcia, ale mogą uchronić przed oszustwem.
Zachowaj ostrożność w kontaktach z obsługą klienta – nigdy nie udostępniaj danych płatniczych czy osobowych bez weryfikacji.
Szerszy kontekst
Problem nie ogranicza się tylko do Google Search. Badacze bezpieczeństwa pokazali, że złośliwy tekst można ukrywać w e-mailach i dokumentach, które następnie są skanowane i podsumowywane przez AI, a następnie serwowane użytkownikowi jako dokładne i autentyczne informacje.
Eksperci zauważają, że manipulacja AI Overview jest bardziej podstępna niż tradycyjny spam SEO. Wcześniejsze techniki próbowały wpływać na rankingi dla konkretnych słów kluczowych. Teraz oszuści mogą wstrzykiwać fałszywe informacje bezpośrednio do tego, co wygląda na własne, autorytatywne podsumowanie Google – z dorozumianym potwierdzeniem, jakie sugeruje takie umiejscowienie.
Timing jest szczególnie niepokojący, gdy Google coraz mocniej stawia na wyszukiwanie napędzane AI, konkurując z Bing Chat Microsoftu i nowymi startupami oferującymi wyszukiwanie AI. Firma usprawnia doświadczenie użytkownika, ale jednocześnie tworzy nowe wektory ataków dla cyberprzestępców.
Problem pokazuje fundamentalne napięcie między szybkością i wygodą AI a bezpieczeństwem i dokładnością informacji. Dla niektórych zapytań stare, sprawdzone metody pozostają najlepsze – nawet jeśli wymagają kilku dodatkowych kliknięć.
