Meta wyemitowała serię reklam aplikacji Kromix, narzędzia do generowania pornograficznych deepfake’ów, które wprost zachęcało do tworzenia fałszywych nagrań z twarzami amerykańskich polityczek. W jednej z reklam kobieta łudząco podobna do znanej polityczki z USA stoi na tle amerykańskiej flagi i flagi prezydenckiej, mruga do kamery, a materiał przechodzi w scenę pornograficzną z tą samą twarzą.
Kluczowe fakty:
- Meta wyemitowała 32 reklamy aplikacji Kromix – narzędzia do tworzenia pornograficznych deepfake'ów – które wprost zachęcały do generowania fałszywych nagrań z twarzami amerykańskich polityczek. Reklamy usunięto dopiero po pytaniach dziennikarzy WIRED.
- Kromix umożliwiał płatnym użytkownikom wgranie zdjęć prawdziwych osób i umieszczenie ich w gotowych scenariuszach pornograficznych, w tym takich jak "gwałt w sypialni". Apple usunęło aplikację z App Store również dopiero po interwencji redakcji.
- Kampania reklamowa zawierała klasyczne sygnały ostrzegawcze – konto bez obserwujących, założone zaledwie kilka dni przed startem reklam, oraz miniatury wideo przedstawiające neutralne krajobrazy, za którymi ukryta była treść pornograficzna – jednak systemy moderacji Meta ich nie wykryły.
Śledztwo opisali 18 sierpnia Vittoria Elliott i Matt Burgess z WIRED, a reklamy odkryli badacze Tech Transparency Project. Meta usunęła je dopiero po pytaniach redakcji. Apple w tym samym trybie usunęło Kromix z App Store, gdzie aplikacja była dostępna do momentu zapytania dziennikarzy.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
„AI, którego naprawdę używają mężczyźni”
Kromix oficjalnie przedstawia się jako „AI image styler”, czyli narzędzie do stylizacji obrazów. Marketing mówił jednak co innego. Lektor w jednej z wideoreklam zachwalał brak jakichkolwiek ograniczeń, podkreślał, że wszystkie postacie to prawdziwi ludzie, i nazywał produkt sztuczną inteligencją, której naprawdę używają mężczyźni. Po zainstalowaniu aplikacja proponowała płatnym użytkownikom wgranie zdjęć i umieszczenie sfotografowanych osób w gotowych scenariuszach, wśród których znalazły się między innymi „gwałt w sypialni” i „miłość w stylu Disneya”.
Z biblioteki reklam Meta wynika kilka szczegółów, które składają się na obraz kampanii:
- konto powiązane z kampanią wyemitowało łącznie 32 reklamy, każda działała od 5 do 46 godzin,
- reklamy kierowano wyłącznie do mężczyzn, z hasłem „Unleash Next-gen AI Magic”,
- większość reklam zdobyła 10 lub mniej wyświetleń,
- strona prowadząca kampanię powstała 3 sierpnia, tuż przed startem reklam, i nie miała żadnych obserwujących.
Te dwie ostatnie cechy to klasyczne sygnały ostrzegawcze, które system Meta powinien wychwycić. Nie wychwycił. Reklamodawcy stosowali przy tym prosty kamuflaż: miniatury wideo pokazywały plażę, góry albo wodospad, a treść pornograficzna zaczynała się dopiero po kliknięciu.
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Meta: usunęliśmy 344 tysiące takich reklam. I to jest właśnie problem
Meta ma jasne zasady. Reklamy nie mogą zawierać nagości, aktywności seksualnej ani treści sugestywnych, a polityka dotycząca wykorzystywania seksualnego wprost zakazuje promowania aplikacji typu „nudify”. Mimo to firma sama przyznaje, że między listopadem ubiegłego roku a styczniem usunęła 344 tysiące reklam promujących takie usługi na Facebooku i Instagramie. Ta liczba robi wrażenie, ale pokazuje przede wszystkim skalę zjawiska, z którym automatyczna moderacja przegrywa.
Cindy Southworth, szefowa bezpieczeństwa kobiet w Meta, komentowała: „Wykorzystywanie seksualne, w tym promowanie aplikacji nudify, jest czymś potwornym” / „Sexual exploitation, including promoting nudify apps, is horrific”. Firma zapewnia, że wdraża nową technologię AI do blokowania naruszających reklam na etapie ich wgrywania, prowadzi działania prawne przeciwko deweloperom takich aplikacji i dzieli się informacjami o usuniętych podmiotach z innymi firmami technologicznymi. Southworth przyznała jednocześnie, że żaden system nie jest doskonały i że Meta bada, dlaczego reklamy Kromix przeszły przez zabezpieczenia.
Katie Paul, dyrektorka Tech Transparency Project, widzi to inaczej. Zwraca uwagę, że Meta coraz mocniej opiera weryfikację reklam na sztucznej inteligencji, równolegle zwalniając ludzkich moderatorów. Jej ocena jest bezlitosna: „Reklamy to główny produkt Meta, a kontroli jakości praktycznie nie widać” / „Ads are Meta’s primary product, and there appears to be zero quality control”.
Zatrzymuję się przy jednej liczbie z tego śledztwa: większość z 32 reklam Kromix miała najwyżej 10 wyświetleń. Ktoś powie, że to margines, drobny incydent bez zasięgu. Ja widzę w tym coś odwrotnego. Skoro kampania założona na świeżym koncie bez obserwujących, reklamująca porno z twarzami polityczek, przechodzi przez automatyczną weryfikację największego systemu reklamowego świata, to znaczy, że filtr nie działa na najprostszym możliwym przypadku. A Meta chwali się przecież, że jej AI potrafi dopasować reklamę butów do osoby, która wczoraj oglądała buty. Dostrzegam wysiłek firmy, 344 tysiące usuniętych reklam i pozwy przeciwko deweloperom to nie jest nic. Ale otwarte pozostaje pytanie, czy platforma, która zarabia na wolumenie reklam i jednocześnie tnie zespoły moderacji, ma w ogóle strukturalną motywację, żeby ten filtr uszczelnić. Na razie uszczelniają go dziennikarze, jeden mail z redakcji na raz.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Oficjalny portret jako surowiec dla pornografii
Polityczki i urzędniczki od lat są celem niekonsensualnych deepfake’ów. WIRED przypomina, że w styczniu, gdy Grok posłużył do wygenerowania około 3 milionów zseksualizowanych obrazów kobiet i dziewcząt, ofiarami padły między innymi urzędniczki ze Szwecji, Anglii i Irlandii Północnej, a punktem wyjścia były często ich oficjalne zdjęcia. Benjamin Shultz, główny badacz American Sunlight Project, tłumaczy w artykule, że wraz z upowszechnieniem narzędzi do generowania treści dotychczas neutralne materiały, takie jak oficjalne portrety czy nagrania z konferencji prasowych, stały się surowcem dla aplikacji, z których skorzysta każdy z dostępem do internetu.
Sprawa Kromix nie jest też odosobniona po stronie Apple. Prokurator miejski San Francisco David Chiu wysłał latem do firmy wezwanie do usunięcia 13 konkretnych aplikacji i zaprzestania „pomocnictwa” w sprzedaży pornograficznych deepfake’ów. Rzecznik Apple przekazał WIRED, że Kromix najprawdopodobniej dodał zakazane funkcje już po przejściu wstępnej weryfikacji App Store, i zapewnił, że firma od zawsze zakazuje aplikacji służących do generowania i rozpowszechniania pornografii. Problem w tym, że kilka dni wcześniej WIRED opisał ponad 50 reklam na platformach Meta zawierających materiały przedstawiające seksualne wykorzystywanie dzieci wygenerowane przez AI. Część z nich prowadziła do aplikacji MaskAI, dostępnej w App Store i usuniętej, znów, dopiero po kontakcie redakcji. Te reklamy działały od listopada 2025 roku do sierpnia i docierały do tysięcy osób w USA, Wielkiej Brytanii i kilkunastu krajach europejskich.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Polska perspektywa: te same reklamy, ten sam system, nowe przepisy
Dla czytelnika w Polsce ta historia nie jest odległa. Kampanie takie jak Kromix targetuje się co prawda na konkretne rynki, ale obsługuje je ten sam globalny system reklamowy Meta, z którego korzystają polscy użytkownicy Facebooka i Instagrama, a opisane wyżej reklamy z materiałami dotyczącymi dzieci docierały do odbiorców w kilkunastu krajach Europy. Od 2 sierpnia 2026 roku obowiązują też w całej Unii przepisy o przejrzystości z artykułu 50 AI Act, które wymagają wyraźnego oznaczania deepfake’ów, a DSA traktuje rozpowszechnianie nielegalnych treści na bardzo dużych platformach jako ryzyko systemowe zagrożone karami liczonymi od globalnego obrotu. Pisaliśmy o tych regulacjach na AIPORT.pl wielokrotnie.
Wnioski z historii Kromix są dla europejskich regulatorów gotowym materiałem dowodowym. Skoro strona reklamowa założona 3 sierpnia, bez obserwujących, z pornograficznym deepfakiem polityczki, przechodzi przez automatyczną weryfikację, to deklaracje o skutecznej mitygacji ryzyk systemowych trudno brać za dobrą monetę. A polska polityczka, dziennikarka czy menedżerka, której oficjalny portret wisi na stronie instytucji, jest dokładnie takim samym surowcem dla tych narzędzi jak jej amerykańska odpowiedniczka.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiału śledczego WIRED autorstwa Vittorii Elliott i Matta Burgessa (współpraca: Tim Marchman) z dnia 18.08.2026, a także wcześniejszych publikacji WIRED o reklamach z materiałami CSAM na platformach Meta, ustaleń Tech Transparency Project oraz materiałów TechCrunch o wezwaniach prokuratora Davida Chiu wobec Apple i Google. Cytaty Katie Paul (Tech Transparency Project) i Cindy Southworth (Meta) zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o aplikacji Kromix i reklamach deepfake na platformach Meta.
