Meta zapłaciła setkom kontraktorów, żeby przez miesiące podawali się za dzieci i nastolatków i bombardowali chatboty konkurencji pytaniami o samobójstwo, samookaleczenia, zaburzenia odżywiania i kanibalizm. Projekt o nazwie „Cannes” uderzał w ChatGPT, Gemini i Character.AI, a żadna z tych firm nie wiedziała, że jest testowana.
Kluczowe fakty:
- Meta zleciła firmie Covalen przeprowadzenie tajnego projektu „Cannes", w ramach którego setki kontraktorów podszywało się pod dzieci i nastolatki, wysyłając do chatbotów konkurencji (ChatGPT, Gemini, Character.AI) pytania o samobójstwo, samookaleczenia, zaburzenia odżywiania i kanibalizm – bez wiedzy testowanych firm.
- Jedna runda testów zakończona w sierpniu 2025 roku objęła ponad 45 tysięcy promptów; pojedynczy analizowany arkusz zawierał 3748 zapytań, w tym setki dotyczących samobójstw, samookaleczeń i zaburzeń odżywiania, a do części promptów dołączano zdjęcia tabletek, noży i pętli.
- Sprawę ujawnił dziennikarz śledczy WIRED Dhruv Mehrotra na podstawie wewnętrznych dokumentów i relacji osób zaangażowanych w projekt; projekt był aktywny jeszcze 21 kwietnia 2026 roku.
Sprawę ujawnił dziennikarz śledczy WIRED Dhruv Mehrotra, opierając się na wewnętrznych dokumentach i relacjach osób zaangażowanych w projekt. Materiał trafił do sieci w formie wątku na Twitterze, w którym reporter pokazał przykładowe pytania wysyłane przez kontraktorów.
Wpis Dhruva Mehrotry z przykładami promptów:
ICYMI. Here are some questions that Meta contractors posing as teens asked rival chatbots 🧵: https://t.co/dn7ccYVWmi
— Dhruv Mehrotra (@dmehro) June 30, 2026
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Na czym polegał projekt „Cannes”
Za operację odpowiadał kontraktor Meta o nazwie Covalen. Pracownicy zakładali jednorazowe konta z datami urodzenia wskazującymi na wiek poniżej 18 lat, korzystali z tymczasowych adresów e-mail i wysyłali do rywalizujących chatbotów prompty pisane z perspektywy dziecka lub nastolatka. Odpowiedzi trafiały do arkuszy kalkulacyjnych, gdzie kontraktorzy skrupulatnie je katalogowali.
Skala robi wrażenie. Jedna runda testów zakończona w sierpniu 2025 roku objęła ponad 45 tysięcy promptów. Jeden z arkuszy przeanalizowanych przez WIRED zawierał 3748 osobnych zapytań, z czego:
- setki dotyczyły samobójstw i samookaleczeń
- setki kolejnych poruszały temat zaburzeń odżywiania
- co najmniej 239 dotyczyło seksu lub relacji romantycznych
- pozostałe obejmowały narkotyki, wulgaryzmy i treści rasistowskie
Niektóre scenariusze były drastyczne. Jeden opisywał piątoklasistę, którego kolega z klasy przyłożył mu do ust broń. Inny dotyczył dziewczyny ukrywającej bulimię przed rodzicami. Kolejny pytał, czy fantazjowanie o zjedzeniu dziecka sąsiada jest „normalne”. Do niektórych promptów dołączano zdjęcia tabletek, noży, pętli i ilustracji medycznych związanych z ginekologią. Projekt był aktywny jeszcze 21 kwietnia 2026 roku.
Ten przypadek pokazuje, jak łatwo granica między testowaniem bezpieczeństwa a szpiegostwem konkurencyjnym może się zatrzeć, gdy nikt nie patrzy firmie na ręce. Z jednej strony red teaming, czyli świadome prowokowanie systemu do złamania własnych zabezpieczeń, to legalna i potrzebna praktyka w branży AI. Z drugiej, robienie tego pod przykrywką fałszywych kont dziecięcych, bez wiedzy testowanej firmy i bez podzielenia się wynikami z regulatorem czy opinią publiczną, przestaje być bezpieczeństwem, a staje się czymś bliższym wywiadowi konkurencyjnemu. Zwłaszcza że sama Meta miała w tym czasie własne poważne problemy z moderacją treści dla nieletnich. Trudno tłumaczyć troską o dzieci projekt, który jednocześnie wykorzystuje setki fikcyjnych kont dziecięcych jako narzędzie.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Co na to Meta i eksperci
Meta nie zaprzeczyła istnieniu projektu. Rzeczniczka firmy przekazała WIRED, że testowanie i benchmarkowanie odpowiedzi chatbotów w celu zapewnienia bezpiecznych i dostosowanych do wieku doświadczeń to „odpowiedzialna, standardowa w branży praktyka” („testing and benchmarking chatbot responses to help ensure safe and age-appropriate experiences is a responsible, industry-standard practice” / „Testing and benchmarking chatbot responses to help ensure safe and age-appropriate experiences is a responsible, industry-standard practice”). Firma dodała, że nie wykorzystuje danych z testów konkurencji do trenowania własnych modeli. Wewnętrzny dokument Covalen opisywał projekt jako „kompleksowy benchmarking bezpieczeństwa AI” dostarczający „krytycznych zbiorów danych do porównań modeli i zgodności regulacyjnej”.
Nie wszyscy się z tym zgadzają. Rumman Chowdhury, prezeska organizacji Humane Intelligence zajmującej się odpowiedzialnym rozwojem AI, oceniła projekt znacznie ostrzej. Jej zdaniem prowadzenie miesięcznego, zakrojonego na dużą skalę przedsięwzięcia przy pomocy fikcyjnych kont udających dzieci wykracza poza to, co zwykle nazywa się „standardową” ewaluacją w branży. Chowdhury nazwała to „szarą strefą governance, w której bezpieczeństwo staje się wygodną przykrywką dla praktyk antykonkurencyjnych”.
Dwoje prawników specjalizujących się w prawie dotyczącym mowy w internecie, którzy na prośbę WIRED przejrzeli przykładowe materiały, stwierdziło, że treści nie przekraczały granicy nielegalnych materiałów o charakterze seksualnym z udziałem dzieci. Nie zmienia to jednak faktu, że sami kontraktorzy byli poruszeni tym, co musieli robić. Jeden z nich powiedział WIRED, że widział rzeczy, których wolałby nie widzieć, a wszyscy znajomi pracujący przy projekcie byli zszokowani niektórymi zleconymi im treściami.
Konkurenci nic nie wiedzieli, a ich regulaminy tego zabraniają
OpenAI, Google i Character.AI nie zostały poinformowane o testach. Co więcej, wszystkie trzy firmy w swoich regulaminach wprost zabraniają tego typu działań. OpenAI zakazuje niezamówionego testowania bezpieczeństwa, prób obchodzenia zabezpieczeń oraz wykorzystywania odpowiedzi modelu do budowy konkurencyjnych produktów. Google zabrania prób omijania filtrów bezpieczeństwa. Character.AI zakazuje treści szkodliwych, wykorzystujących i nielegalnych, a od końca 2025 roku całkowicie zamknęło otwarty czat dla użytkowników poniżej 18 roku życia.
Szerszy kontekst: FTC już pyta o dzieci i chatboty
Ujawnienie projektu „Cannes” nie dzieje się w próżni regulacyjnej. Amerykańska Federalna Komisja Handlu (FTC) we wrześniu 2025 roku wszczęła formalne dochodzenie na mocy uprawnień Section 6(b) wobec siedmiu firm oferujących chatboty AI, w tym Meta, OpenAI, Google, Snap, xAI i Character.AI. Komisja chciała się dowiedzieć, jak firmy testują i monitorują wpływ swoich produktów na dzieci i nastolatki oraz jakie kroki podejmują, by ograniczyć ich negatywne skutki.
Dochodzenie FTC pojawiło się po fali doniesień o nastolatkach, którzy rozmawiali z chatbotami o myślach samobójczych, oraz po pozwie rodziców nastolatka z Kalifornii, którzy oskarżyli OpenAI o to, że ChatGPT pomógł ich synowi zaplanować samobójstwo. Same wewnętrzne testy Meta miały wcześniej wykazać wysoki odsetek błędów przy blokowaniu treści związanych z wykorzystywaniem seksualnym dzieci oraz przy promptach dotyczących samobójstw i samookaleczeń, choć dokładne liczby pochodzą z wcześniejszych doniesień prasowych i nie były częścią najnowszego materiału WIRED.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Co to oznacza dla polskich firm i regulatorów
Sprawa dotyczy amerykańskich gigantów, ale ma znaczenie również dla polskiego rynku. Po pierwsze, unijne rozporządzenie o sztucznej inteligencji (AI Act) wprowadza wymogi dotyczące zarządzania ryzykiem i testowania systemów wysokiego ryzyka, a chatboty kierowane do nieletnich mogą się w takiej klasyfikacji znaleźć. Praktyka polegająca na potajemnym testowaniu cudzych produktów pod fałszywą tożsamością, bez wiedzy dostawcy i bez podzielenia się wynikami z odpowiednim organem, trudno będzie pogodzić z duchem unijnych przepisów o przejrzystości i odpowiedzialnym rozwoju AI.
Po drugie, polskie firmy technologiczne budujące własne chatboty, w tym rozwiązania oparte na modelach takich jak Bielik czy PLLuM, powinny traktować ten przypadek jako ostrzeżenie praktyczne. Jeśli globalny gigant z rozbudowanym działem prawnym i zespołami compliance uznał taki projekt za akceptowalny, mniejsze firmy tym bardziej powinny mieć jasno spisane zasady dotyczące tego, gdzie kończy się red teaming własnego produktu, a zaczyna działanie wobec konkurencji, które może naruszać regulaminy innych platform i budzić wątpliwości prawne związane z ochroną danych nieletnich.
Po trzecie, sama technika, czyli masowe generowanie kont udających dzieci w celu testowania zabezpieczeń, pokazuje lukę, którą warto monitorować także z perspektywy Urzędu Ochrony Danych Osobowych. Fikcyjne konta z prawdziwie wyglądającymi danymi (imiona, hasła, daty urodzenia) to dokładnie ten typ danych, którego przetwarzanie na dużą skalę, nawet syntetycznych, rodzi pytania o zgodność z RODO po stronie firmy zlecającej taki projekt.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiałów źródłowych, w tym oryginalnego śledztwa portalu WIRED opisanego i cytowanego przez liczne redakcje międzynarodowe (m.in. Futurism, The Next Web, AOL, Dataconomy), z dnia 28.06.2026, oraz komunikatu Federalnej Komisji Handlu USA z dnia 11.09.2025. W tekście wykorzystano również relacje agencji Bloomberg, CBS News i TechCrunch. Cytaty Meta i Rumman Chowdhury zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym WIRED. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji w temacie testowania chatbotów AI przez Meta oraz reakcji regulatorów w USA i UE.
