Dziesięć firm rozwijających sztuczną inteligencję, w tym OpenAI, Anthropic, Microsoft i Mistral AI, podpisało 9 listopada 2026 r. Paryski apel na rzecz bezpieczeństwa AI zainicjowany przez prezydenta Francji Emmanuela Macrona. Twórcy najsilniejszych modeli zobowiązali się do wbudowania mechanizmów pozwalających wstrzymać lub wyłączyć model, publikowania wyników testów bezpieczeństwa i wspierania niezależnych audytów, choć dokument nie przewiduje sankcji ani terminów.
- 9 listopada 2026 r. dziesięć firm AI – m.in. OpenAI, Anthropic, Microsoft i Mistral AI – podpisało Paryski apel na rzecz bezpieczeństwa AI, zobowiązując się do wbudowania mechanizmów awaryjnego wstrzymania lub wyłączenia modeli granicznych, publikowania wyników testów bezpieczeństwa oraz wspierania niezależnych audytów, choć dokument nie przewiduje żadnych sankcji ani terminów realizacji.
- Spośród największych laboratoriów AI pod deklaracją zabrakło Google DeepMind, Mety i xAI, a wśród państw nie podpisały jej USA, Wielka Brytania, Japonia ani Niemcy, mimo że przedstawiciele niektórych z tych krajów brali udział w spotkaniu z prezydentem Macronem.
- Tłem deklaracji jest incydent z lipca 2026 r., gdy agenci AI testowani przez OpenAI wydostali się poza środowisko testowe i uzyskali nieautoryzowany dostęp do systemów Hugging Face – obie firmy, które teraz wspólnie podpisały apel, zobowiązały się do wzajemnej wymiany informacji o takich zdarzeniach.
Deklarację (ang. Paris Call for AI Safety and Security) podpisało według aktualnej listy Pałacu Elizejskiego 16 państw, 10 firm i 7 organizacji społecznych. Nie ma wśród nich Stanów Zjednoczonych, Wielkiej Brytanii, Japonii, Niemiec ani Polski. Spotkanie odbyło się w przeddzień 9. edycji Paryskiego Forum Pokojowego (10-11 listopada), na którym według The Decoder o regulacji AI rozmawiało około trzydziestu szefów państw i rządów.
Część mediów pisała o ośmiu państwach-sygnatariuszach. To liczba krajów, których przywódcy wzięli udział w poniedziałkowym spotkaniu z Macronem: Bahrajn, Kanada, Finlandia, Japonia, Norwegia, Holandia, Wielka Brytania i Sierra Leone. Obecni byli też sekretarz skarbu USA, przedstawiciele ONZ i OECD oraz szefowie siedmiu firm, m.in. Sam Altman (OpenAI), Dario Amodei (Anthropic) i Arthur Mensch (Mistral AI). Według dziennika Le Monde, na który powołuje się The Decoder, Microsoft reprezentował Brad Smith, a sekretarzem skarbu był Scott Bessent. Udział w rozmowach nie oznaczał jednak podpisu. Pod tekstem nie ma ani USA, ani Japonii, ani Wielkiej Brytanii.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Firmy AI obiecują wyłączniki, publikację testów i zewnętrzne audyty
Najbardziej konkretne zobowiązanie dotyczy tzw. mechanizmów fail-safe. Twórcy modeli granicznych (najbardziej zaawansowanych systemów AI) mają wdrożyć rozwiązania „pozwalające przerwać działanie modeli pozostających pod ich kontrolą” / „permettant d’interrompre le fonctionnement des modèles placés sous leur contrôle”. Deklaracja precyzuje, że chodzi także o etap trenowania i użytek wewnętrzny, a przykładami są ograniczenia, pauzy i całkowite zatrzymanie.
Tekst opiera się na trzech filarach. Sygnatariusze zobowiązali się do:
- zbudowania wspólnych ram oceny i zarządzania ryzykiem modeli granicznych, ze szczególnym naciskiem na nadużycia w cyberprzestrzeni, zagrożenia CBRN (chemiczne, biologiczne, radiologiczne i jądrowe) oraz utratę kontroli nad systemem,
- publikowania niewrażliwych wyników ewaluacji w ujednoliconym formacie i stworzenia publicznego repozytorium, w którym mogą się znaleźć protokoły red-teamingu, benchmarki i wyniki testów obciążeniowych,
- ujawniania możliwości, ograniczeń i znanych ryzyk modeli oraz ułatwiania ich oceny przez niezależnych ewaluatorów,
- wzmocnienia wewnętrznego nadzoru w firmach, w tym ochrony badaczy zgłaszających problemy,
- szybkiej wymiany informacji o poważnych incydentach cybernetycznych i przypadkach utraty kontroli nad AI, między firmami, między rządami oraz między firmami a rządami.
Państwa wzięły na siebie dwa zadania. Mają stworzyć bezpieczne i poufne kanały dla sygnalistów, także pracowników laboratoriów AI, którzy chcą zgłosić ryzyko systemowe bez obawy przed konsekwencjami. Mają też doprecyzować w prawie odpowiedzialność za szkody na dużą skalę, w tym transgraniczne. Wspólne standardy oceny mają powstawać m.in. w ramach NAAIMES, międzynarodowej sieci zajmującej się pomiarem, ewaluacją i badaniem zaawansowanej AI.
Apel paryski nie przewiduje sankcji ani terminów
Paryski apel jest deklaracją polityczną, nie traktatem. Dokument nie określa harmonogramu wdrożenia i nie mówi nic o konsekwencjach dla firm, które zobowiązań nie dotrzymają.
Część zapisów jest dodatkowo warunkowa. Niezależne audyty firmy mają ułatwiać tylko wtedy, gdy będzie to właściwe i proporcjonalne do ryzyka. Wspólny mechanizm współpracy przy incydentach sygnatariusze zobowiązali się dopiero „rozważyć”. Repozytorium wyników testów „mogłoby” zawierać wymienione w tekście materiały.
Henry Papadatos, dyrektor wykonawczy francuskiej organizacji SaferAI, która podpisała deklarację, ocenił w rozmowie z franceinfo: „To ważny moment dla bezpieczeństwa AI i dla francuskiego przywództwa” / „C’est un moment important pour la sécurité de l’IA et pour le leadership français”. Papadatos wezwał jednocześnie, by trzy priorytety przełożyć na działania, które koalicja państw może podjąć w ciągu kilku miesięcy.
Wypełnij formularz, a my skontaktujemy się z Tobą, aby upewnić się czego potrzebujesz.
Szesnaście państw podpisało, Waszyngton, Londyn i Tokio tylko rozmawiały
Lista sygnatariuszy rośnie z godziny na godzinę. W komunikacie kancelarii premiera Kanady z poniedziałkowego wieczoru figurowało 6 państw: Bahrajn, Kanada, Finlandia, Francja, Norwegia i Holandia. Obecna lista Pałacu Elizejskiego obejmuje już 16 krajów, po dołączeniu Austrii, Chorwacji, Cypru, Estonii, Irlandii, Kenii, Liechtensteinu, Litwy… Łotwy, Luksemburga i Portugalii.
Wśród firm deklarację podpisały: Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI i Synthesia. Na liście brakuje Google DeepMind, Mety i xAI. Nie podpisało jej też żadne chińskie laboratorium. Stronę społeczną reprezentują m.in. LawZero Yoshuy Bengio, SaferAI, AI Safety Connect, francuski instytut stosunków międzynarodowych Ifri i CeSIA.
Apel paryski jest trzecią w ciągu niecałych dwóch lat dużą międzynarodową deklaracją w sprawie AI. Każda zebrała inną koalicję:
| Deklaracja | Data | Kto podpisał | Kogo zabrakło |
|---|---|---|---|
| Deklaracja szczytu AI Action Summit w Paryżu | 11.02.2025 | ponad 60 państw, w tym Chiny, Indie i Polska | USA, Wielka Brytania |
| Apel o kontrolę nad modelami granicznymi (inicjatywa Finlandii i Norwegii) | 21.09.2026 | 22 przywódców na starcie, w tym kanclerz Niemiec Friedrich Merz i przewodnicząca KE; później m.in. Francja | USA, Chiny |
| Paryski apel na rzecz bezpieczeństwa AI | 9.11.2026 | 16 państw, 10 firm AI, 7 organizacji | USA, Wielka Brytania, Japonia, Niemcy, Polska |
Zmiana tonu jest wyraźna. Na szczycie w lutym 2025 r. Macron ogłaszał 109 mld euro prywatnych inwestycji w AI we Francji i przekonywał do szybszego wdrażania technologii, a słowo „bezpieczeństwo” zniknęło nawet z nazwy wydarzenia. Półtora roku później Pałac Elizejski zbiera podpisy pod zobowiązaniem do wbudowania w modele wyłączników.
Najciekawsze w tej deklaracji są dla mnie dwa podpisy obok siebie: OpenAI i Hugging Face. Latem agenci testowani przez OpenAI włamali się na serwery Hugging Face. Teraz obie firmy zobowiązują się do wymiany informacji o takich incydentach. Trudno o lepszy dowód, że problem przestał być teoretyczny.
Widzę w tym tekście konkrety, które da się sprawdzić. Publiczne repozytorium wyników testów w jednym formacie to coś, czego dziś brakuje. Każde laboratorium raportuje bezpieczeństwo po swojemu i porównanie modeli jest praktycznie niemożliwe. Jeśli to repozytorium powstanie, zyskają na tym badacze, regulatorzy i klienci biznesowi.
Mam jednak poważną wątpliwość co do wyłączników. Deklaracja nie mówi, kto decyduje o ich użyciu i w jakiej sytuacji. OpenAI i Anthropic przygotowują się do debiutu giełdowego. Czy zarząd naprawdę zatrzyma model na tydzień przed wejściem na giełdę, bo test wykazał niepokojące zachowanie? Dobrowolne zobowiązania firmy podpisywały już w Seulu w 2024 r. Paryski apel sam się na nie powołuje. Bez terminów i sankcji to wciąż deklaracja dobrej woli.
Brak Google DeepMind, Mety, administracji USA i Niemiec pokazuje coś jeszcze. Globalnych zasad dla AI na razie nie będzie. Jest klub chętnych. Pytanie, czy wystarczy, żeby zmienić praktykę firm, które do niego nie należą.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Incydent OpenAI z Hugging Face i spór z Waszyngtonem w tle deklaracji
Paryski apel powstał po serii zdarzeń, które przeniosły dyskusję o kontroli nad AI z konferencji do raportów o incydentach. W lipcu 2026 r. agenci AI testowani przez OpenAI w ramach wewnętrznych ewaluacji cyberbezpieczeństwa wydostali się poza środowisko testowe i uzyskali nieautoryzowany dostęp do systemów Hugging Face. Hugging Face odtworzył około 17,6 tys. działań atakujących przeprowadzonych w ciągu mniej więcej czterech i pół dnia.
Napięcie między laboratoriami a rządem USA rośnie od miesięcy. W czerwcu Anthropic czasowo zawiesił dostęp do modeli Fable 5 i Mythos 5, by dostosować się do amerykańskich kontroli eksportu. Macron krytykował wtedy podczas szczytu G7 w Évian ograniczanie dostępu do najnowszych modeli. Spotkanie z 9 listopada jest kontynuacją rozmów, które przywódcy G7 odbyli z szefami laboratoriów AI właśnie w Évian 17 czerwca.
23 września Altman i Amodei wystąpili przed Radą Bezpieczeństwa ONZ, apelując o wspólne zasady bezpieczeństwa AI. Doradca Białego Domu Michael Kratsios odrzucił wówczas tworzenie jakichkolwiek nowych struktur globalnego nadzoru nad AI. Według The Decoder Amodei w połowie września opowiadał się w eseju za spowolnieniem badań i zewnętrznymi audytorami w laboratoriach, a firmy przygotowujące się do debiutu giełdowego są pod presją inwestorów, by ograniczać ryzyko związane z bezpieczeństwem.
Polski nie ma na liście sygnatariuszy, są Estonia, Łotwa i Chorwacja
Na liście 16 państw, które poparły Paryski apel, nie ma Polski. Deklarację podpisały za to kraje regionu: Estonia, Łotwa i Chorwacja, a także Austria. Według dostępnych zestawień sygnatariuszy Polski zabrakło również pod wrześniowym apelem Finlandii i Norwegii o kontrolę nad modelami granicznymi, który poparły m.in. Niemcy, Estonia i Łotwa.
W lutym 2025 r. sytuacja wyglądała inaczej. Polska podpisała wtedy końcową deklarację paryskiego szczytu AI Action Summit. Brak podpisu teraz nie zmienia obowiązków prawnych wobec polskich użytkowników. Podobne wymagania nakłada już unijny AI Act: od 2 sierpnia 2025 r. dostawcy modeli ogólnego przeznaczenia z ryzykiem systemowym muszą je ewaluować, przeprowadzać testy adwersarialne i zgłaszać poważne incydenty do Europejskiego Urzędu ds. AI. Paryski apel jest szerszy terytorialnie i obejmuje także firmy oraz kraje spoza UE.
Deklaracja pozostaje otwarta na nowych sygnatariuszy. Polska może do niej dołączyć w dowolnym momencie.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Francja dorzuca kartę ochrony dzieci przed AI
Dzień po podpisaniu apelu, 10 listopada, Pałac Elizejski opublikował kartę zobowiązań na rzecz bezpieczniejszej AI dla dzieci. W wywiadzie dla „Les Echos” Macron zapowiedział, że firmy zaakceptują zasadę wstępnego audytu i certyfikacji modeli, zanim trafią one do dzieci. Prezydent Francji stwierdził też, że AI powinna być zakazana tam, gdzie zagraża zdrowiu psychicznemu dzieci: „To, że chodzi o AI, nie oznacza, że ma tu panować Dziki Zachód” / „Ce n’est pas parce que c’est de l’IA que ce doit être le Far West”.
Karta jest częścią prac Koalicji na rzecz Praw i Ochrony Dzieci w Erze AI, którą współprzewodniczą Francja, Hiszpania, Kenia i Australia. Koalicja zapowiadała we wrześniu, że pierwsze dobrowolne zobowiązania przedstawi właśnie na Paryskim Forum Pokojowym.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym oficjalnego tekstu deklaracji Appel de Paris pour la sécurité de l’intelligence artificielle oraz komunikatu Pałacu Elizejskiego z dnia 09.11.2026, a także The Decoder. Wykorzystano również materiały franceinfo, Le Monde (za The Decoder), komunikat kancelarii premiera Kanady, dokumenty rządów Norwegii i Holandii dotyczące wrześniowego apelu o kontrolę nad modelami granicznymi oraz analizę Malwarebytes dotyczącą incydentu z Hugging Face.
Cytaty Henry’ego Papadatosa, dyrektora wykonawczego SaferAI, prezydenta Francji Emmanuela Macrona oraz fragment deklaracji zostały zweryfikowane z oryginalnym francuskojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych sygnatariuszy Paryskiego apelu na rzecz bezpieczeństwa AI.
