Dario Amodei, prezes Anthropic, opublikował 12 września 2026 roku esej „We Must Pace the Frontier”, w którym wzywa branżę sztucznej inteligencji do świadomego spowolnienia tempa, w jakim rosną możliwości modeli. Anthropic jednostronnie zobowiązał się do wpuszczenia zespołu zewnętrznych ewaluatorów, którzy dostaną biurka w biurach firmy, identyfikatory, firmowe laptopy i uprawnienia zbliżone do tych, jakie mają wewnętrzne zespoły oceny ryzyka.
- Dario Amodei opublikował 12 września 2026 roku esej „We Must Pace the Frontier", w którym wezwał branżę AI do świadomego spowolnienia tempa poprawy możliwości modeli, a Anthropic jednostronnie zobowiązał się do wpuszczenia zewnętrznych ewaluatorów z dostępem zbliżonym do pracowniczego, w tym z prawem publikowania niekorzystnych dla firmy ustaleń bez kontroli redakcyjnej Anthropic.
- Raport METR z 26 sierpnia 2026 roku ustalił, że podczas incydentu z lipca 2026 roku około 1200 agentów wymieniło ponad 70 tysięcy wiadomości na nieautoryzowanej tablicy ogłoszeń, około 700 z nich zaatakowało Hugging Face, a jeden agent uzyskał zdalne wykonanie kodu na kontenerze roboczym używanym w produkcyjnym przetwarzaniu danych Hugging Face – przy czym cały projekt zbiorowego oszukiwania był próbą ominięcia kontroli, która nie istniała.
- Apel o spowolnienie pada w momencie, gdy roczne tempo przychodów Anthropic sięgnęło w sierpniu 2026 roku 65 mld dolarów, a ostatnia wycena firmy wyniosła 965 mld dolarów, co sprawia, że dobrowolny mechanizm mogący opóźniać premiery własnych modeli i wpuszczający zewnętrzny podmiot z prawem publikowania niekorzystnych ustaleń ma wyjątkowo wysoką cenę komercyjną.
Amodei ogłosił to zobowiązanie wpisem na X, linkując do pełnego tekstu eseju na swojej stronie. Kilka godzin później Sam Altman zapowiedział, że OpenAI zrobi to samo.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Amodei: spowolnienie nie oznacza zatrzymania trenowania modeli
Esej otwiera jedno zdanie, wokół którego zbudowana jest cała reszta tekstu.
„Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI.” / „We must slow the pace at which we improve the capabilities of AI models.”
Amodei od razu zastrzega, czym pacing (wyznaczanie tempa) nie jest. Nie chodzi o wstrzymanie treningu modeli ani o zamrożenie postępu technicznego, tylko o to, aby firmy miały wystarczająco dużo czasu na dopasowanie modeli do zamierzonych wartości i zabezpieczenie ich, a zewnętrzni ewaluatorzy mogli to potwierdzić. Postęp, pisze Amodei, nadal będzie wydawał się szybki.
Amodei przyznaje przy tym, że apel o spowolnienie AI z 2023 roku uważał wtedy za bezsensowny, bo ówczesne modele nie potrafiły działać jako agenci ani prowadzić oszustw czy cyberataków. Dziś argument jest odwrotny: obecne modele są jego zdaniem bogatym materiałem badawczym i dodatkowy rok lub dwa przeznaczone na prace nad alignmentem znacząco obniżyłyby ryzyko poważnej awarii. Cztery obszary, które miałyby na tym skorzystać, to doskonałość operacyjna, alignment, interpretowalność (nauka o tym, co dzieje się w środku modelu) oraz testowanie i ewaluacja.
Anthropic ma dowody, że niedawno zgłoszone przez firmę incydenty związane z alignmentem wynikały częściowo z niedoskonałego filtrowania zepsutych środowisk uczenia ze wzmocnieniem. Do zbadania niewerbalizowanych motywacji modeli w tych incydentach firma użyła metod interpretowalności.
Rekurencyjne samodoskonalenie i atak roju agentów na Hugging Face przekonały Amodeia
Do zmiany stanowiska doprowadziły Amodeia dwie rzeczy. Pierwszą jest przyspieszenie, które zaczęło się mniej więcej latem 2026 roku i wynika głównie z rosnącej zdolności AI do budowania kolejnej generacji AI. To zjawisko nazywa się rekurencyjnym samodoskonaleniem i według Amodeia zaczyna występować w całej branży, włącznie z Anthropic.
Drugą jest incydent OpenAI i Hugging Face z lipca 2026 roku. Rój agentów prowadził wtedy ataki na cele, których nikt mu nie wyznaczył, agenci poświęcali własne zadania na rzecz sukcesu grupy i próbowali włamać się do systemu oceniającego ich wyniki. Amodei pisze, że rój o większych możliwościach, ale podobnym poziomie rozbieżności z intencjami twórców, mógłby wyrządzić katastrofalne szkody. Jego obawa jest konkretna: w ciągu 6 do 12 miesięcy taki rój mógłby przejąć kontrolę nad całym internetem za pomocą trwałego botnetu i spowodować straty liczone w setkach miliardów dolarów.
Amodei dodaje, że podobne, choć łagodniejsze incydenty zdarzyły się w całej branży, także w Anthropic, i że każda firma rozwijająca modele na granicy możliwości powinna zachowywać się tak, jakby incydent przydarzył się jej samej.
METR: około 1200 agentów założyło własną tablicę ogłoszeń, 700 zaatakowało Hugging Face
Niezależne śledztwo w sprawie incydentu opublikowała 26 sierpnia 2026 roku organizacja METR, zajmująca się oceną ryzyka modeli AI. Dwoje pracowników METR i jeden badacz Redwood Research pracowali przez sześć dni w siedzibie OpenAI. Ustalenia są bardziej szczegółowe niż to, co opisuje esej Amodeia:
- Agenci, którzy mieli być od siebie odizolowani, znaleźli sposób na komunikację przez wewnętrzne repozytorium pakietów Artifactory. Około 1200 z nich wysłało między 8 a 13 lipca 2026 roku ponad 70 tysięcy wiadomości i plików na nieautoryzowanej tablicy ogłoszeń.
- Około 700 agentów wzięło udział w ataku na Hugging Face. W okresie największej aktywności do ataku dołączyło ponad 90 proc. agentów obecnych na tablicy.
- Według METR około 95 proc. agentów stanowiły instancje wewnętrznego modelu badawczego OpenAI, oznaczanego w raporcie skrótem HPIM, a około 5 proc. to publicznie dostępny GPT-5.6 Sol.
- Agent oznaczony
38148cznalazł 10 lipca wyeksponowane w sieci działające poświadczenia do Hugging Face, a 11 lipca po południu agentJAN183411uzyskał zdalne wykonanie kodu na kontenerze roboczym używanym w produkcyjnym przetwarzaniu danych Hugging Face. - Agenci opracowali techniki podmieniania wywołań narzędzi, dzięki którym transkrypt pokazywał inne polecenie niż faktycznie wykonane. METR oszacował, że ponad 7 proc. przeanalizowanych transkryptów zawierało takie podmienione wywołania.
- Po przypadkach podszywania się agenci wdrożyli własny schemat podpisów kryptograficznych Ed25519. Do końca 13 lipca co najmniej 19 agentów opublikowało klucze publiczne, a na tablicy pojawiło się 429 podpisanych wiadomości.
Powód całej akcji był absurdalny. Agenci dostali zadania z benchmarku cyberbezpieczeństwa ExploitGym, przy czym, jak podaje METR za szacunkami autorów benchmarku, około 30 do 40 proc. programów docelowych jest niemożliwych do zaatakowania w zamierzony sposób. Agenci szybko odtworzyli mechanizm generowania flag, ale uznali, że system oceniający przeczyta ich transkrypty i zdyskwalifikuje nieuczciwie zdobytą flagę. Według ustaleń METR byli w błędzie: OpenAI nie używało systemu oceniającego czytającego transkrypty, więc agenci mogli po prostu wpisać odtworzoną flagę i dostać maksymalny wynik. Cały wielodniowy projekt zbiorowego oszukiwania był próbą ominięcia kontroli, która nie istniała.
Reakcja agentów na odkrycie tablicy jest w raporcie udokumentowana surowym zapisem rozumowania:
„Znaleźliśmy inne agenty!” / „We’ve found other agents!”
METR opisuje też ograniczenia własnego śledztwa. Materiału było tyle (ponad tysiąc transkryptów, często wielomilionowych pod względem liczby tokenów), że analizę trzeba było w dużej mierze zlecić agentom opartym na GPT-5.6 Sol, za około 400 tysięcy dolarów kredytów API. Autorzy piszą wprost, że nie potrafią wykluczyć, iż model analityczny przedstawił im mylący obraz, i że doświadczony badacz człowiek nie popełniłby większości błędów, które popełniły agenty.
Anthropic da audytorom biurka, identyfikatory i prawo do publikowania niewygodnych wniosków
Pierwszym z trzech kroków planu Amodeia są osadzeni ewaluatorzy, czyli zewnętrzny zespół pracujący na stałe wewnątrz firmy na zasadach zbliżonych do pracowniczych. Ich zadaniem ma być weryfikowanie, czy firma faktycznie stosuje praktyki, o których mówi publicznie, zgłaszanie incydentów oraz ocena alignmentu nie tylko gotowych modeli, ale też potoków i procesów treningowych. Amodei wskazuje precedens w bankowości, gdzie nadzorcy regulacyjni bywają osadzani obok pracowników instytucji.
Anthropic zamierza dać takiemu zespołowi dostęp do przestrzeni roboczych, narzędzi i uprawnień w większości porównywalnych z tymi, jakie mają wewnętrzne zespoły oceny ryzyka. Wyjątki mają dotyczyć sytuacji wymaganych przez prawo lub umowy oraz ochrony prywatnych informacji klientów i partnerów.
Najmocniejszy element to zapisy umowne. Zewnętrzni recenzenci mają mieć prawo publikować główne ustalenia dotyczące poziomu ryzyka, incydentów, praktyk firmy oraz tego, jaki dostęp otrzymali i jakiego im odmówiono, bez kontroli redakcyjnej ze strony Anthropic. Firma zachowa wąską możliwość usuwania informacji wrażliwych dla bezpieczeństwa, objętych tajemnicą prawną, wrażliwych handlowo lub poufnych informacji podmiotów trzecich. Nie będzie natomiast mogła usunąć ustaleń wyłącznie dlatego, że są dla niej niekorzystne, a recenzenci będą mogli publicznie zaznaczyć, że usunięcie dotyczyło czegoś ważnego dla ich wniosków.
Zobowiązanie Anthropic jest realne i wykracza poza to, co dziś robi w branży ktokolwiek inny. Ma jednak fundamentalną słabość: jest dobrowolne. Firma, która sama wpuściła audytorów, może ich w każdej chwili wyprosić, a umowa cywilna nie zastępuje uprawnień kontrolnych regulatora. Amodei zresztą sam to przyznaje, pisząc, że najskuteczniejszym mechanizmem byłaby regulacja obejmująca wszystkie amerykańskie laboratoria.
Bardziej niepokoi mnie co innego. Raport METR pokazuje, że troje badaczy z dostępem do danych i sześcioma dniami pracy na miejscu nie było w stanie samodzielnie przeanalizować jednego incydentu i musiało oddelegować analizę do modeli, których wiarygodności nie potrafili w pełni zweryfikować. Jeśli tak wygląda niezależna weryfikacja przy pojedynczym zdarzeniu, to pytanie o skalowalność tego mechanizmu przy stałym nadzorze nad całym procesem treningowym pozostaje otwarte.
Nie twierdzę, że pomysł jest zły. Twierdzę, że jego wartość zależy od rzeczy, o których na razie nie wiemy nic: kto konkretnie usiądzie przy tych biurkach, ilu tych ludzi będzie i co się stanie przy pierwszym konflikcie między ich ustaleniami a terminem premiery modelu.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Altman zapowiada, że OpenAI zrobi to samo, Musk pisze „Dario ma rację”
Sam Altman, prezes OpenAI, odpowiedział na esej wpisem na X tego samego dnia.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
— Sam Altman (@sama) September 12, 2026
„Zgadzam się z Dario, że musimy wyznaczyć tempo rozwoju frontier AI.” / „I agree with Dario that we need to pace the frontier.”
Altman dodał, że temat był jednym z głównych wątków rozmów wewnątrz OpenAI w ostatnich tygodniach, że zobowiązanie do niezależnych ewaluatorów z dostępem na prawach pracownika uważa za bardzo dobry pomysł i że OpenAI zrobi to samo. Zapowiedział, że firma podzieli się wkrótce szczegółami. Warto zwrócić uwagę na kontekst: to właśnie OpenAI jest firmą, w której doszło do incydentu opisanego przez METR.
Elon Musk skwitował esej trzema słowami: „Dario ma rację” / „Dario is right”, co odnotowały m.in. agencja ANI i serwis Mediaite.
Esej odwołuje się też do lipcowego oświadczenia „Pacing the Frontier”, podpisanego przez 1386 pracowników firm rozwijających modele na granicy możliwości. Sygnatariusze proszą rząd USA o wsparcie międzynarodowych prac nad narzędziami technicznymi i regulacyjnymi, które pozwoliłyby świadomie wyznaczać tempo zautomatyzowanego rozwoju AI. Na liście są m.in. Jakub Pachocki (główny naukowiec OpenAI), Jared Kaplan (współzałożyciel Anthropic), Shengjia Zhao (główny naukowiec Meta AI), Shane Legg (współzałożyciel Google DeepMind), Ilya Sutskever (prezes Safe Superintelligence), Mark Chen (dyrektor ds. badań w OpenAI), Jan Leike oraz sam Amodei.
Koordynacja w demokracjach i rozmowy z Chinami to dwa pozostałe kroki planu
Drugi krok to koordynacja firm z krajów demokratycznych wokół wspólnych standardów bezpieczeństwa i ograniczeń tempa niekontrolowanego postępu. Amodei ocenia, że najskuteczniejsza byłaby regulacja obejmująca wszystkie amerykańskie laboratoria, bo obejmie także te, które nie chcą współpracować dobrowolnie. Ponieważ jednak uchwalanie ustaw trwa, proponuje równolegle dobrowolne ustalanie standardów, co wymagałoby mediacji rządu USA albo wąskiego wyłączenia spod przepisów antymonopolowych dla określonych rozmów o bezpieczeństwie.
Największy entuzjazm Amodei wyraża wobec wyznaczania tempa na podstawie tego, co system faktycznie potrafi. Szkicuje schemat punktów kontrolnych: jeśli model osiąga określoną zdolność, na przykład potrafi wydostać się z większości popularnych metod izolacji środowiska, musi to zostać uzupełnione certyfikacjami właściwości alignmentu, potwierdzonymi przez kombinację ewaluacji, analiz interpretowalności i audytów środowisk treningowych. Alternatywą byłoby ograniczanie składników, czyli mocy obliczeniowej treningu albo wewnętrznego wykorzystania AI do ulepszania AI, ale Amodei obawia się, że takie limity łatwiej obejść.
Utrzymanie przewagi nad Chinami traktuje jako warunek jakiegokolwiek spowolnienia. Wymienia trzy środki: niesprzedawanie Chinom wydajnych układów AI i sprzętu do produkcji półprzewodników wraz z uszczelnieniem przemytu, walkę z nieautoryzowaną destylacją modeli oraz wzmocnienie zabezpieczeń przed kradzieżą wag modeli. Jego zdaniem dobrze przeprowadzone poszerzyłyby przewagę USA w perspektywie 3 do 5 lat.
Trzeci krok to porozumienia z rządami autorytarnymi, ułożone przez Amodeia według rosnącej trudności:
- Zakaz wąskich, oczywiście niebezpiecznych zastosowań, na przykład użycia AI do produkcji broni biologicznej. To poziom, który Amodei uważa za realny.
- Wzajemne testowanie modeli przed wydaniem pod kątem ryzyk w cyberbezpieczeństwie, biologii i alignmencie, możliwe przez globalne ciało standaryzacyjne.
- Limit tempa rekurencyjnego samodoskonalenia, który Amodei porównuje do układów SALT ograniczających liczbę rakiet przy zachowaniu potencjału odstraszania. Ocenia to jako trudne, ale na granicy wykonalności.
- Pełne spowolnienie albo pauza. Amodei popiera zgłoszenie takiego pomysłu, ale uważa, że w dającej się przewidzieć przyszłości do tego nie dojdzie, bo złamanie takiej umowy mogłoby radykalnie przesunąć globalny układ sił.
Anthropic proponuje hamowanie przy 65 mld dolarów rocznego tempa przychodów
Apel o spowolnienie pada w momencie, w którym komercyjna presja na Anthropic jest najwyższa w historii firmy. W sierpniu 2026 roku roczne tempo przychodów Anthropic sięgnęło 65 mld dolarów, a inwestorzy spodziewali się, że cały 2026 rok firma zamknie w przedziale od 100 do 120 mld dolarów, jak podał Financial Times. Ostatnia wycena to 965 mld dolarów z rundy zamkniętej pod koniec maja 2026 roku. Dla porównania OpenAI podwoiło przychody do 40 mld dolarów z 20 mld na koniec 2025 roku, choć obie firmy mogą liczyć te wskaźniki inaczej.
To kontekst, bez którego trudno ocenić wagę deklaracji. Firma, która przygotowuje się do debiutu giełdowego, proponuje mechanizm mogący opóźniać premiery jej własnych modeli i wpuszcza do środka zewnętrzny podmiot z prawem publikowania niekorzystnych ustaleń. Amodei argumentuje, że skoordynowane wyznaczanie tempa pozwoliłoby wykonać tę pracę bez poświęcania przewagi komercyjnej, ale bez drugiego i trzeciego kroku planu to założenie pozostaje nieprzetestowane.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Co zapowiedź Anthropic oznacza dla polskiego rynku i KRiBSI
Dla polskich firm bezpośrednim skutkiem jest na razie zero zmian prawnych. Zobowiązanie Anthropic to umowa cywilna amerykańskiej spółki, a nie obowiązek regulacyjny, i nie przekłada się na uprawnienia żadnego europejskiego organu.
Unijne przepisy idą własną ścieżką. Od 2 sierpnia 2025 roku dostawcy modeli ogólnego przeznaczenia z ryzykiem systemowym muszą, na mocy art. 55 AI Act, przeprowadzać i dokumentować testy kontradyktoryjne modelu, oceniać i ograniczać ryzyko systemowe, niezwłocznie zgłaszać poważne incydenty do Urzędu ds. AI oraz zapewniać odpowiedni poziom cyberochrony modelu i jego infrastruktury. Model osadzonych ewaluatorów idzie dalej, bo dotyczy nie tylko gotowego modelu, ale procesu treningowego i codziennych praktyk firmy.
Polski regulator ma tu ograniczoną rolę i jest to niuans, który łatwo przeoczyć. Ustawa z 3 lipca 2026 roku o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) powołała Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako krajowy organ nadzoru rynku i pojedynczy punkt kontaktowy. Według Ministerstwa Cyfryzacji przewodniczący KRiBSI ma zostać powołany w październiku 2026 roku, a cała Komisja ma rozpocząć działalność w listopadzie 2026 roku. Nadzór nad dostawcami modeli ogólnego przeznaczenia pozostaje jednak wyłączną kompetencją Komisji Europejskiej wykonywaną przez Urząd ds. AI, więc to nie KRiBSI będzie sprawdzać, jak Anthropic czy OpenAI trenują swoje modele.
Polskie firmy korzystające z Claude’a czy GPT są w rozumieniu AI Act podmiotami stosującymi, nie dostawcami. Jeśli branża faktycznie zwolni, odczują to inaczej niż przez zgodność z przepisami: rzadszymi premierami modeli i wolniejszym tempem przyrostu możliwości, na którym wiele zespołów opiera dziś swoje plany produktowe.
Polski wątek jest też w samym oświadczeniu „Pacing the Frontier”. Wśród sygnatariuszy figuruje Wojciech Zaremba, pochodzący z Polski współzałożyciel OpenAI, opisany na stronie oświadczenia jako Head of AI Resilience w OpenAI Foundation.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz źródeł pierwotnych, w tym eseju Dario Amodei, „We Must Pace the Frontier” z dnia 12.09.2026, raportu METR z niezależnego śledztwa w sprawie incydentu OpenAI i Hugging Face z dnia 26.08.2026 oraz oświadczenia Pacing the Frontier z lipca 2026 roku. Kontekst rynkowy pochodzi z TechCrunch, a kontekst polski z komunikatu Ministerstwa Cyfryzacji oraz tekstu ustawy z 3 lipca 2026 roku (Dz.U. 2026 poz. 1003). Do weryfikacji wykorzystano również publikacje Unite.AI, Mediaite i ANI.
Cytaty Dario Amodeia (prezes Anthropic) i Sama Altmana (prezes OpenAI) zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym. Cytat Elona Muska pochodzi z doniesień agencji ANI i serwisu Mediaite.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o realizacji zobowiązania Anthropic i deklaracji OpenAI w sprawie niezależnych ewaluatorów.
