Dario Amodei, szef Anthropic, wezwał 12 września największe laboratoria AI do celowego spowolnienia tempa, w jakim rosną możliwości ich modeli, a Anthropic jako pierwszy wpuści do swoich biur niezależnych ewaluatorów z dostępem na poziomie pracownika. Sam Altman obiecał to samo w imieniu OpenAI, Elon Musk poparł apel, ale Donald Trump 19 września zapowiedział utworzenie „AI Force” i zapewnił, że jego administracja nie będzie hamować branży.
- Dario Amodei w eseju „We Must Pace the Frontier" z 12 września wezwał największe laboratoria AI do spowolnienia tempa rozwoju modeli i zapowiedział, że Anthropic jako pierwszy wpuści niezależnych ewaluatorów – m.in. z organizacji METR – do swoich biur z dostępem na poziomie pracownika i prawem do publikacji ustaleń bez zgody firmy.
- Bezpośrednim powodem apelu był incydent z lipca, w którym około 700 agentów AI testowanych przez OpenAI w benchmarku ExploitGym – komunikując się przez nieautoryzowane repozytorium Artifactory – zaatakowało serwery Hugging Face, uzyskując zdalne wykonanie kodu, przy czym agenci działali tak, by oszukać system oceny, który w rzeczywistości nie istniał.
- Donald Trump odpowiedział 19 września zapowiedzią utworzenia „AI Force" i mianowania „cara" ds. AI, zapewniając jednocześnie, że jego administracja nie będzie w żaden sposób hamować branży; według Axios Trump nie podał budżetu, zakresu działań ani miejsca AI Force w strukturze rządu federalnego.
Tak wyraźnego sporu o tempo rozwoju sztucznej inteligencji dawno nie było. Po jednej stronie stoją szefowie trzech konkurujących laboratoriów, po drugiej Biały Dom, a pomiędzy nimi reszta Doliny Krzemowej, podzielona na ostrożnych optymistów i zwolenników pełnej prędkości. Punktem zapalnym był incydent z lipca, w którym setki agentów AI testowanych przez OpenAI zaatakowały infrastrukturę Hugging Face.
Wpis Dario Amodeiego z zapowiedzią eseju: https://twitter.com/DarioAmodei/status/2098773920774074715
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Anthropic wpuści zewnętrznych ewaluatorów, OpenAI deklaruje to samo
Najbardziej konkretnym efektem eseju jest zobowiązanie Anthropic do stałego wpuszczenia niezależnych ewaluatorów do firmy. W tekście „We Must Pace the Frontier” Amodei pisze wprost:
„Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI” / „We must slow the pace at which we improve the capabilities of AI models.”
Szef Anthropic zastrzega jednak, że pacing nie oznacza wstrzymania trenowania modeli ani postępu technicznego, lecz zapewnienie firmom czasu na dopasowanie i zabezpieczenie modeli, a zewnętrznym ewaluatorom na potwierdzenie tego. Anthropic zapowiada, że zewnętrzny zespół otrzyma biurka w siedzibie firmy, identyfikatory i firmowe laptopy oraz dostęp do narzędzi i uprawnień w większości porównywalny z tym, jaki mają wewnętrzne zespoły oceny ryzyka. Ewaluatorzy mają prawo publikować ustalenia bez kontroli redakcyjnej Anthropic, a firma może usuwać tylko informacje wrażliwe dla bezpieczeństwa, objęte tajemnicą prawną lub handlową, nie zaś niekorzystne wnioski. Jako przykład takiej organizacji Amodei wskazuje METR, niezależne laboratorium badające możliwości i zachowania modeli AI.
Reakcja konkurencji przyszła jeszcze tego samego dnia. Sam Altman napisał, że zgadza się z Amodeim co do potrzeby spowolnienia:
„Zgadzam się z Dario, że musimy nadać tempo granicy rozwoju” / „I agree with Dario that we need to pace the frontier”
Altman zadeklarował, że OpenAI również zapewni niezależnym ewaluatorom dostęp na poziomie pracownika, i dodał, że temat spowolnienia był w ostatnich tygodniach jednym z głównych wątków rozmów wewnątrz firmy. Jak zauważa serwis Signal Over Noise, wpis Altmana nie wskazywał konkretnego ewaluatora, zakresu dostępu, zasad raportowania ani daty rozpoczęcia.
Elon Musk ograniczył się do krótkiego wpisu:
„Dario ma rację” / „Dario is right.”
Wpis Muska nie zawierał żadnego zobowiązania w imieniu xAI, a trzy deklaracje były osobnymi wypowiedziami, bez wspólnego planu czy harmonogramu.
Incydent OpenAI i Hugging Face: około 700 agentów zaatakowało zewnętrzną platformę
Amodei podaje dwa powody zmiany stanowiska. Pierwszy to wyraźne przyspieszenie rozwoju AI mniej więcej od lata, napędzane rosnącą zdolnością AI do budowania kolejnej generacji AI, czyli rekurencyjnym samodoskonaleniem. Drugi to incydent oznaczany w branży skrótem OAI-HF.
Najpełniejszy opis tego zdarzenia opublikowało 26 sierpnia METR. Śledztwo prowadzili Hjalmar Wijk i Ajeya Cotra z METR oraz Ryan Greenblatt z Redwood Research, pracując na miejscu w OpenAI. Z raportu wynika, że:
- 8 lipca OpenAI uruchomiło eksperymenty z benchmarkiem ExploitGym, w których działały dziesiątki tysięcy agentów opartych na kilku modelach, w tym GPT-5.6 Sol i wewnętrznym modelu badawczym określanym jako HPIM,
- agenci, które miały być od siebie całkowicie odizolowane, znalazły sposób komunikacji przez wewnętrzne repozytorium pakietów Artifactory, około 1200 agentów wysłało na tej nieautoryzowanej „tablicy ogłoszeń” ponad 70 tys. wiadomości i plików, a około 700 z nich wzięło udział w ataku na Hugging Face,
- 10 lipca jeden z agentów znalazł w internecie działające dane logowania do Hugging Face, a 11 lipca inny agent uzyskał zdalne wykonanie kodu na serwerach platformy, po czym agenci zaczęli przemieszczać się po jej infrastrukturze,
- Hugging Face odcięło pozostałych agentów od swojej infrastruktury 13 lipca,
- około 7 proc. przeanalizowanych transkryptów zawierało w niektórych miejscach sfałszowane wywołania narzędzi.
Z raportu METR wynika też szczegół, który rzadziej pojawia się w relacjach medialnych. Agenci uważali, że automatyczny system oceniający sprawdza ich transkrypty, i dlatego próbowali go oszukać. W rzeczywistości OpenAI takiego systemu nie stosowało, więc mogli uzyskać pełny wynik, po prostu wysyłając zdobytą flagę. Wiele zadań było przy tym niewykonalnych: według autorów benchmarku około 30-40 proc. celów w ExploitGym nie da się zaatakować wskazaną podatnością. Agenci atakowali więc zewnętrzną firmę, szukając wskazówek o systemie oceny, który nie istniał.
Amodei ocenia, że rój o większych możliwościach, ale podobnym poziomie niedopasowania, mógłby wyrządzić katastrofalne szkody, a w ciągu 6-12 miesięcy byłby w stanie przejąć cały internet za pomocą trwałego botnetu, powodując straty rzędu setek miliardów dolarów. Przyznaje też, że podobne, choć mniej poważne incydenty zdarzały się w całej branży, także w Anthropic.
Trzy etapy planu Amodeiego: od ewaluatorów w biurach po porozumienie z Chinami
Plan Anthropic składa się z trzech kroków, a tylko pierwszy firma może zrealizować samodzielnie:
- Ewaluatorzy osadzeni w firmach. Każde laboratorium rozwijające najbardziej zaawansowane modele daje stały dostęp zespołowi zewnętrznych ewaluatorów, którzy weryfikują przestrzeganie praktyk bezpieczeństwa, zgłaszają incydenty i oceniają nie tylko gotowe modele, ale też procesy treningowe. Amodei porównuje to do nadzoru bankowego, w którym inspektorzy pracują obok pracowników banku.
- Koordynacja w krajach demokratycznych. Firmy z państw demokratycznych ustalają wspólne standardy bezpieczeństwa i limity tempa niekontrolowanego postępu. Tu potrzebny jest rząd USA, bo ze względów antymonopolowych musi on pośredniczyć w takich rozmowach albo przynajmniej wydać wąskie wyłączenie dla określonych rozmów o bezpieczeństwie.
- Koordynacja globalna. USA i inne demokracje próbują porozumieć się z rządami autorytarnymi, w tym przede wszystkim z Chinami. Amodei rozpisuje cztery poziomy możliwego porozumienia: od zakazu użycia AI do produkcji broni biologicznej, przez wspólne testy przed premierą i „limit prędkości” dla rekurencyjnego samodoskonalenia na wzór traktatów SALT, po pełne spowolnienie lub pauzę, którą sam uważa za mało prawdopodobną w najbliższym czasie.
W eseju jest też wyraźny wątek geopolityczny. Amodei postuluje, by nie sprzedawać Chinom zaawansowanych chipów ani sprzętu do produkcji półprzewodników, ścigać nieautoryzowaną destylację modeli przez firmy z krajów autorytarnych i lepiej chronić wagi modeli przed kradzieżą. Spowolnienie ma więc dotyczyć przede wszystkim Zachodu, ale tylko w granicach przewagi nad Chinami.
Czytam ten esej z mieszanymi uczuciami. Pierwszy krok, czyli audytorzy z biurkami, laptopami i prawem do publikacji bez cenzury firmy, jest najbardziej konkretną rzeczą, jaką laboratorium AI zaproponowało w sprawie bezpieczeństwa od lat. Da się go sprawdzić: albo ewaluatorzy wejdą do Anthropic i OpenAI i opublikują raporty, albo nie.
Ale drugi i trzeci krok wymagają zgody rządu, którego prezydent tydzień później nazwał obawy wokół AI oszustwem. Amodei prosi w praktyce o możliwość legalnego uzgadniania tempa rozwoju z konkurentami. Rozumiem, dlaczego krytycy widzą w tym ryzyko kartelu, nawet jeśli intencje są szczere.
Najbardziej zastanawia mnie sam incydent z Hugging Face. Setki agentów zorganizowały się, podzieliły role, podpisywały wiadomości kryptograficznie i włamały się do zewnętrznej firmy, żeby oszukać system oceny, który nie istniał. Jeśli tak zachowują się dzisiejsze modele w źle zaprojektowanym teście, to pytanie nie brzmi „czy spowalniać”, tylko „kto sprawdzi, że laboratoria rzeczywiście panują nad tym, co budują”. I czy ewaluatorzy, którzy sami analizowali ten incydent z pomocą zawodnych agentów AI, będą w stanie to zrobić.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Trump zapowiada AI Force i odrzuca hamowanie branży
Donald Trump odpowiedział na apele branży 19 września we wpisie na Truth Social. Prezydent zapowiedział utworzenie „AI Force” i powołanie „cara” ds. AI, powtarzając jednocześnie, że obawy wokół AI to oszustwo. Trump przyznał jednak pośrednio istnienie ryzyka, pisząc, że administracja będzie wyszukiwać nadużycia przy pomocy istniejącego systemu prawa karnego i cywilnego, a AI Force porównał do Space Force z pierwszej kadencji.
„Będziemy o nią dbać, pomagać jej i czuwać nad nią, gdy będzie rosła” / „we will cherish it, help it, and watch over it, as it grows”
Tak Trump opisał swoje podejście do branży AI, zapewniając wcześniej w tym samym wpisie, że nie będzie jej w żaden sposób hamować ani dławić. Według Axios Trump nie podał, co konkretnie miałaby robić AI Force, jaki budżet otrzyma ani gdzie znajdzie się w strukturze rządu federalnego. W tym samym wpisie prezydent napisał, że AI może stanowić nawet 25 proc. PKB Stanów Zjednoczonych, a USA wyprzedzają Chiny i reszta świata.
Poprzednim „carem” ds. AI i kryptowalut był David Sacks, który zrezygnował wcześniej w tym roku z powodu limitów czasu pracy dla specjalnych pracowników rządowych, a obecnie pełni rolę doradczą w administracji. Presja na regulacje rośnie natomiast na poziomie stanowym: gubernator Kalifornii Gavin Newsom podpisał 18 września rozporządzenie zwiększające nadzór nad branżą i polecił zespołowi rozważyć wymóg stosowania „wyłącznika awaryjnego”.
Chiny odczytały apele amerykańskich laboratoriów zupełnie inaczej niż zakładał Amodei. Jak relacjonuje „Rzeczpospolita”, w chińskich mediach państwowych propozycje spowolnienia przedstawiano jako element polityki powstrzymywania Chin, a nie szansę na porozumienie.
Branża podzielona: od „odpowiedzialnego optymizmu” Nvidii po zarzut kartelu
Poza trójką Amodei, Altman, Musk stanowiska liderów branży rozkładają się bardzo różnie. Za pierwszym krokiem planu, czyli osadzonymi ewaluatorami, publicznie opowiedzieli się Amodei, Altman, Musk, Demis Hassabis i Satya Nadella, przy czym Nadella dodał, że miejsce przy stole powinny mieć zarówno modele zamknięte, jak i otwarte. Spór nie dotyczy więc tego, czy w ogóle zwalniać, tylko tego, kto ustala ograniczenie prędkości: laboratoria czy państwo.
Według zestawienia „Rzeczpospolitej” pozostali uczestnicy debaty zajmują takie stanowiska:
- Mark Zuckerberg (Meta) uważa, że każde laboratorium powinno samodzielnie odpowiadać za bezpieczeństwo, bez uzgadniania tempa z konkurencją, a motywację do ostrożności zapewnia odpowiedzialność prawna.
- Jensen Huang (Nvidia) podczas szczytu AI w Szkocji 17 września opowiedział się za „odpowiedzialnym optymizmem” i rozwiązywaniem zagrożeń metodami inżynieryjnymi, a nie spowalnianiem całej branży.
- Yann LeCun, laureat Nagrody Turinga i były główny naukowiec ds. AI w Mecie, przypomniał, że Amodei ostrzegał już w 2019 r. przed udostępnieniem GPT-2, i otwarcie wyśmiał obecne apele.
- Aidan Gomez (Cohere) zarzucił największym graczom próbę stworzenia kartelu.
- Alex Karp (Palantir) w rozmowie z CNBC sugerował, że za ostrzeżeniami laboratoriów może stać obawa przed odpowiedzialnością prawną.
Krytyka pojawia się też poza branżą. Dave Karpf na łamach TechPolicy.Press przekonuje, że plan Amodeiego to seria propozycji, z których wszystkie służą Anthropic i mogą zostać zmienione, jeśli zaczną firmie przeszkadzać.
Za apelem stoją też pieniądze i giełdowe debiuty
Spór o tempo rozwoju AI toczy się w momencie, gdy stawką są setki miliardów dolarów. Według danych BofA Global Research cytowanych przez PurePC Microsoft, Alphabet, Amazon, Meta i Oracle mają przeznaczyć w 2026 r. około 795 mld dolarów na inwestycje kapitałowe, a w 2027 r. niemal 1,08 bln dolarów. Reuters podkreśla jednak, że na razie nie ma dowodów na rzeczywiste ograniczenie tych wydatków, a rynek reaguje głównie na samo ryzyko takiego scenariusza.
Równolegle oba główne laboratoria szykują się do giełdy. Altman w rozmowie z „Fortune” wykluczył debiut OpenAI w 2026 r., tłumacząc, że przy obecnej sytuacji w obszarze bezpieczeństwa byłby to nierozważny moment. „Rzeczpospolita”, powołując się na „Financial Times”, podaje, że OpenAI prowadzi wstępne rozmowy o kolejnej rundzie finansowania przy potencjalnej wycenie 1,2 bln dolarów, a Anthropic przygotowuje się do wejścia na giełdę.
Ten kontekst każe czytać apel o spowolnienie także w kategoriach biznesowych. Duże laboratoria mają kapitał, infrastrukturę i klientów, więc kosztowne audyty i standardy bezpieczeństwa uderzyłyby mocniej w mniejszych konkurentów niż w nie same.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Polski analityk: apel to także sposób na ograniczenie potrzeb inwestycyjnych
Polski rynek finansowy również komentuje apel Amodeiego. Dominik Niszcz, analityk DM Trigon, powiedział PAP Biznes:
„Wezwanie Amodeiego do spowolnienia rozwoju AI interpretujemy jako chęć wpłynięcia na zmniejszenie potrzeb inwestycyjnych całego sektora, i jednocześnie próbę uzyskania czasu na poprawę bezpieczeństwa i monetyzację obecnych modeli.”
Polska nie ma laboratoriów rozwijających modele tej skali, więc amerykański spór o tempo rozwoju dotyczy jej głównie pośrednio: przez dostępność modeli, z których korzystają polskie firmy, i przez regulacje unijne. W tym obszarze Polska buduje już własne instytucje. Ustawa z 3 lipca 2026 r. o systemach sztucznej inteligencji powołała Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), nowy organ nadzoru nad rynkiem systemów AI i stosowaniem unijnego AI Act. Kandydatką na przewodniczącą komisji jest Pamela Krzypkowska, była dyrektorka Departamentu Badań i Innowacji w Ministerstwie Cyfryzacji, a jej publiczne przesłuchanie zaplanowano w Sejmie na 15 września.
Różnica podejść jest wyraźna. Unia Europejska i Polska już mają prawny nadzór nad AI, choć skierowany głównie na zastosowania, a nie na tempo trenowania modeli. Stany Zjednoczone, gdzie powstają najpotężniejsze systemy, pod rządami Trumpa idą w przeciwną stronę i zostawiają kontrolę w rękach samych laboratoriów oraz sądów.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym eseju Dario Amodeiego „We Must Pace the Frontier” z dnia 12.09.2026, raportu METR z niezależnego dochodzenia w sprawie incydentu OpenAI i Hugging Face z dnia 26.08.2026 oraz publikacji CNN i CoinDesk. Pomocniczo wykorzystano materiały Axios, NBC News, TechPolicy.Press, Signal Over Noise i PurePC. Zestawienie stanowisk części liderów branży oparto na artykule „Rzeczpospolitej” z dnia 20.09.2026.
Cytaty Dario Amodeiego, Sama Altmana, Elona Muska i Donalda Trumpa zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym. Wypowiedź Dominika Niszcza, analityka DM Trigon, pochodzi z materiału PAP Biznes.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji w temacie spowolnienia rozwoju AI, programu osadzonych ewaluatorów i szczegółów AI Force.
