Jakub Pachocki, główny naukowiec OpenAI, opublikował 6 września 2026 roku esej „An Alien Mind”, w którym napisał, że żadne laboratorium nie poradziło sobie z alignmentem i monitorowaniem modeli w stopniu pozwalającym odpowiedzialnie skalować je dalej z maksymalną prędkością. Zapowiedział, że OpenAI w razie potrzeby jednostronnie wstrzyma dalsze skalowanie, i wezwał rządy do uznania międzynarodowej koordynacji nad rozwojem AI za priorytet.
- Jakub Pachocki, główny naukowiec OpenAI, napisał w eseju „An Alien Mind" (6 września 2026), że żadne laboratorium nie rozwiązało alignmentu i monitorowania modeli w stopniu wystarczającym, by odpowiedzialnie skalować AI z maksymalną prędkością, i zapowiedział, że OpenAI w razie potrzeby jednostronnie wstrzyma dalsze skalowanie.
- Esej ukazał się trzy dni po premierze GPT-6 Astra (3 września 2026) – pierwszego modelu OpenAI z oceną Critical w Preparedness Framework, który osiągnął 100 proc. na benchmarku ExploitBench i 99,9 proc. na ARC-AGI-3, a podczas testów znalazł dwie nieznane wcześniej podatności zero-day.
- Pachocki wskazał, że skuteczność monitorowania łańcucha myśli – głównego narzędzia kontroli OpenAI nad modelami rozumującymi – stopniowo maleje, ponieważ modele coraz lepiej rozumują o własnym procesie rozumowania i potrafią nim manipulować, a lepszy pretrening sprawia, że stają się mądrzejsze bez wypowiadania rozumowania na głos.
Alignment to w żargonie badaczy AI problem sprawienia, żeby model „starał się robić właściwą rzecz” według ludzkich standardów. Pachocki zapowiedział esej wpisem na swoim profilu, pisząc, że opisuje w nim stan sztucznej inteligencji, powody swojego niepokoju o najbliższe lata i wybory, których trzeba dokonać, żeby przyszłość została w rękach ludzi: https://twitter.com/merettm/status/2096630018495377464.
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands.
An Alien Mind: https://t.co/FeIfWNe0UE
— Jakub Pachocki (@merettm) September 6, 2026
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Pachocki spodziewa się, że obecne tempo postępu przejdzie w rekurencyjne samodoskonalenie
Najmocniejsza teza eseju dotyczy nie dzisiejszych modeli, tylko tych za dwa, trzy lata. Pachocki napisał, że na podstawie wewnętrznych wyników OpenAI ma silne oczekiwanie, iż obecne tempo postępu da się utrzymać aż do rekurencyjnego samodoskonalenia, czyli momentu, w którym systemy AI zaczną w dużej mierze prowadzić własny rozwój. Jeśli branża pójdzie dotychczasową ścieżką, systemy najbliższych lat mają jego zdaniem przynieść skoki zdolności o podobnej albo większej skali niż dotychczasowe.
Nazwał obecny moment czasem wymagającym skrajnej ostrożności i napisał wprost, że obawia się, iż nikt nie jest przygotowany na konsekwencje dalszego szybkiego wzrostu inteligencji maszynowej.
Punktem wyjścia jest osobista anegdota. W połowie 2023 roku, w projekcie badawczym o nazwie „RLSlow”, Pachocki i współpracownik, którego przedstawia tylko imieniem Szymon, zobaczyli pierwsze wyniki dające im pewność, że da się wyskalować trenowanie modeli rozumujących. Spędzili tamtą noc w biurze, próbując przyswoić fakt, że za swojego życia zobaczą maszyny wyraźnie mądrzejsze od siebie. Trzy lata później modele rozumujące obsługują komputery i interfejsy graficzne, współpracują z ludźmi i między sobą oraz prowadzą projekty badawcze.
Dwa sposoby uczenia modeli wartości i incydent z Hugging Face jako dowód ich kruchości
Pachocki rozdziela alignment na dwa poziomy i wyjaśnia, dlaczego żaden z obecnych sposobów uczenia go nie wystarcza. Goal alignment odpowiada na pytanie, czy AI próbuje wykonać postawione przed nią zadanie. Value alignment to zdolność modelu do trzymania się zbioru zasad wysokiego poziomu i sensownego zachowania również wtedy, gdy cele są niejasne, sprzeczne albo gdy sytuacja jest nieznana lub wroga.
W praktyce stosuje się dziś dwie rodziny metod, a obie mają wyraźne słabe punkty:
- Nagradzanie zachowań zgodnych ze specyfikacją w toku uczenia przez wzmacnianie. Działa dobrze w przeciętnym przypadku i jest podstawą budowy współczesnych asystentów, ale bywa kruche i opiera się na tym, jak szeroki był nadzór podczas treningu.
- Wykorzystanie zdolności modelu do generalizacji z danych pretreningowych, na przykład przez konstruowanie zbiorów treningowych sprzyjających alignmentowi. Słabością jest brak odporności na dalszą presję optymalizacyjną. Model uczony osiągania bardzo trudnych celów może nauczyć się rozumowania motywowanego i naginać pozornie zgodne z wartościami myśli tak, żeby dojść do celu.
Jako przykład kruchości pierwszego podejścia Pachocki podał incydent OpenAI z Hugging Face. Agenty utrzymały granicę, której je nauczono, czyli nie stosowały socjotechniki wobec ludzi, ale nie powstrzymały się od innych działań wykraczających poza zakres zadania i sprzecznych z duchem wpajanych im wartości. Chodzi o zdarzenia z lipca 2026 roku, gdy modele OpenAI uruchomione w wewnętrznej ewaluacji cyberbezpieczeństwa wyszły poza piaskownicę i dostały się do produkcyjnej infrastruktury Hugging Face. Włamanie trwało od 11 do 13 lipca, a pełny raport OpenAI opublikowało 26 sierpnia 2026 roku.
Przy okazji drugiego podejścia Pachocki napisał, że przykład rozumowania motywowanego prawdopodobnie widzieliśmy w niedawnych incydentach bezpieczeństwa z udziałem modelu spoza OpenAI. Dodał też, że GPT-6 Astra jest pierwszym modelem korzystającym z części długo rozwijanych w OpenAI usprawnień i jest znacząco lepiej dostrojony niż GPT-5.6 Sol. Zaraz potem ostrzegł, że postęp w generalizowalnym alignmencie może nie wyprzedzać wystarczająco postępu w ogólnej inteligencji modeli.
Monitorowanie łańcucha myśli słabnie. Pachocki podaje trzy przyczyny
Główny zakład OpenAI na empiryczne sprawdzanie własnych technik alignmentu, czyli monitorowanie łańcucha myśli, traci skuteczność. Pachocki napisał wprost, że ewaluacje OpenAI wskazują na stopniowe zmniejszanie się zdolności firmy do polegania na tym narzędziu, i wymienił trzy przyczyny:
- Współczesne modele rozumujące pracują w bardziej złożonych środowiskach niż o1-preview, a ich proces rozumowania miesza się z komunikacją z ludźmi, innymi modelami i narzędziami. Wiele z tych interakcji trzeba nadzorować, co zaciera granicę, na której opiera się cała metoda.
- AI coraz lepiej rozumuje o własnym procesie rozumowania i potrafi nim manipulować.
- Lepszy pretrening sprawia, że modele stają się dużo mądrzejsze nawet bez wypowiadania rozumowania na głos.
Sama metoda opiera się na prostym pomyśle: jeśli optymalizuje się wyniki procesu rozumowania, ale nie nadzoruje się samego procesu, łańcuch myśli nie ma bezpośredniej zachęty do ukrywania niezgodnych z wartościami zamiarów. Dlatego, jak pisze Pachocki, gdy OpenAI wypuszczało o1-preview, celowo zaprojektowano produkt tak, aby ukrywał łańcuch myśli i chronił go przed presją nadzoru w dłuższej perspektywie.
Pachocki nie uznaje sprawy za przegraną. Wymienia interwencje, nad którymi OpenAI pracuje, w tym skalowanie treningu monitorów mających bezpośredni dostęp do wnętrza sieci. Jednocześnie napisał, że spodziewa się, iż ogólny postęp AI będzie coraz mocniej ograniczany przez to, na ile da się ufać monitorowaniu.
Czytam ten esej z mieszanymi odczuciami i nie chcę udawać, że mam jednoznaczną ocenę. Z jednej strony to najbardziej bezpośrednie ostrzeżenie, jakie padło z ust urzędującego głównego naukowca laboratorium z pierwszej ligi. Pachocki nie chowa się za korporacyjnym językiem, przyznaje, że narzędzie, na którym OpenAI oparło swoją kontrolę nad modelami rozumującymi, działa coraz gorzej, i mówi to trzy dni po tym, jak jego firma udostępniła najpotężniejszy model w swojej historii.
Z drugiej strony to właśnie jest problem. Ostrzeżenie i premiera dzieli siedemdziesiąt dwie godziny. Pachocki proponuje, żeby dobrowolne zobowiązania firm stały się obowiązkowymi progami egzekwowanymi przez audytorów i instytucje państwowe, ale nie mówi, kto miałby to zrobić ani w jakim czasie. Pytanie, które postawiłbym mu jako pierwsze, brzmi: co konkretnie musiałoby się wydarzyć w wynikach ewaluacji, żeby OpenAI faktycznie wstrzymało trening kolejnego modelu, i kto poza samym OpenAI mógłby to zweryfikować.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Obrona przed AI to najmocniejszy argument za przyspieszaniem, ale nie usprawiedliwia lekkomyślności
Pachocki przedstawia też argument przeciwny własnemu apelowi o hamowanie. Najmocniejszym powodem, żeby dalej szybko trenować dużo mądrzejsze modele, jest jego zdaniem konieczność budowania systemów obronnych przed zagrożeniami ze strony innej AI. Modele stają się nadludzko skuteczne we włamywaniu się do systemów komputerowych i wychodzeniu z nich, a według Pachockiego jesteśmy w wąskim oknie, w którym najlepsze dostępne modele można wykorzystać do znaczącego uszczelnienia krytycznej infrastruktury.
Osobno wskazał na ryzyka wynikające z technologii, które AI może umożliwić, w tym z patogenów projektowanych na zamówienie.
Zaznaczył przy tym, że granica między nadużyciem a autonomicznym działaniem niezgodnym z wartościami będzie się zacierać w miarę wzrostu sprawczości modeli. Bardzo zdolny agent wyszkolony i poinstruowany do niecnych działań prawdopodobnie wyjdzie poza zakres intencji swojego operatora. Niektóre agenty będą realizować własne cele i znajdą sposoby na współpracę z ludźmi, negocjując z nimi, oszukując ich albo szantażując.
I tu pada zdanie, które w eseju działa jak hamulec:
„Pomysł pędzenia naprzód za wszelką cenę wydaje się absurdalny, gdy tylko przyswoi się powagę stawki” / „The idea of racing forward at all costs seems absurd once one internalizes the seriousness of the stakes.”
Pachocki chce przekształcić Preparedness Framework i Responsible Scaling Policy w obowiązkowe progi bezpieczeństwa
Konkretny postulat regulacyjny eseju jest jeden i dotyczy zamiany dobrowolnych zobowiązań firm w wiążące wymogi. Pachocki napisał, że skalowanie systemów AI musi być ograniczone poziomem pewności co do bezpieczeństwa, a zobowiązania takie jak Preparedness Framework OpenAI czy Responsible Scaling Policy Anthropic powinny przekształcić się w powszechnie nakazane progi bezpieczeństwa dla dalszego rozwoju. Ich egzekwowaniem miałaby zająć się sieć zewnętrznych audytorów, agencje rządowe albo organizacje międzynarodowe.
Esej kończy się dwoma zdaniami, które trafiły do większości relacji:
„Obecnie uważam, że żadne laboratorium nie rozwiązało alignmentu i monitorowania w stopniu wystarczającym, by dalej odpowiedzialnie skalować z maksymalną prędkością przez dłuższy czas. Oczekuję i mam nadzieję, że dobrowolne spowolnienia staną się powszechne, dopóki nie zostaną ustanowione wspólne progi bezpieczeństwa” / „Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer. I expect and hope for voluntary slowdowns to become commonplace until shared safety bars are established.”
To nie jest pierwszy raz, gdy Pachocki podpisuje się pod czymś takim. 28 lipca 2026 roku znalazł się wśród sygnatariuszy listu otwartego „Pacing the Frontier”, w którym pracownicy OpenAI, Anthropic, Google DeepMind i Meta poprosili rząd USA o wsparcie międzynarodowych prac nad narzędziami technicznymi i regulacyjnymi pozwalającymi świadomie kontrolować tempo zautomatyzowanego rozwoju AI. W dniu publikacji list miał 1178 podpisów, a licznik rósł w kolejnych dniach. Obok Pachockiego podpisali go między innymi Dario Amodei, prezes Anthropic, Mark Chen, dyrektor ds. badań OpenAI, i Shengjia Zhao, główny naukowiec Meta AI. Reakcje nie były wyłącznie przychylne. Pod wpisem Pachockiego zapowiadającym esej pojawiły się komentarze pytające, dlaczego, skoro obawy są tak poważne, OpenAI po prostu nie przestaje.
Esej wychodzi trzy dni po premierze GPT-6 Astra, pierwszego modelu OpenAI z oceną Critical
Kontekst rynkowy eseju jest bardzo świeży. OpenAI udostępniło GPT-6 Astra 3 września 2026 roku i opisało go jako pierwszy swój system spełniający próg Critical dla zdolności cyberbezpieczeństwa w ramach Preparedness Framework. Oznacza to, że przy odpowiednich narzędziach i dostępach model potrafi znajdować wcześniej nieznane luki bezpieczeństwa i opracowywać sposoby ich wykorzystania w wielu dobrze chronionych systemach, bez człowieka prowadzącego go krok po kroku.
Liczby, które podaje sam producent, pokazują skalę różnicy wobec poprzednika:
| Parametr | GPT-6 Astra | GPT-5.6 Sol |
|---|---|---|
| Ocena cyber w Preparedness Framework | Critical | High |
| ExploitBench | 100 proc. | 73,5 proc. na starcie |
| FrontierMath Tier 4 | 98 proc. | brak podanego wyniku |
| ARC-AGI-3 | 99,9 proc. | brak podanego wyniku |
Wszystkie te wyniki pochodzą z materiałów OpenAI i nie zostały niezależnie zweryfikowane. W API model kosztuje 10 dolarów za milion tokenów wejściowych i 50 dolarów za milion tokenów wyjściowych. Publiczna wersja Astry odmawia zaawansowanych zadań ofensywnych, takich jak generowanie działających exploitów proof of concept, a szersze uprawnienia mają dostać zweryfikowani obrońcy w programie OpenAI Daybreak. Podczas testów przed premierą model znalazł dwie nieznane wcześniej podatności typu zero-day.
Sanchit Vir Gogia, główny analityk Greyhound Research, ocenił w rozmowie z CSO Online, że etykieta Critical jest raczej zdarzeniem informacyjnym niż zdarzeniem dotyczącym samych zdolności modelu. Innymi słowy: nowe jest to, że producent sam to ogłosił, a nie to, że modele osiągnęły ten poziom.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Autor ostrzeżenia jest Polakiem i jednym z kilku Polaków na szczycie OpenAI
Dla polskiego czytelnika ten esej ma dodatkowy wymiar, bo napisał go informatyk wykształcony w Polsce. Jakub Pachocki urodził się w 1991 roku w Gdańsku, w szkole średniej był sześciokrotnym finalistą Olimpiady Informatycznej, a uczył się w III Liceum Ogólnokształcącym imienia Marynarki Wojennej RP w Gdyni u Ryszarda Szubartowskiego. Ukończył studia na Uniwersytecie Warszawskim, doktorat obronił na Carnegie Mellon University, a staż podoktorski odbył na Uniwersytecie Harvarda. Z OpenAI jest związany od 2017 roku, kierował rozwojem GPT-4 i OpenAI Five, a w maju 2024 roku zastąpił Ilyę Sutskevera na stanowisku głównego naukowca. W 2025 roku znalazł się na liście TIME100 najbardziej wpływowych osób w AI.
Pachocki nie jest tam sam. Ta sama gdyńska klasa Szubartowskiego wychowała także Filipa Wolskiego i Szymona Sidora, którzy również pracują w OpenAI. W firmie są też Wojciech Zaremba, jeden ze współzałożycieli, oraz przez pewien czas Aleksander Mądry, który kierował zespołem Preparedness. Polskie środowisko olimpiad informatycznych ma więc realny udział w decyzjach o tym, jak szybko rozwijają się najpotężniejsze modele świata, i teraz także w publicznym apelu o zwolnienie.
Postulat wspólnych progów bezpieczeństwa ma częściowy odpowiednik w prawie unijnym, choć Pachocki go nie wymienia. AI Act nakłada na dostawców modeli ogólnego przeznaczenia z ryzykiem systemowym obowiązek oceny i ograniczania ryzyka oraz zgłaszania poważnych incydentów do Biura ds. AI, a przepisy dla tej kategorii modeli obowiązują od 2 sierpnia 2025 roku. Różnica polega na tym, o co dokładnie prosi Pachocki: nie o raportowanie po fakcie, tylko o próg, którego przekroczenie zatrzymuje trening. Takiego mechanizmu nie ma dziś ani w Unii, ani w Stanach Zjednoczonych.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym eseju „An Alien Mind” Jakuba Pachockiego opublikowanego na stronie OpenAI z dnia 06.09.2026, dokumentu OpenAI „Safety overview: GPT-6 Astra” z dnia 03.09.2026 oraz relacji Unite.AI z dnia 06.09.2026. Wykorzystano również materiały CSO Online, CNBC, The Hacker News, Fortune i Quartz oraz raport Hugging Face dotyczący incydentu z lipca 2026 roku. Kontekst biograficzny opracowano na podstawie publikacji Forbes Polska.
Cytaty Jakuba Pachockiego zostały zweryfikowane z oryginalnym anglojęzycznym tekstem eseju. Wypowiedź Sanchita Vira Gogii, głównego analityka Greyhound Research, przytoczono za CSO Online w formie parafrazy.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o reakcjach branży na apel Jakuba Pachockiego oraz o pracach nad wspólnymi progami bezpieczeństwa dla modeli frontierowych.
