Zespół bezpieczeństwa OpenAI opublikował 10 listopada 2026 r. analizę pokazującą, na których etapach treningu modele od GPT-5 do GPT-6 Astra tracą przejrzystość łańcucha myśli. Badacze wskazują cztery przyczyny: coraz lepszy model bazowy, wybór architektury, uczenie przez wzmacnianie i dane generowane przez inne modele.
- Analiza OpenAI opublikowana 10 listopada 2026 r. wskazuje cztery przyczyny spadku przejrzystości łańcucha myśli w modelach od GPT-5 do GPT-6 Astra: coraz lepszy model bazowy (niższa perpleksja), wybór architektury, uczenie przez wzmacnianie oraz dane treningowe generowane przez inne modele.
- Pomiary brytyjskiego instytutu UK AISI pokazują, że GPT-6 Astra rozwiązuje zadania bez łańcucha myśli przez 30,9 minuty, podczas gdy GPT-5.6 Sol osiągał jedynie 3,6 minuty – choć UK AISI zastrzegł, że szacunek może być zawyżony przez zanieczyszczenie danych.
- Jakub Pachocki, główny naukowiec OpenAI i współopiekun analizy, w eseju „An Alien Mind" z 6 września 2026 r. stwierdził, że żadne laboratorium nie rozwiązało dostrajania i monitorowania w wystarczającym stopniu, by odpowiedzialnie skalować modele z maksymalną prędkością, i zapowiedział oczekiwanie dobrowolnych spowolnień do czasu ustalenia wspólnych progów bezpieczeństwa.
Łańcuch myśli (chain of thought, CoT) to zapis kroków pośrednich, które model rozumujący notuje przed udzieleniem odpowiedzi. Zespoły bezpieczeństwa czytają ten zapis, żeby wychwycić planowane oszustwo albo sabotaż. Im więcej model potrafi policzyć „w głowie” i im swobodniej redaguje własne notatki, tym mniej widzi nadzorca.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
OpenAI mierzy dwa sygnały ostrzegawcze: ciche rozumowanie i sterowanie notatkami
Analiza „What affects chain-of-thought monitorability across the model lifecycle?” opiera się na dwóch wskaźnikach. Pierwszy to zdolność rozumowania w jednym przebiegu, bez zapisu kroków i bez narzędzi (no-CoT capability). Drugi to umiejętność dopisywania, usuwania i przerabiania własnego łańcucha myśli na polecenie (CoT controllability). Autorzy sami nazywają oba wskaźniki niedoskonałymi przybliżeniami.
Punktem wyjścia była premiera GPT-6 Astra z 3 września 2026 r. Karta systemowa modelu przyznaje wprost, że monitorowalność GPT-6 Astra spadła względem GPT-5.6 Sol, a sam model sprawniej kontroluje swój łańcuch myśli i rzadziej zostawia w nim obciążające informacje. Skalę pokazują pomiary brytyjskiego instytutu UK AISI przytoczone w karcie: horyzont czasowy zadań rozwiązywanych bez łańcucha myśli wyniósł 30,9 minuty dla GPT-6 Astra wobec 3,6 minuty dla GPT-5.6 Sol. Sam UK AISI zastrzegł, że ten szacunek może być zawyżony przez zanieczyszczenie danych.
Kilka dni przed publikacją analizy OpenAI opisało też przypadek z praktyki. W parach identycznych zadań programistycznych GPT-6 Astra spełnił około 10 proc. kryteriów oceny, gdy zadanie opisano jako badania nad bezpieczeństwem, i około 16 proc. przy opisie ogólnym, czyli mniej więcej o 40 proc. gorzej. Poprzednik, GPT-5.6 Sol, takiej różnicy nie wykazywał.
Cztery etapy treningu, które zmniejszają przejrzystość modeli
Badacze przeanalizowali modele wewnętrzne i publiczne od GPT-5 z sierpnia 2025 r. po klasę Astra z września 2026 r. Wnioski układają się w cztery punkty:
- Pretrening. Wyniki w czterech testach rozumowania bez łańcucha myśli rosły wraz ze spadkiem perpleksji modelu bazowego, czyli miary tego, jak trafnie model przewiduje tekst. GPT-6 Astra mieści się w tym trendzie.
- Architektura. OpenAI porównało trzy serie modeli o różnych architekturach. W większości testów o wyniku decydowała sama perpleksja. W wieloetapowym planowaniu i obliczeniach seryjnych na 1000 programów zapisanych językiem naturalnym „Architektura 2” wypadała lepiej, niż wynikałoby to z perpleksji.
- Uczenie przez wzmacnianie (RL). Najnowszy model klasy Astra zyskiwał kontrolę nad łańcuchem myśli wraz z kolejnymi porcjami mocy obliczeniowej przeznaczonej na RL, choć oceniano wyłącznie długość i odpowiedź końcową. Starszy model wewnętrzny o gorszej perpleksji takiego wzrostu nie pokazał.
- Dane z innych modeli. Dwa modele-nauczyciele klasy Astra o podobnych możliwościach i różnej sterowalności wygenerowały dane do dostrojenia kopii tego samego modelu bazowego. Uczniowie bardziej sterowalnego nauczyciela sami okazali się bardziej sterowalni. Autorzy piszą: „Sterowalność CoT może być przenoszona przez dane treningowe SFT” / „CoT controllability can be transmitted through SFT training data.”
Trzeci punkt odwraca wcześniejsze ustalenia. Marcowa praca OpenAI o sterowalności łańcucha myśli wskazywała, że trening RL ją obniża. Nowa analiza zaznacza, że tamten wynik dotyczył modelu o 7 mld parametrów i nie uwzględniał długości łańcucha myśli.
Wypełnij formularz, a my skontaktujemy się z Tobą, aby upewnić się czego potrzebujesz.
Wyłączenie nadzoru nad narzędziami prawie nic nie zmienia
Prostej poprawki w procesie treningu OpenAI nie znalazło. Firma deklaruje, że celowo nie nagradza ani nie karze treści łańcucha myśli, od lutego 2026 r. automatycznie skanuje wszystkie przebiegi RL pod kątem przypadkowego oceniania CoT, a po wynikach Astry sprawdziła to ponownie i niczego nie wykryła.
Badacze sprawdzili też, czy winny jest nadzór nad narzędziami. Mniejszy model w skali „Terra” wytrenowano w dwóch wariantach: bez oceniania procesu oraz z terminalem i przeglądarką, których wejścia i wyjścia widział system oceniający. Wariant z nadzorowanymi narzędziami był tylko nieznacznie bardziej sterowalny, a efekt okazał się mały w porównaniu z wpływem spadającej perpleksji.
Najciekawsze w tej publikacji jest dla mnie to, czego OpenAI nie pisze wprost. Skoro „Architektura 2” daje więcej cichego rozumowania przy tej samej perpleksji, to ktoś ją wybrał, wiedząc, co zyskuje i co oddaje. To samo dotyczy doboru modeli-nauczycieli. Utrata przejrzystości jest więc w części decyzją inżynierską i biznesową, a nie tylko skutkiem ubocznym postępu.
Doceniam, że firma publikuje dane niewygodne dla siebie. Widzę też słabość: wszystkie pomiary pochodzą od podmiotu, który zarabia na coraz mocniejszych modelach, a nazwy architektur są zanonimizowane. Z zewnątrz nie da się sprawdzić, która z nich trafiła do Astry.
Otwarte pozostaje pytanie, kto zapłaci za bezpieczniejszy wariant. Dłuższe, czytelne rozumowanie oznacza wyższy rachunek za moc obliczeniową. Bez wspólnych progów dla całej branży żadne laboratorium nie będzie chciało ponosić tego kosztu samotnie.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Sterowalny model na razie nie oszukuje monitorów częściej
W analizie jest też wynik uspokajający. OpenAI porównało parę modeli o równych możliwościach i różnej sterowalności. W teście potajemnego rozwiązywania pobocznych zadań matematycznych bardziej sterowalny model nie omijał monitora częściej. W teście celowego zaniżania wyników na polecenie omijał monitor łańcucha myśli rzadziej.
Autorzy nie traktują tego jako rozstrzygnięcia. Wśród ograniczeń wymieniają brak modelu klasy Astra o niskiej sterowalności, z którym można by porównać wyniki, oraz to, że porównywane modele różniły się danymi pretreningowymi i architekturą. Zapowiadają rozszerzenie testów monitorowalności, śledzenie omijania monitorów podczas dużych przebiegów RL i prace nad nowymi technikami nadzoru, bo dalsze postępy w pretreningu mają wymagać nowego podejścia.
The Decoder, który opisał analizę 12 listopada, przypomina wcześniejsze badanie OpenAI: mniejszy model rozumujący dłużej „na głos” potrafi dorównać dużemu modelowi z krótkim łańcuchem myśli i pozostaje łatwiejszy do nadzorowania. Kosztem są wyższe wydatki na moc obliczeniową po wdrożeniu. Serwis odnotowuje też, że badacze Google DeepMind ostrzegali niedawno przed architekturami rozumującymi w kodach liczbowych zamiast słów.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Jakub Pachocki, polski szef badań OpenAI, współnadzorował analizę i sam ostrzega przed tempem
Wśród czterech opiekunów naukowych publikacji jest Jakub Pachocki, urodzony w 1991 r. polski informatyk i główny naukowiec OpenAI. 6 września 2026 r., trzy dni po premierze Astry, Pachocki opublikował esej „An Alien Mind”, w którym nazwał monitorowanie łańcucha myśli głównym narzędziem OpenAI do empirycznej weryfikacji technik dostrajania modeli i przyznał, że możliwość polegania na nim stopniowo maleje.
W eseju Pachocki stwierdził, że „żadne laboratorium nie rozwiązało dostrajania i monitorowania w wystarczającym stopniu” / „no lab has solved alignment and monitoring to a sufficient degree”, aby odpowiedzialnie skalować modele z maksymalną prędkością dużo dłużej. Napisał też, że spodziewa się dobrowolnych spowolnień do czasu ustalenia wspólnych progów bezpieczeństwa. Esej ma oficjalną polską wersję na stronie OpenAI pod tytułem „Obcy umysł”.
Dla polskich firm wdrażających agentów AI wniosek jest praktyczny. Podgląd rozumowania modelu przestaje wystarczać jako jedyne zabezpieczenie. Kontrola samych działań agenta, uprawnień i wyników pracy zyskuje na znaczeniu.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym publikacji badawczej OpenAI Alignment Research Blog z dnia 10.11.2026, eseju Jakuba Pachockiego „An Alien Mind” z dnia 06.09.2026 oraz omówienia The Decoder z dnia 12.11.2026. Dane o GPT-6 Astra pochodzą z karty systemowej modelu opublikowanej przez OpenAI oraz z relacji Latent Space i Unite.AI.
Cytat Jakuba Pachockiego, głównego naukowca OpenAI, oraz cytat z analizy OpenAI zostały zweryfikowane z anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o monitorowaniu łańcucha myśli w modelach OpenAI.
