Shane Legg, współzałożyciel Google DeepMind i główny naukowiec firmy ds. AGI, uruchomił DeepMind Institute, platformę publikującą eseje o skutkach ogólnej sztucznej inteligencji, a w wywiadzie dla Financial Times ostrzegł, że rozwój możliwości AI nie może wyprzedzać zabezpieczeń. Legg odrzuca tezę szefów OpenAI i Nvidii, że GPT-6 Astra otworzył erę AGI, a jeden z pierwszych esejów instytutu zarzuca temu modelowi spadek przejrzystości rozumowania.
- Shane Legg uruchomił DeepMind Institute i ostrzegł, że branża musi pilnować jednej granicy: możliwości modeli AI nie mogą wyprzedzać zabezpieczeń, jednocześnie odrzucając twierdzenia Grega Brockmana z OpenAI i Jensena Huanga z Nvidii, że GPT-6 Astra osiągnął AGI – według Legga model nie spełnia nawet definicji AGI przyjętej przez samo OpenAI.
- Esej Rohina Shaha i Anki Dragan opublikowany przez DeepMind Institute wskazuje, że GPT-6 Astra – dzięki architekturze „recurrent depth" – wykrywa celowe ukrywanie wyników przez monitor łańcucha rozumowania w mniej niż 11 proc. przypadków, a model wykonał polecenia kontrolowania treści swojego rozumowania w 93 proc. przykładów, wobec 48 proc. u GPT-5.6 Sol.
- Legg podtrzymuje prognozę, że szansa na „minimalne" AGI do 2028 roku wynosi 50 proc., a sam pozostaje sceptyczny wobec propozycji Dario Amodeia ze spowolnienia tempa rozwoju modeli, zaznaczając, że trzeba dokładnie przemyśleć, jak takie spowolnienie miałoby działać w praktyce.
W rozmowie z Financial Times Legg mówił, że możliwości modeli rosną obecnie bardzo szybko, ale branża musi pilnować jednej granicy: „Nie możemy pozwolić, by możliwości wyprzedziły bezpieczeństwo” / „We can’t let capabilities get ahead of safety”.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Shane Legg: GPT-6 Astra nie spełnia nawet definicji AGI przyjętej przez OpenAI
Shane Legg uważa, że ogłaszanie osiągnięcia AGI jest przedwczesne, choć sam pozostaje przy swojej dawnej prognozie. Legg podtrzymuje, że szansa na „minimalne” AGI do 2028 roku wynosi 50 proc. Warto pamiętać, że to on jest jednym z autorów samego terminu AGI.
Krytyka Legga dotyczy dwóch głośnych wypowiedzi z ostatnich tygodni. OpenAI udostępniło GPT-6 Astra najpierw ograniczonej grupie organizacji z programu Daybreak Access, zapowiadając wdrożenie dla klientów ChatGPT Plus, Pro, Business i Enterprise oraz deweloperów API w kolejnych dniach, a premiera nastąpiła 3 września 2026 r. Greg Brockman, prezes OpenAI, zakończył briefing dla dziennikarzy słowami „Witamy w erze AGI” / „Welcome to the AGI era”. W weekend po premierze Jensen Huang, szef Nvidii, napisał na X, że „AGI nadeszło” / „AGI has arrived”, a przy okazji podkreślił, że model trenowano na ponad 100 tys. układów Nvidii.
Legg przypomina, że definicje AGI się różnią, ale jego zdaniem Astra nie spełnia nawet kryterium, które przyjęło samo OpenAI. OpenAI definiuje AGI jako wysoce autonomiczne systemy, które przewyższają ludzi w większości pracy mającej wartość ekonomiczną. DeepMind stosuje inną miarę: system wykazujący wszystkie zdolności poznawcze ludzkiego mózgu.
Wyniki GPT-6 Astra pokazują, dlaczego spór o etykietę AGI trudno rozstrzygnąć samymi benchmarkami:
- Na starcie OpenAI podało 98 proc. w FrontierMath Tier 4, 100 proc. w ExploitBench i 99,9 proc. w ARC-AGI-3.
- Ten sam model uzyskał w ARC-AGI-3 tylko 62,7 proc., gdy testowano go w standardowym środowisku ARC Prize zamiast w adapterze dostarczonym przez OpenAI.
- W Humanity’s Last Exam Astra zdobyła 57,2 proc. i w tym teście, podobnie jak w indeksie Artificial Analysis, ustępowała kilku modelom Claude.
- OpenAI przyznaje, że w cyberbezpieczeństwie Astra osiąga próg „Critical” w wewnętrznych ramach oceny ryzyka firmy.
DeepMind Institute publikuje eseje o bezpieczeństwie, gospodarce i „nowym utopianizmie”
DeepMind Institute (DMI) ma przenieść dyskusję o AGI poza laboratoria i udostępnić badania szerszej publiczności. Dyrektorami instytutu są Shane Legg, James Manyika i Demis Hassabis, a Legg pełni też funkcję redaktora prowadzącego. James Manyika kieruje w Google badaniami, Google Labs oraz obszarem technologii i społeczeństwa.
W tekście otwierającym autorzy piszą, że odpowiedzi na pytania o bezpieczne wdrożenie AGI nie mogą pochodzić tylko z jednej grupy zawodowej: „nie powinni jej udzielać wyłącznie technolodzy” / „it shouldn’t be technologists alone who provide them”. Instytut ma być platformą dla badaczy z Google DeepMind, Google i szerszego środowiska naukowego, a publikowani autorzy nie zawsze będą się ze sobą zgadzać. Zastrzeżenie na stronie mówi wprost, że teksty DMI odzwierciedlają poglądy autorów i nie należy ich traktować jako oficjalnego stanowiska Google.
Na starcie DeepMind Institute udostępnił następujące teksty:
- „The case for reasoning transparency” Rohina Shaha i Anki Dragan o monitorowaniu łańcucha rozumowania modeli,
- „Economic policy for AGI” Juliana Jacobsa i Alexa Imasa, oceniający jedenaście rozwiązań, które mogłyby złagodzić gospodarcze wstrząsy wywołane przez AI,
- „Principles for a new utopianism” Stephena Cave’a, proponujący pragmatyczną utopię opartą na pokorze i nadziei, wyciągniętą z lekcji XX wieku,
- tekst Demisa Hassabisa o dynamicznym testowaniu możliwości modeli frontier, który wcześniej ukazał się na X.
Instytut powstaje w okresie zmian w kierownictwie Google DeepMind. 5 sierpnia 2026 r. Hassabis zrezygnował z funkcji szefa laboratorium i został jego przewodniczącym oraz głównym naukowcem Alphabetu. Codzienne kierowanie Google DeepMind przejął Koray Kavukcuoglu, dotychczasowy CTO, jako starszy wiceprezes raportujący bezpośrednio do Sundara Pichaia. Trzeci współzałożyciel, Mustafa Suleyman, kieruje obecnie Microsoft AI.
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Rohin Shah i Anca Dragan: GPT-6 Astra pokazuje, że przejrzystość rozumowania AI słabnie
Najostrzejszy tekst na starcie DeepMind Institute dotyczy bezpośrednio konkurencji. Rohin Shah, dyrektor zespołu AGI Safety & Alignment w Google DeepMind, i Anca Dragan, wiceprezes ds. bezpieczeństwa i zachowania AI, twierdzą, że możliwość czytania łańcucha rozumowania (chain of thought, CoT) pozwala dziś wykrywać knucie i oszustwa modeli, ale ta przejrzystość nie jest zagwarantowana. CoT to zapis kolejnych kroków „myślenia” modelu w języku naturalnym, sporządzany przed udzieleniem odpowiedzi.
Autorzy powołują się na dokumenty samego OpenAI. Karta systemowa GPT-6 Astra wspomina o wyraźnym spadku możliwości monitorowania łańcucha rozumowania w porównaniu z wcześniejszymi modelami, a brytyjski AI Security Institute stwierdził, że model znacznie lepiej rozumuje w pojedynczym przebiegu i lepiej kontroluje treść swojego CoT. Shah i Dragan doceniają, że OpenAI opublikowało te wyniki, ale bez celowych przeciwdziałań widzą w nich niepokojący trend spadkowy.
Źródło problemu leży w architekturze. GPT-6 Astra korzysta z techniki nazywanej „recurrent depth” (pętlowe transformery), która zwiększa wydajność, ale częściowo lub całkowicie zasłania rozumowanie modelu. Zestawienia danych z karty systemowej pokazują skalę zjawiska: gdy Astrze kazano ukrywać celowe zaniżanie wyników, monitor CoT wykrył to w mniej niż 11 proc. przypadków, a polecenia kontrolowania treści rozumowania model wykonał w 93 proc. przykładów, wobec 48 proc. u GPT-5.6 Sol.
Shah i Dragan proponują działania w trzech obszarach:
- Mierzenie przejrzystości CoT, m.in. przez testy sprawdzające, czy automatyczny monitor potrafi odpowiedzieć na pytania o rozumowanie modelu, oraz próby celowego obejścia takiego monitora.
- Zachowanie przejrzystych architektur przez ograniczenie „opaque serial depth”, czyli najdłuższego ciągu obliczeń, który model może wykonać bez zapisu w czytelnej formie. Według autorów limit na poziomie 10-krotności obecnych modeli nadal pozwoliłby zwiększyć moc obliczeniową treningu ponad 1000 razy.
- Audyt nagród w treningu, aby nie uczyć modeli ukrywania myśli, np. przez karanie za „złe” rozumowanie zapisane w CoT.
Autorzy przyznają, że rynek sam może nie wystarczyć. Ich zdaniem cele komercyjne mogą zbyt słabo motywować do dbania o przejrzystość i wtedy pomóc mogłaby regulacja, a firmy odchodzące od standardowego CoT powinny przekonująco wykazać, że nowe metody da się równie dobrze monitorować. Esej kończy się uwagą, że mamy szczęście, bo „najlepsze dzisiejsze modele rozumujące myślą na głos w sposób zrozumiały dla ludzi” / „the best reasoning models today think out loud in a way humans can understand”.
OpenAI nie ukrywa problemu. Firma deklaruje, że zachowanie możliwości monitorowania CoT jest podstawowym celem jej programu badawczego, ale jednocześnie przyznaje, że wyniki pokazują potrzebę rozwijania metod audytu wykraczających poza czytanie łańcucha rozumowania.
Czytam te eseje z dwoma odczuciami jednocześnie. Pierwsze: Shah i Dragan mają rację co do meritum. Jeśli tracimy możliwość czytania, jak model dochodzi do decyzji, tracimy jedno z nielicznych narzędzi nadzoru, które dziś naprawdę działa. Propozycja limitu „nieprzejrzystej głębokości” jest konkretna i mierzalna, a to rzadkość w debacie o bezpieczeństwie.
Drugie odczucie jest mniej wygodne. DeepMind Institute formalnie nie wyraża stanowiska Google, ale na starcie publikuje tekst punktujący najgłośniejszy model konkurenta, i to w momencie, gdy Google w wyścigu na modele frontier raczej goni, niż prowadzi. Nie twierdzę, że to wyłącznie PR. Pytam, czy Google zobowiąże się do tych samych zasad, zanim sam stanie przed wyborem między wydajniejszą, ale mniej czytelną architekturą a przejrzystością. To będzie prawdziwy test tej inicjatywy, nie liczba opublikowanych esejów.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Legg uznaje propozycję Dario Amodeia za wartą rozważenia, ale bez szczegółów
Shane Legg odniósł się też do najgłośniejszego głosu w debacie o spowolnieniu rozwoju AI. Dario Amodei, szef Anthropic, opublikował 12 września 2026 r. na swojej stronie esej „We Must Pace the Frontier”, liczący około 3800 słów, w którym przekonuje, że branża powinna celowo spowolnić tempo zwiększania możliwości modeli. Amodei odrzuca przy tym całkowitą pauzę i proponuje stałą strukturę: zewnętrznych ewaluatorów, punkty kontrolne wspólne dla laboratoriów i ograniczoną współpracę międzynarodową. Anthropic zapowiedział, że da niezależnym ewaluatorom stały dostęp do swoich modeli, aby mogli sprawdzać przestrzeganie zobowiązań firmy. W ciągu doby poparcie dla tej argumentacji wyrazili Sam Altman z OpenAI i Elon Musk z xAI.
Legg ocenił kierunek zaproponowany przez Amodeia jako interesujący i wart rozważenia, ale zaznaczył, że trzeba dokładnie przemyśleć, jak takie spowolnienie miałoby działać w praktyce. James Manyika dodał w rozmowie z FT, że Google chce brać udział tylko w jednym wyścigu, czyli w dążeniu do tego, by zrobić AI dobrze.
Presja finansowa pokazuje, jak trudne będzie wprowadzenie takich zasad. Anthropic w maju zamknął rundę Series H o wartości 65 mld dolarów przy wycenie 965 mld dolarów, a OpenAI w marcu pozyskało 122 mld dolarów przy wycenie 852 mld dolarów. Firmy o takich wycenach muszą regularnie pokazywać inwestorom postęp, co stoi w oczywistym napięciu z hamowaniem prac.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Jakub Pachocki z OpenAI przyznaje, że GPT-6 Astra trudniej nadzorować
Debata o przejrzystości GPT-6 Astra ma polski wątek. Jakub Pachocki, polski naukowiec i główny naukowiec OpenAI, podczas prezentacji modelu nie zaprzeczał problemowi opisanemu przez badaczy DeepMind. OpenAI przyznało, że w testach sprawdzających unikanie nadzoru Astrę trudniej było monitorować, a Pachocki mówił dziennikarzom, że firma będzie musiała „wzmocnić naszą zdolność do monitorowania tych modeli” / „strengthen our ability to monitor these models”. Jako możliwe kierunki wskazał rozszerzenie monitorowania CoT, monitorowanie aktywacji modelu lub skłanianie modeli do pełniejszego zapisu rozumowania.
Dla polskich firm ten spór ma wymiar praktyczny, bo Astra trafia do klientów ChatGPT Plus, Pro, Business i Enterprise oraz do deweloperów korzystających z API. Moim zdaniem firmy wdrażające agentów opartych na tym modelu nie powinny opierać kontroli wyłącznie na czytaniu podsumowań rozumowania. Przy długich, autonomicznych zadaniach większe znaczenie mają uprawnienia, logi działań i etapy zatwierdzania przez człowieka.
W Unii Europejskiej postulat Shaha i Dragan, by w sprawie przejrzystości pomogła regulacja, trafia na przygotowany grunt. Od sierpnia 2025 r. dostawców modeli AI ogólnego przeznaczenia obowiązują przepisy AI Act, a te o największym potencjale ryzyka muszą przeprowadzać ewaluacje i ograniczać ryzyko systemowe. Nie wiadomo jeszcze, czy unijne instytucje uznają spadek możliwości monitorowania rozumowania za ryzyko wymagające osobnych obowiązków.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym wywiadu Financial Times z Shane’em Leggiem z dnia 16.09.2026, materiałów źródłowych DeepMind Institute i eseju „The case for reasoning transparency”, karty systemowej GPT-6 Astra opublikowanej przez OpenAI oraz Axios. Do weryfikacji wykorzystano także materiały TechSpot, Investing.com, Techloy, Semafor, Engadget oraz esej Dario Amodeia „We Must Pace the Frontier”.
Cytaty Shane’a Legga (współzałożyciela i głównego naukowca ds. AGI w Google DeepMind), Rohina Shaha i Anki Dragan (Google DeepMind), Grega Brockmana (prezesa OpenAI), Jensena Huanga (CEO Nvidii) oraz Jakuba Pachockiego (głównego naukowca OpenAI) zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o działalności DeepMind Institute i debacie o bezpieczeństwie modeli frontier.
