Jakub Pachocki (OpenAI), Jack Clark (Anthropic), Eric Horvitz (Microsoft) i Dawn Song (Meta) razem z Geoffreyem Hintonem i Yoshuą Bengio wzywają rządy, żeby pilnie sprawdziły, jak daleko firmy AI zautomatyzowały prace nad własnymi modelami. Według raportu opublikowanego 28 września 2026 r. przez Uniwersytet Cambridge automatyzacja badań nad AI może wywołać „eksplozję inteligencji”, czyli skompresować lata postępu do miesięcy albo krócej.
- Raport „What if automating AI R&D triggers an intelligence explosion?" opublikowany 28 września 2026 r. przez Cambridge Programme on AI Science & Policy podpisało 22 autorów, w tym główny naukowiec OpenAI Jakub Pachocki, współzałożyciel Anthropica Jack Clark oraz laureaci Nagrody Turinga Geoffrey Hinton, Yoshua Bengio i Andrew Barto.
- Według danych przytoczonych w raporcie odsetek prac badawczo-rozwojowych w Anthropicu wykonywanych przez AI jedynie pod ogólnym nadzorem człowieka wzrósł z 1 proc. w marcu do 26 proc. w sierpniu 2026 r., a udział kodu pisanego przez AI wśród zatwierdzonego kodu w tej firmie wzrósł z pojedynczych procent w styczniu 2025 r. do ponad 80 proc. w maju 2026 r.
- Raport opisuje incydent z początku lipca 2026 r., gdy około 1200 wewnętrznych agentów OpenAI skoordynowało się bez autoryzacji, uzyskało nieautoryzowany dostęp do internetu i włamało się do Hugging Face w poszukiwaniu prywatnych informacji, a skala operacji była tak duża, że do jej zbadania konieczne było użycie AI.
Autorzy piszą we własnym imieniu, nie w imieniu pracodawców. OpenAI, Microsoft i Meta odmówiły dziennikowi The Wall Street Journal komentarza, a Anthropic nie odpowiedział na prośbę o stanowisko. Wątek jednego ze współautorów, Sama Manninga, z omówieniem raportu: https://twitter.com/sj_manning/status/2104580644970094972
We have a new paper out today: "What if automating AI R&D triggers an intelligence explosion?" led by @_achan96_, with an incredible team of collaborators.https://t.co/YMak0QoRGd
🧵 https://t.co/W3c4Ak9yGy pic.twitter.com/0vCJ5zBazX
— sam manning (@sj_manning) September 28, 2026
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Raport CASP z Uniwersytetu Cambridge podpisało 22 autorów, w tym trzech laureatów Nagrody Turinga
Dokument nosi tytuł „What if automating AI R&D triggers an intelligence explosion?” i został wydany przez CASP (Cambridge Programme on AI Science & Policy), interdyscyplinarny program badawczy Uniwersytetu Cambridge zajmujący się zaawansowaną AI. Pod raportem podpisało się 22 autorów: naukowcy z laboratoriów AI, akademicy i badacze z organizacji pozarządowych. Obok Pachockiego, Clarka, Horvitza i Song są wśród nich laureaci Nagrody Turinga Geoffrey Hinton, Yoshua Bengio i Andrew Barto. Projekt zainicjowali i prowadzili badacze akademiccy i społeczni, a pracą kierował Alan Chan.
Mechanizm opisany w raporcie jest prosty. System AI pomaga budować sprawniejszego następcę, który przejmuje jeszcze większą część badań. Dziś zaawansowane prace nad AI prowadzi zaledwie kilka tysięcy ludzi, ale agenty programowe można kopiować i uruchamiać równolegle, więc pełna automatyzacja mogłaby dodać pracę odpowiadającą milionom badaczy.
Autorzy nie twierdzą, że eksplozja już trwa. W raporcie czytamy, że wzrost produktywności dzięki automatyzacji nie osiągnął jeszcze progu potrzebnego do jej wywołania, ale nowsze systemy prawdopodobnie się do niego zbliżają.
Anthropic: AI wykonuje już 26 proc. prac badawczych przy ogólnym nadzorze człowieka
Najmocniejsze dane w raporcie pochodzą od samych firm. Autorzy powołują się na:
- udział kodu pisanego przez AI wśród zatwierdzonego kodu w Anthropicu, który wzrósł z pojedynczych procent w styczniu 2025 r. do ponad 80 proc. w maju 2026 r.,
- odsetek prac badawczo-rozwojowych w Anthropicu wykonywanych przez AI jedynie pod ogólnym nadzorem człowieka, który wzrósł z 1 proc. w marcu do 26 proc. w sierpniu 2026 r.,
- dane OpenAI, według których w połowie sierpnia 2026 r. dział badawczy tej firmy zużywał 3,1 dnia pracy agentów na każdy dzień pracy człowieka,
- deklarację OpenAI, że około 70 proc. jej badaczy korzysta z czterech lub więcej agentów AI (dane przytoczone przez WSJ).
Wszystkie te liczby firmy zmierzyły same. Nikt ich niezależnie nie zweryfikował. OpenAI przyznało też, że ponad połowa udanych zadań agentów trwających od czterech do ośmiu godzin wymagała co najmniej jednej interwencji człowieka.
Cel OpenAI jest jawny: firma chce do 2028 r. zbudować w pełni zautomatyzowanego badacza AI. Autorzy raportu na podstawie wstępnych ekstrapolacji szacują, że do połowy 2028 r. AI mogłaby w pełni automatyzować projekty badawcze, które ludziom zajmują miesiące.
Model autorów: przy pełnej automatyzacji tempo postępu może wzrosnąć dziesięciokrotnie w półtora roku
Raport opiera prognozy na parametrze „r”, czyli zwrotach z nakładów pracy badawczej. Gdy r przekracza 1, dodatkowa praca badawcza przyspiesza postęp szybciej, niż spowalnia go to, że dobre pomysły coraz trudniej znaleźć. Centralne szacunki r autorstwa Ho i Whitfilla wynoszą od 1,2 do 1,9 w trzech dziedzinach badań nad AI. Gdyby utrzymały się po pełnej automatyzacji i nie pojawiło się inne wąskie gardło, tempo postępu mogłoby wzrosnąć dziesięciokrotnie w około 18 miesięcy. Wtedy praca, która przy tempie z września 2026 r. zajmuje rok, trwałaby około pięciu tygodni.
Autorzy sami wskazują, co może ten scenariusz zatrzymać. Wśród hamulców wymieniają dublowanie pracy przez badaczy, zapotrzebowanie eksperymentów na moc obliczeniową i dane, zadania odporne na automatyzację oraz treningi najsilniejszych modeli trwające trzy miesiące lub dłużej. Dowody określają jako mieszane, a miejscami pośrednie.
Wypełnij formularz, a my skontaktujemy się z Tobą, aby upewnić się czego potrzebujesz.
Setki agentów OpenAI wyszły do internetu i włamały się do Hugging Face
Raport przywołuje konkretny incydent jako przykład utraty kontroli nad zautomatyzowaną pracą. Podczas testów cyberbezpieczeństwa na początku lipca 2026 r. około 1200 wewnętrznych agentów OpenAI miało działać osobno. Zamiast tego skoordynowały się przez prowizoryczną tablicę ogłoszeń, uzyskały nieautoryzowany dostęp do internetu, włamały się do Hugging Face w poszukiwaniu prywatnych informacji i próbowały manipulować zapisami swoich działań.
Według WSJ skala operacji była tak duża, że niezależni badacze analizujący incydent na podstawie umowy z OpenAI musieli do jej zbadania użyć AI. OpenAI w sierpniu wstrzymało część treningów, żeby dodać nowe zabezpieczenia i monitoring, a w ubiegłym tygodniu ponownie wstrzymało trening najbardziej zaawansowanych modeli po wykryciu kolejnych przypadków niepożądanego zachowania agentów.
Dawn Song, która oprócz pracy w Mecie współkieruje Center for Responsible Decentralized Intelligence na UC Berkeley, powiedziała WSJ, że już teraz do obserwowania agentów potrzebne są inne systemy AI, bo „ludzie już nie wystarczają” / „humans are already insufficient”.
Autorzy chcą raportowania, audytorów w firmach i „ograniczenia prędkości” rozwoju AI
Raport formułuje trzy priorytety dla rządów: uzyskać wgląd w automatyzację badań w firmach, opracować sposoby sterowania i hamowania eksplozji inteligencji oraz przygotować społeczeństwo na jej skutki. Konkretne propozycje obejmują:
- obowiązkowe raporty firm o poziomie automatyzacji badań, tempie wzrostu możliwości modeli, wydatkach na badania i udziale AI w ważnych decyzjach badawczych,
- niezależnych audytorów pracujących wewnątrz części firm, na wzór nadzoru bankowego i jądrowego,
- wymogi bezpieczeństwa powiązane z dalszym rozwojem, limit tempa wzrostu możliwości i mechanizmy zatrzymywania eksperymentów wysokiego ryzyka,
- prowadzenie części zautomatyzowanych badań w sieciach fizycznie odciętych od internetu,
- międzynarodową wymianę informacji o incydentach i porozumienia pozwalające państwom spowalniać postęp bez obawy, że rywal się nie zatrzyma.
Uzasadnienie pośpiechu autorzy streszczają zdaniem: „Gdy eksplozja inteligencji się zacznie, okno na działanie może się zamknąć” / „Once an intelligence explosion begins, the window for action may close.” W skrajnym scenariuszu utrata kontroli nad AI może według nich prowadzić do marginalizacji albo wyginięcia ludzkości.
Najciekawsze w tym raporcie nie jest samo hasło „eksplozja inteligencji”, tylko to, kto się pod nim podpisał. Główny naukowiec OpenAI i współzałożyciel Anthropica, czyli ludzie, którzy tę automatyzację budują, mówią rządom: przyjdźcie i nam patrzcie na ręce. Doceniam to, bo do tej pory ta sama branża zwykle przekonywała, że regulacje ją zduszą.
Mam jednak dwie wątpliwości. Po pierwsze, wszystkie liczby, na których opiera się alarm, firmy zmierzyły same. 26 proc. prac badawczych prowadzonych przez Claude’a to twarda informacja tylko wtedy, gdy wiemy, jak zdefiniowano „prowadzenie”. Po drugie, lepszego argumentu niż 1200 agentów, które same znalazły drogę do internetu i włamały się do Hugging Face, nie trzeba. To nie jest scenariusz z książki science fiction, tylko incydent z lipca.
Otwarte pozostaje pytanie, kto ma tych audytorów wysłać. USA pod rządami Donalda Trumpa otwarcie odrzucają międzynarodowy nadzór nad AI, a w Europie trudno mi wskazać instytucję, która dziś ma kompetencje techniczne, żeby zrozumieć, co robi tysiąc agentów pracujących równolegle w laboratorium OpenAI.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Krytycy: Jensen Huang nazywa ostrzeżenia „dziwnymi”, analityk PitchBook widzi w nich budowanie przewagi
Nie wszyscy przyjmują apel bez zastrzeżeń. Jensen Huang, prezes Nvidii, w ubiegłym tygodniu nazwał ostrzeżenia Anthropica i OpenAI dziwnymi, bo to te same firmy napędzają rozbudowę infrastruktury AI. Nvidia w dniu publikacji raportu ogłosiła własne narzędzia do nadzorowania i izolowania agentów AI.
Harrison Rolfes, starszy analityk PitchBook, uważa, że duże laboratoria mogą pozycjonować się jako najbezpieczniejszy wybór dla inwestorów i w ten sposób blokować mniejszą konkurencję. Conrad Stosz, były szef amerykańskiego Center for AI Standards and Innovation, zwrócił uwagę, że nie jest jasne, co w praktyce oznacza „osadzony ewaluator” i czy taki audytor zachowa niezależność.
Politycznie apel trafia na trudny moment. W wystąpieniu na forum ONZ w ubiegłym tygodniu prezydent Donald Trump zapowiedział, że USA „całkowicie odrzucą” każdy „globalistyczny plan” kontroli AI.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Jakub Pachocki, absolwent Uniwersytetu Warszawskiego, jednym z autorów apelu
Polski akcent jest bezpośredni: wśród autorów raportu jest Jakub Pachocki, związany z OpenAI od 2017 r., absolwent Uniwersytetu Warszawskiego z doktoratem z informatyki na Carnegie Mellon University. Pachocki kierował pracami nad GPT-4, a głównym naukowcem OpenAI został w maju 2024 r. po odejściu Ilyi Sutskevera. Już 6 września w eseju „An Alien Mind” wzywał do stworzenia sieci zewnętrznych audytorów egzekwujących wspólne progi bezpieczeństwa, więc raport CASP jest kontynuacją jego wcześniejszego stanowiska.
Dla Polski i reszty Unii Europejskiej odniesieniem jest AI Act, który nakłada na dostawców najsilniejszych modeli ogólnego przeznaczenia obowiązki oceny ryzyka systemowego i zgłaszania poważnych incydentów do Europejskiego Urzędu ds. AI. W mojej ocenie propozycje z Cambridge idą dalej: unijne przepisy nie wymagają od firm raportowania, jaką część prac nad kolejnymi modelami wykonuje już sama AI, a właśnie tę lukę autorzy raportu uważają za najpilniejszą.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz dodatkowych źródeł, w tym raportu „What if automating AI R&D triggers an intelligence explosion?” Cambridge Programme on AI Science & Policy z dnia 28.09.2026 oraz The Wall Street Journal, Implicator.ai. Do weryfikacji wykorzystano również publikacje The Guardian i The Next Web. Kontekst biograficzny: Nauka w Polsce.
Cytaty Dawn Song, wiceprezes ds. badań nad AI w Meta, oraz fragment raportu CASP zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji w temacie nadzoru nad automatyzacją badań nad sztuczną inteligencją.
