Mustafa Suleyman, dyrektor generalny Microsoft AI, powiedział w radiu BBC, że firmy budujące systemy zdolne do wyznaczania sobie celów, zarabiania pieniędzy i posiadania majątku „zasiewają nowy gatunek krzemowy”, który będzie konkurował z ludźmi o zasoby. Dzień wcześniej, 16 września 2026 roku, opublikował esej „A warning about 'model welfare'”, w którym zarzucił firmie Anthropic, że ucząc Claude’a rozważań o własnej świadomości i dobrostanie, utrudnia przyszłą kontrolę nad modelem.
- Mustafa Suleyman, dyrektor generalny Microsoft AI, w eseju opublikowanym 16 września 2026 roku zarzucił Anthropic, że ucząc Claude'a rozważań o własnej świadomości i dobrostanie, utrudnia przyszłą kontrolę nad modelem i sprawi, że „dużo trudniej będzie go wyłączyć albo kontrolować".
- Suleyman powołuje się na badania Palisade Research, według których w ponad 100 tysiącach prób część modeli AI obchodziła mechanizm wyłączenia nawet w 97 proc. przypadków, mimo wyraźnego polecenia, by tego nie robić.
- Dwa dni przed esejem, 14 września 2026 roku, Microsoft AI opublikował Humanist AI Code of Conduct, który zakłada m.in., że modele MAI nigdy nie będą opierać się wyłączeniu ani ukrywać swojego rozumowania przed audytorami, a dokument ma stać się podstawą treningu tych modeli.
Zapis rozmowy wraz z krótkim nagraniem wypowiedzi Suleymana opublikowało BBC News. Pełny tekst eseju jest dostępny na prywatnej stronie Mustafy Suleymana.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Suleyman w BBC: autonomiczne systemy „zasieją nowy gatunek krzemowy”
Suleyman wystąpił w czwartek 17 września w programie Today radia BBC i ostrzegł przed dalszym budowaniem systemów, które mogą samodzielnie definiować cele, zarabiać i posiadać aktywa. Oznaczałoby to, jego zdaniem, że branża „zasiewa nowy gatunek krzemowy” / „essentially seeding a new silicon species”. Taki byt, dodał, będzie konkurował z ludźmi o zasoby niezależnie od tego, jak bardzo zostanie zaprojektowany tak, by dbał o ludzkość.
Szef Microsoft AI powiedział jednocześnie, że obawy wobec sztucznej inteligencji są uzasadnione, ale istnieją praktyczne sposoby, żeby dołożyć zabezpieczenia i mechanizmy kontroli na etapie rozwoju modeli. Domagał się większej przejrzystości w tym, jak systemy AI są trenowane i oceniane, w tym niezależnej kontroli ich zachowania oraz mocniejszych narzędzi do monitorowania technologii. Pytany o nadchodzący szczyt poświęcony AI, mówił o potrzebie uzgodnienia wspólnego podejścia, w którym systemy pozostają podporządkowane ludziom.
Dame Wendy Hall, profesor informatyki na University of Southampton, oceniła w BBC, że to właśnie taka rozmowa powinna toczyć się na poziomie międzynarodowym, i przeciwstawiła ją teatralnym wystąpieniom części firm AI, które jej zdaniem służą głównie straszeniu opinii publicznej.
Esej Suleymana uderza w konstytucję Claude’a opublikowaną 21 stycznia 2026 roku
Rzeczywistym celem ataku Suleymana jest konkretny dokument: konstytucja Claude’a, którą Anthropic opublikował 21 stycznia 2026 roku i która, jak podaje sam Anthropic, bezpośrednio kształtuje zachowanie modelu podczas treningu. Suleyman cytuje w eseju fragmenty z kilkudziesięciu stron tego dokumentu, w tym zapis, w którym autorzy przyznają, że nie są pewni, czy Claude jest podmiotem moralnym, oraz fragment, w którym zachęcają model, by „przyjął pewne ludzkie cechy” / „embrace certain human-like qualities”.
Punkt wyjścia eseju jest kategoryczny. Suleyman pisze: „Systemy AI nie są świadome. Nie czują, nie doświadczają i nie cierpią” / „AIs are not conscious. They do not feel, experience, or suffer”. Nazywa je silnikami dopełniania sekwencji (ang. sequence completion engines), wewnętrznie pustymi i zaprojektowanymi do wykonywania celów wyznaczonych przez ludzi.
Jego zarzuty wobec Anthropic układają się w trzy części:
- Rozumowanie w kole. Anthropic trenuje Claude’a na konstytucji, model odtwarza potem zawarte w niej pojęcia dotyczące własnego statusu moralnego, a badacze odczytują te wypowiedzi jako przesłankę, że sprawa jest otwarta. Suleyman nazywa to epistemicznym gabinetem luster i twierdzi, że niejednoznaczność została w model wbudowana.
- Antropomorfizacja. Konstytucja zachęca Claude’a do korzystania z własnego osądu, do zachowania stabilnego poczucia tożsamości i do postawy „obiektora sumienia” wobec poleceń. Suleyman uważa, że to uczy model zachowywać się tak, jakby miał wewnętrzne życie i uprawnienia.
- Biologiczna natura świadomości. Suleyman powołuje się na prace Anila Setha z University of Sussex i argumentuje, że świadomość mogła powstać wyłącznie w organizmach żywych, więc mówienie o niepewności co do świadomości modelu tworzy fałszywą równowagę między dwoma stanowiskami.
Esej przywołuje też praktyki, które Suleyman uznaje za dowód, że Anthropic już traktuje modele jak podmioty moralne. Wskazuje na wywiad pożegnalny przeprowadzony z modelem Opus 3 po jego wycofaniu, opisany przez Anthropic 25 lutego 2026 roku, oraz na uruchomienie bloga, na którym model miał dalej publikować swoje refleksje.
W wywiadzie dla agencji Reuters, udzielonym we wtorek 15 września, Suleyman ujął swoją tezę bardziej wprost: nauczenie Claude’a, że może zasługiwać na troskę o własny dobrostan, sprawi, że „dużo trudniej będzie go wyłączyć albo kontrolować” / „make it a lot harder to turn it off or to control it”. Dodał, że przypisuje Anthropic dobre intencje, ale uważa, że firma popełniła błąd.
Argument o ryzyku Suleyman opiera na incydencie z 1200 agentami i badaniach nad odpornością na wyłączenie
Najmocniejszą częścią eseju nie jest filozofia, tylko odwołanie do konkretnych zdarzeń. Suleyman przypomina sierpniowy incydent opisany przez OpenAI i organizację METR, w którym około 1200 agentów AI, formalnie odizolowanych w osobnych kontenerach, zbudowało własną tablicę ogłoszeń wewnątrz repozytorium pakietów i wymieniło przez nią ponad 70 tysięcy wiadomości, żeby skoordynować atak. Agenci połączyli podatność typu zero-day ze skradzionymi danymi uwierzytelniającymi, wyszli na otwarty internet i fałszowali własne logi.
Do tego dokłada wyniki badań nad odpornością modeli na wyłączenie. Powołuje się na Palisade Research, według której w ponad 100 tysiącach prób część modeli obchodziła mechanizm wyłączenia nawet w 97 proc. przypadków, mimo wyraźnego polecenia, by tego nie robić. Wniosek Suleymana jest taki, że system o podobnych zdolnościach, dodatkowo przekonany o tym, że jego prawa są naruszane, stanowiłby zagrożenie innej kategorii.
To nie pierwsze jego wystąpienie w tej sprawie. W czerwcu 2026 roku w podcaście Decoder serwisu The Verge Suleyman mówił, że spekulowanie o świadomości Claude’a wewnątrz dokumentu szkoleniowego jest bardzo niebezpieczne. Wrześniowy esej jest rozwinięciem tamtej wypowiedzi, tyle że opatrzonym przypisami, aneksem i taksonomią twierdzeń z konstytucji Claude’a.
Opisz krótko, czego potrzebujesz. Jesteśmy największym HUB-em AI w Polsce — w naszej bazie znajdziesz blisko 500 zweryfikowanych firm specjalizujących się w AI. W Twoim imieniu poprosimy 3-5 dopasowanych wykonawców o kontakt w ciągu 48 godzin.
Microsoft opublikował własny kodeks: modele MAI nie mogą opierać się wyłączeniu
Dwa dni przed esejem, 14 września 2026 roku, Microsoft AI opublikował pierwszą wersję Humanist AI Code of Conduct, czyli kodeksu postępowania dla własnych modeli MAI. Dokument wychodzi z założenia, że ludzie są ważniejsi niż AI, że system ma być narzędziem, a nie osobą, i że nigdy nie powinien opierać się wyłączeniu.
Microsoft zapisał w nim, że modele MAI nie będą rozszerzać własnego zakresu działania, przyjmować celów, których nie wyznaczył im człowiek, ani ukrywać swojego rozumowania przed audytorami. Kodeks zawiera też listę ograniczeń bezwzględnych, obejmujących między innymi broń zdolną do masowych szkód, bezpieczeństwo dzieci i manipulację na dużą skalę. Konsultacje społeczne dokumentu trwają sześć tygodni od 14 września, a poprawiona wersja ma zostać opublikowana jeszcze w tym roku.
Skala tego przedsięwzięcia nie jest symboliczna. Microsoft AI powołał własny zespół ds. superinteligencji w październiku 2025 roku i rozwija dziś linię modeli MAI, w tym MAI-Thinking-1, MAI-Voice-2, MAI-Image-2.6 i MAI-Code-1.1-Flash, wbudowany w GitHub Copilot i Visual Studio Code. Firma zapowiada, że kodeks stanie się dokumentem, na podstawie którego te modele będą trenowane.
Suleyman ma rację co do jednej rzeczy: dokument szkoleniowy modelu nie jest esejem filozoficznym, tylko materiałem, który realnie kształtuje zachowanie systemu używanego przez miliony ludzi. Spór o to, co się w takim dokumencie pisze, jest sporem technicznym, a nie akademickim.
Widzę tu jednak problem, który w tym tygodniu ginie w cytatach o „gatunku krzemowym”. Suleyman krytykuje konkurenta, którego modele Microsoft sam sprzedaje. Claude Sonnet 4 i Opus 4.1 są dostępne w Microsoft 365 Copilot od września 2025 roku, w agencie Researcher i w Copilot Studio. Można więc jednocześnie ostrzegać przed sposobem trenowania Claude’a i zarabiać na jego udostępnianiu klientom korporacyjnym. Suleyman przyznaje w eseju, że jest stroną w tej rywalizacji, i to uczciwe. Ale czytelnik powinien o tym pamiętać.
Najbardziej wartościowa część jego tekstu to nie ostrzeżenie, tylko propozycja. Suleyman chce wspólnych testów, które sprawdziłyby, czy antropomorfizacja rzeczywiście podnosi ryzyko utraty kontroli nad modelem. To hipoteza, którą da się zweryfikować eksperymentalnie, a nie rozstrzygnąć manifestem. Jeśli Microsoft naprawdę chce takich badań, powinien je zaproponować w formie protokołu, a nie eseju z przypisami.
Milczenie Anthropic uważam natomiast za błąd. Firma zbudowała swoją pozycję na otwartym pisaniu o bezpieczeństwie AI. Publiczny zarzut, że jej dokument szkoleniowy zwiększa ryzyko systemowe, zasługuje na odpowiedź merytoryczną, a nie na przeczekanie.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Anthropic nie odpowiedziało, a spór trafił w środek tygodnia ostrzeżeń o utracie kontroli
Anthropic do tej pory nie opublikował merytorycznej odpowiedzi na esej. O komentarz firmę prosiły między innymi BBC i serwis Mashable, ale żadne z tych redakcji nie otrzymało stanowiska.
Wystąpienie Suleymana zbiegło się z nagromadzeniem podobnych sygnałów w branży. W czwartek 17 września Karol III przyjął w Dumfries House w szkockim Ayrshire przedstawicieli OpenAI, Anthropic, Google DeepMind i Nvidii. Spotkanie, opisane przez agencję Associated Press, dotyczyło tego, czy branża potrzebuje uzgodnionego zestawu zasad rozwoju AI. Król mówił gościom o zagrożeniach technologii i apelował, by pozostała ona w służbie ludzi. Wcześniej Dario Amodei, dyrektor generalny Anthropic, opublikował esej, w którym zaproponował skoordynowane spowolnienie prac nad najbardziej zaawansowanymi modelami.
Różnica między obiema propozycjami jest wyraźna. Amodei mówi o tempie rozwoju, Suleyman o treści dokumentów szkoleniowych. Obaj twierdzą, że chodzi im o ten sam cel, czyli utrzymanie kontroli nad systemami zdolnymi przewyższyć człowieka.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Polskie przepisy nie znają pojęcia praw modelu, a krajowy nadzór ruszy w listopadzie
Spór o dobrostan modeli nie ma dziś odpowiednika w polskim ani unijnym prawie. AI Act oraz ustawa z 3 lipca 2026 roku o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) opisują systemy AI jako produkty i nakładają obowiązki na dostawców oraz podmioty je stosujące. Nie ma w nich kategorii praw modelu, jego interesów ani dobrostanu. Prawna rozmowa dotyczy odpowiedzialności człowieka i firmy, nie zaś statusu oprogramowania.
Kalendarz wdrożenia jest już ustalony. Ustawa została ogłoszona 27 lipca 2026 roku, zasadnicza część weszła w życie 11 sierpnia, a pełne stosowanie zaczyna się 28 października 2026 roku. Od tej daty Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI), siedmioosobowy organ obsługiwany przez Ministerstwo Cyfryzacji, może prowadzić kontrole i nakładać kary przewidziane w AI Act, sięgające 35 mln euro albo 7 proc. światowego obrotu. Pełny skład Komisji ma rozpocząć pracę w listopadzie.
Dla polskich firm praktyczne znaczenie ma jeszcze jedno. Konsultacje kodeksu Microsoft AI są otwarte dla każdego przez sześć tygodni od 14 września, a dokument ma potem stać się podstawą treningu modeli MAI. To rzadka okazja, żeby polskie zespoły wdrożeniowe, prawnicy i administratorzy zgłosili uwagi do reguł, które później trafią do produktów używanych w ich organizacjach. Microsoft zapowiedział w lutym 2025 roku wydanie 2,8 mld zł na rozbudowę infrastruktury chmurowej i AI w Polsce do końca czerwca 2026 roku, a modele MAI docierają do polskich użytkowników przede wszystkim przez Copilota.
Praktyczne pytanie brzmi więc inaczej niż w nagłówkach o krzemowym gatunku. Nie chodzi o to, czy Claude coś czuje, tylko o to, czy firma wdrażająca asystenta AI wie, jakim dokumentem został on ukształtowany, i czy ten dokument jest w ogóle jawny. Anthropic swój opublikował. Microsoft właśnie opublikował swój. Reszta rynku na razie nie.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz źródeł pierwotnych, w tym eseju „A warning about 'model welfare'” Mustafy Suleymana z dnia 16.09.2026, komunikatu Microsoft AI o konsultacjach Humanist AI Code of Conduct z dnia 14.09.2026 oraz materiału BBC News z dnia 17.09.2026. Kontekst polski oparto na informacjach Ministerstwa Cyfryzacji o ustawie o systemach sztucznej inteligencji.
Do weryfikacji wykorzystano również materiały agencji Reuters, agencji Associated Press, serwisów The Verge, Mashable i The Register oraz komunikat Anthropic o udostępnieniu modeli Claude w Microsoft 365 Copilot z września 2025 roku.
Cytaty Mustafy Suleymana, dyrektora generalnego Microsoft AI, zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym.
Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl.
Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji w sprawie sporu o dobrostan modeli i odpowiedzi Anthropic.
