„Zawrót głowy z postępu”. Współzałożyciel Anthropic kreśli mapę nadchodzącej rewolucji

Jack Clark, współzałożyciel Anthropic, wygłosił w środę na Uniwersytecie Oksfordzkim wykład, który trudno nazwać inaczej niż prowokacyjnym. Człowiek odpowiedzialny za jeden z najpotężniejszych laboratoriów AI na świecie postawił serię konkretnych prognoz, a przy tym nie ukrywał, że sama branża mierzy się z dylematami, na które nie ma jeszcze gotowych odpowiedzi.

Tytuł wykładu brzmiał „Change is inevitable. Autonomy is not” i dotyczył pytania o to, jak zachować autonomię i samosterowność w życiu, gdy AI coraz głębiej wnika w jego każdy aspekt. Ale to nie filozofia przykuła uwagę mediów. Przykuły ją liczby i terminy.

Rok na Nobla, dwa lata na roboty w warsztacie

Clark nie owijał w bawełnę. Według niego w ciągu najbliższych 12 miesięcy system AI wspólnie z człowiekiem przyczyni się do odkrycia wartego Nagrody Nobla. Za 18 miesięcy firmy zarządzane wyłącznie przez AI będą generować milionowe przychody. Za dwa lata dwunożne roboty zaczną pomagać rzemieślnikom i ekipom budowlanym. A do końca 2028 roku Clark szacuje, że istnieje ponad 60-procentowa szansa, że model AI w pełni wytrenuje swojego następcę.

To ostatnie jest szczególnie istotne. Zaczyna się tu rysować scenariusz tzw. rekurencyjnego samodoskonalenia, czyli sytuacji, w której AI nie tylko wykonuje zadania, ale zaczyna projektować lepsze wersje samej siebie. W nowej agendzie badawczej Anthropic Institute Anthropic przyznaje, że dostrzega już „oznaki, że AI przyczynia się do przyspieszenia własnych badań i rozwoju”.

Clark mówił o „vertiginous sense of progress”, czyli o takim tempie zmian, które dosłownie przyprawia o zawrót głowy. I wydaje się, że nie używał tej metafory wyłącznie retorycznie.

Wyścig, którego nikt nie chce zatrzymać

Jednocześnie Clark zaznaczył, że gdyby ludzkość mogła zwolnić, byłoby lepiej. Problem w tym, że nie może lub nie chce. Pędząca konkurencja między firmami i krajami, w której komercyjne i geopolityczne ambicje zagłuszają te „egzystencjalne dla gatunku” pytania, sprawia, że nikt nie naciska hamulca. „Not ideal” – skomentował, z rozbrajającą powściągliwością.

Warto pamiętać, kim jest Clark. Zanim trafił do Anthropic, był dyrektorem ds. polityki w OpenAI. Wcześniej pracował jako dziennikarz technologiczny piszący o superkomputerach i sieciach neuronowych. Zna tę branżę od podszewki i rozumie, skąd biorą się zarówno jej ambicje, jak i jej ślepoty.

Ryzyko egzystencjalne wciąż na stole

Clark nie uciekał też od najcięższych tematów. Powiedział wprost, że wciąż istnieją scenariusze, w których AI ma „niezerową szansę na zabicie każdego na planecie”. I że to ryzyko nie zniknęło. Porównał bierność wobec AI do bierności przed pandemią COVID: jeśli po prostu pozwolimy sztucznej inteligencji mnożyć się bez kontroli, zostaniemy zepchnięci do reaktywności.

To nie jest głos człowieka, który stara się wyłącznie sprzedać produkt. To też nie jest głos kogoś, kto nie rozumie skali tego, co buduje.

Warto słuchać Clarka uważnie, bo to rzadki typ w Silicon Valley: ktoś, kto jednocześnie buduje potężną technologię i głośno mówi o jej ciemnych stronach. Ale też nie można zapominać o kontekście. Anthropic jest firmą wycenianą na 900 miliardów dolarów, a narracja o ryzyku i potrzebie regulacji może – świadomie lub nie – działać na korzyść incumbentów, którzy już zbudowali przewagę. Kiedy Clark mówi „zwolnijmy”, ale jednocześnie kreśli harmonogram kolejnych przełomów, warto zapytać: kto tak naprawdę miałby zwolnić i na czyją korzyść? To nie jest zarzut – to pytanie, które powinniśmy zadawać każdemu w tej branży.

Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl

Kognitywne osłabienie jako efekt uboczny

Na wykładzie zabrał też głos prof. Edward Harcourt, dyrektor Oxford Institute for Ethics in AI. Jego ostrzeżenie było inne, może mniej spektakularne od prognoz Clarka, ale w gruncie rzeczy równie niepokojące. Harcourt zwrócił uwagę, że systemy AI, które robią za nas coraz więcej, mogą prowadzić do „cognitive atrophy” – stopniowego osłabienia naszych własnych zdolności myślenia i wydawania osądów. Zaproponował alternatywny kierunek: AI, które zamiast wykonywać zadania za człowieka, zmuszają go do myślenia. Tzw. sokratejskie AI.

To nie jest nowy pomysł, ale rzadko pojawia się w głównym nurcie dyskusji, w której dominuje wyścig na benchmarki i parametry.

„Szalone”? Może. Ale jednak możliwe

Clark podsumował swoją najbardziej ostrożną prognozę tak: „rozległe obszary gospodarki i społeczeństwa przejdą przez głębokie zmiany”. Wymieniał możliwe scenariusze:

• gospodarka maszyn oderwana od gospodarki ludzkiej
• roboty wyposażone we własne „mózgi”
• nauka rozwijająca się bez udziału człowieka
• instrumenty badawcze, których dzisiaj nie jesteśmy w stanie sobie wyobrazić, a które po prostu będą działać

Sam przyznał, że część z tego brzmi „szalenie”. Ale nie powiedział, że jest niemożliwe.

Anthropic pod ostrzałem, ale nieugięte

Proregulacyjne stanowisko Anthropic i Clarka spotkało się z krytyką ze strony Davida Sacksa, „cara AI i krypto” w administracji Trumpa, który ostrzegał, że regulacje AI osłabią zdolność USA do konkurowania z Chinami. Biały Dom i środowiska „akceleracjonistów” zarzucają Anthropic sianie paniki w celu utrwalenia swojej pozycji rynkowej. Firma konsekwentnie te zarzuty odpiera.

Niezależnie od tego, po której stronie tego sporu się staniemy, wykład Clarka w Oksfordzie robi jedno na pewno: zmusza do myślenia o tym, co nadchodzi. I do pytania, czy rzeczywiście jesteśmy na to gotowi.