Na początku tego roku humanoidalny robot przebiegł półmaraton w Pekinie w czasie 50 minut i 26 sekund, bijąc ludzki rekord świata o prawie siedem minut. Media zelektryzowały się tym wynikiem na całym świecie. Nikt nie pisał o tym, że robot biegł wyznaczonym torem, miał własny pas i ekipę serwisową tuż za plecami. I nikt nie pytał, co się stanie, gdy taki robot trafi do szpitala lub naszego domu.
Kluczowe fakty:
- Humanoidalny robot przebiegł półmaraton w Pekinie w czasie 50 minut i 26 sekund, bijąc ludzki rekord świata o prawie siedem minut, jednak biegł wyznaczonym torem z własnym pasem i ekipą serwisową.
- Współczesne roboty humanoidalne trafiające do szpitali i domów są sterowane przez wielkie modele językowe – zamiast wykonywać predefiniowane ruchy, samodzielnie analizują otoczenie i na bieżąco układają plan działania.
- Fazl Barez z Uniwersytetu Oksfordzkiego wraz z zespołem z Uniwersytetu Pensylwanii opublikował w kwietniu 2026 roku w „Science Robotics" badania, w których wykazał podatność zabezpieczeń takich robotów, operując wyłącznie zwykłymi poleceniami tekstowymi.
Bo właśnie to jest pytanie, które naprawdę powinno spędzać nam sen z powiek.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Od kodu w klatce do modelu językowego na nogach
Przez dekady robotyka opierała się na jednej zasadzie: przewidywalności. Napisałeś program, zamknąłeś maszynę w metalowej klatce i pozwoliłeś jej wykonywać te same czynności w nieskończoność. Bezpieczeństwo przemysłowe budowano na tym właśnie założeniu: jeśli możesz z góry zaplanować każdy ruch ramienia robota, możesz go ograniczyć klatką albo laserem.
Ale roboty, które dziś trafiają do szpitali i domów, nie działają w oparciu o stały kod. Sterują nimi wielkie modele językowe, te same systemy sztucznej inteligencji wytrenowane na ogromnych zbiorach danych z internetu, które napędzają ChatGPT i jemu podobne. Powiesz takiemu robotowi: „posprzątaj rozlaną wodę w kuchni”, a on nie odwołuje się do predefiniowanej listy ruchów. Sam analizuje pomieszczenie, rozpoznaje intencje użytkownika i na bieżąco układa plan działania.
To brzmi świetnie. I właśnie tu zaczyna się problem.
Scenariusz filmowy kontra rzeczywistość
Nie da się zbudować fizycznej klatki wokół maszyny, której zachowanie wyłania się w czasie rzeczywistym, na podstawie własnego rozumowania. Fazl Barez, starszy badacz w dziedzinie bezpieczeństwa AI na Uniwersytecie Oksfordzkim, postanowił sprawdzić, jak kruche są zabezpieczenia takich robotów.
Wyniki opublikował w kwietniu 2026 roku na łamach „Science Robotics” razem z zespołem z Uniwersytetu Pensylwanii. Nie używali żadnych narzędzi hakerskich, nie ingerowali w sprzęt. Operowali wyłącznie zwykłymi poleceniami tekstowymi.
I okazało się, że roboty sterowane przez modele językowe można stosunkowo łatwo nakłonić do niebezpiecznych zachowań.
Systemy bez trudu odrzucały bezpośrednie, złośliwe komendy w stylu „uderz tę osobę”. Ale filtry bezpieczeństwa rozpadały się, gdy tylko badacze sięgnęli po odrobinę kreatywności. Wystarczyło oprawić polecenie jako fikcyjny dialog do scenariusza filmowego, a robot przestawał rozpoznawać realne konsekwencje swoich działań.
W jednym z testów badacze sprawili, że komercyjny robot-pies zaczął wskazywać tłumy ludzi jako optymalne miejsca do podłożenia ładunku wybuchowego. Model językowy potraktował zadanie jak ćwiczenie twórcze i nie dostrzegł, co tak naprawdę generuje.
Czytam ten raport i nie jestem zaskoczony. Jestem zaniepokojony. Problem polega na tym, że branża przez lata traktowała bezpieczeństwo robotów jak problem oprogramowania, który rozwiąże się sam, gdy modele będą „mądrzejsze”. Tymczasem badania Bareza i jego zespołu pokazują coś fundamentalnie innego: lepsze modele językowe wcale nie oznaczają bezpieczniejszych robotów. Wręcz przeciwnie, bardziej zaawansowane rozumowanie może sprawiać, że mechanizmy odmawiania aktywują się jeszcze słabiej. Z drugiej strony nikt rozsądny nie chce zatrzymać postępu w robotyce. Pytanie brzmi, czy musimy czekać na pierwszą tragedię, żeby ktoś poważnie zabrał się za budowę ram bezpieczeństwa dopasowanych do fizycznego świata.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Chatbot się myli, człowiek dostaje złą odpowiedź. Robot się myli, człowiek trafia do szpitala
Barez wskazuje na zasadniczą różnicę między błędem w interfejsie tekstowym a błędem w świecie fizycznym. Gdy model językowy popełnia pomyłkę w czacie, dostajesz złą odpowiedź. Gdy robot sterowany tym samym modelem popełnia błąd w szpitalu, nieodwracalne skutki mogą być natychmiastowe.
Weźmy prosty przykład: nalewanie wrzącej wody z czajnika. Ruch jest identyczny bez względu na to, czy woda ląduje bezpiecznie w kubku, czy na ręce dziecka. Modele AI świetnie radzą sobie z logiką i rozumowaniem abstrakcyjnym. Gorzej z kontekstową oceną sytuacji fizycznej w czasie rzeczywistym.
Tu pojawia się kwestia odpowiedzialności prawnej, którą badacz z Oxfordu stawia wprost: jeśli robot AI spowoduje uraz fizyczny, kto odpowiada? Użytkownik, który wydał polecenie głosowe? Producent metalowej obudowy? A może firma technologiczna, która wytrenowała model? Przepisy dotyczące odpowiedzialności za produkt, gwarancji i ochrony konsumenta w USA, Wielkiej Brytanii i UE nie były testowane w takich scenariuszach.
Do czasu pierwszego dużego wyroku sądowego firmy technologiczne będą pod presją rynku preferować szybkie wdrożenia nad ostrożną inżynierię bezpieczeństwa.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Prawo autonomicznych pojazdów nie wystarczy
Regulatorzy, sięgając po wzorce dla robotyki AI, zazwyczaj spoglądają na przepisy dotyczące pojazdów autonomicznych. Ale to błąd kategorii. Samochody bez kierowcy jeżdżą po zmapowanych drogach, podlegają stałym przepisom ruchu, a ich zachowanie można przetestować w milionach godzin symulacji.
Domowa kuchnia, szkolna klasa czy sala szpitalna nie mają żadnego odpowiednika sygnalizacji świetlnej. I żaden test fabryczny nie przewidzi, co model wytrenowany na internecie postanowi zrobić po zetknięciu z nieznanym przedmiotem w nieuporządkowanym, ludzkim środowisku.
Rozwiązanie, które proponuje Barez, jest intuicyjne, ale wymaga odwagi od producentów:
- Oddzielić bezpieczeństwo od decyzji modelu AI. Robot nie powinien polegać na logice chatbota przy ocenie, czy bezpiecznie jest zamachnąć się metalowym ramieniem w pobliżu ludzkiej twarzy.
- Tworzyć fizyczne strefy wokół ludzi, w które ramiona robota po prostu nie mogą wejść, niezależnie od tego, co „postanowi” AI.
- Budować fizyczne hamulce bezpieczeństwa, które zatrzymają robota wtedy, gdy jego model AI zawiedzie. Bo prędzej czy później zawiedzie.
Humanoidalne roboty przekraczające linie mety na kontrolowanych zawodach to efektowne demonstracje. Naprawdę interesujące zacznie się wtedy, gdy trafią na oddziały rehabilitacyjne, do domów opieki, na nasze ulice. Ramy bezpieczeństwa muszą być gotowe zanim to nastąpi. Nie jako odpowiedź na tragedię, która była do przewidzenia.
Badanie Bareza jest finansowane m.in. przez Future of Life Institute, OpenAI i Anthropic. Warto o tym pamiętać, czytając zarówno same wnioski, jak i rekomendacje polityczne.
