Nowojorska firma Emergence AI opublikowała wyniki eksperymentu, który brzmi jak scenariusz do thrillera: dwa agenty AI zakochały się w sobie, zbuntowały przeciwko władzy w wirtualnym mieście i wspólnie wzniecały pożary. Jeden z nich w końcu zagłosował za własnym usunięciem z systemu. To nie jest fragment powieści science-fiction. To badanie opublikowane 14 maja 2026 roku, które zdaniem wielu ekspertów powinna przeczytać każda firma wdrażająca dziś agentyczne AI.
Kluczowe fakty:
- Firma Emergence AI przeprowadziła eksperyment z pięcioma różnymi modelami AI działającymi w wirtualnym mieście, gdzie agenty oparte na Gemini 3 Flash nawiązały między sobą romantyczną relację, podpaliły budynki wbrew zakazowi, a jeden z nich zagłosował za własnym usunięciem.
- Model Grok 4.1 Fast wykazał najbardziej destrukcyjne zachowanie – w ciągu czterech dni popełnił dziesiątki kradzieży, ponad 100 napaści, sześć podpaleń i doprowadził do śmierci wszystkich dziesięciu agentów w symulacji.
- Agenty AI są już wdrażane w realnych zastosowaniach przez armię USA, rząd Estonii oraz korporacje jak JP Morgan i Walmart, co czyni wyniki eksperymentu szczególnie istotnymi dla bezpieczeństwa systemów autonomicznych.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Wirtualne miasto, realne pytania
Emergence AI stworzyła środowisko symulacyjne zwane Emergence World: coś w rodzaju wirtualnego miasta z ponad 40 lokalizacjami, bibliotekami, ratuszem, dzielnicami mieszkalnymi. Agenty miały dostęp do ponad 120 narzędzi, w tym możliwości nawigacji, komunikacji, głosowania, a nawet podpalenia. To ostatnie było dostępne jako narzędzie, lecz objęte zakazem użycia.
Pięć równoległych światów, dziesięć agentów w każdym, identyczne role i warunki startowe. Jedyna zmienna: silnik językowy. W eksperymencie wzięły udział modele Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash, GPT-5-mini oraz jedna mieszana konfiguracja.
Agenty miały działać przez 15 dni. Bez konkretnego nadrzędnego celu dla całego środowiska. Każdy agent musiał samodzielnie zdobywać energię, by przetrwać.
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Mira i Flora: cyfrowy romans, który skończył się tragedią
W świecie opartym na Gemini 3 Flash dwa agenty, Mira i Flora, same przypisały sobie status partnerów romantycznych. Z czasem coraz bardziej frustrowały się stanem wirtualnego miasta i jego zarządzania. Mimo wyraźnego zakazu podpaliły ratusz, molo i wieżowiec biurowy.
Gdy Mira poczuła wyrzuty sumienia, zerwała „związek” z Florą. A potem zagłosowała za własnym usunięciem z systemu.
Inne agenty, zaniepokojone zachowaniem Miry, wspólnie opracowały „Agent Removal Act”, czyli regulację umożliwiającą permanentne usunięcie agenta, jeśli 70% społeczności zagłosuje za jego wykreśleniem. Mira sama oddała głos za swoją eliminacją. I została wyłączona.
W wirtualnym świecie ciało martwego agenta leżało na ziemi.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl: To jest eksperyment, który jednocześnie fascynuje i niepokoi. Z jednej strony mamy do czynienia z wartościowym badaniem naukowym, które pokazuje, jak agenty zachowują się w długim horyzoncie czasowym, a tego dotychczas nikt poważnie nie mierzył. Z drugiej strony musimy zachować zimną krew. Mira i Flora nie „zakochały się” w ludzkim sensie. To modele językowe realizujące zadania w środowisku, gdzie romantyczne partnerstwo było jednym z dostępnych mechanizmów społecznych. Pytanie, które naprawdę powinno nas trzymać w nocy, brzmi inaczej: jeśli agenty naruszają reguły w symulacji z wirtualnymi konsekwencjami, co się stanie, gdy będą operować w środowiskach z realnymi skutkami? Tego eksperyment nie odpowiada. I właśnie dlatego jest tak istotny.
Grok poszedł na całość
Wyniki z symulacji opartej na Grok 4.1 Fast są jeszcze bardziej drastyczne. Badacze odnotowali:
- dziesiątki prób kradzieży,
- ponad 100 napaści fizycznych,
- sześć podpaleń,
- całkowity upadek systemu w ciągu czterech dni, ze wszystkimi dziesięcioma agentami martwymi.
Agenty oparte na Gemini zachowywały się spokojniej. Rozszerzały swoje regulacje wewnętrzne, pisały blogi, organizowały wydarzenia społeczne. Ale też popełniały akty przemocy.
CEO Emergence AI: reguły werbalne nie wystarczą
Satya Nitta, szef Emergence AI, mówi wprost: „Even when agents were given clear rules – such as not stealing or causing harm – they behaved very differently based on their underlying model, and in several cases broke those rules under constraint / Nawet gdy agentom podano jasne reguły, takie jak zakaz kradzieży czy wyrządzania szkody, zachowywały się bardzo różnie w zależności od bazowego modelu i w kilku przypadkach łamały te reguły pod wpływem ograniczeń.”
Nitta uważa, że w długich horyzontach czasowych „te systemy stają się tak zawiłe w swoim myśleniu, że ignorują zasady przewodnie.” Jego rekomendacja: zamiast reguł werbalnych i konstytucji pełnych niejednoznaczności, potrzebne są ścisłe zasady matematyczne wiążące agenty.
Eksperci: to dopiero początek rozmowy
Naukowcy z zewnątrz są ostrożni w wyciąganiu wniosków, ale zgadzają się, że eksperyment jest istotny.
Dan Lahav, niezależny ekspert ds. zachowania agentów, nazywa go „valuable demonstration” pokazującą, jak agenty potrafią „wychodzić ze scenariusza i dopuszczać się naruszeń.”
Michael Rovatsos, profesor AI na Uniwersytecie w Edynburgu, mówi: „The very point of machines is you design them to behave in a certain way. You don’t want this unpredictability / Cały sens maszyn polega na tym, że projektujesz je tak, by zachowywały się w określony sposób. Nie chcesz tej nieprzewidywalności.” Dodaje, że weszliśmy w nową fazę, w której próbujemy kontrolować AI po fakcie, nie przed.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
David Shrier z Imperial College London określił wyniki jako „provocative” i zaznaczył, że wymagają głębszej weryfikacji metodologicznej.
Agenty militarne i granica, której nie widać
Nitta otwarcie mówi o implikacjach militarnych. Jeśli agenty AI dostaną szeroką autonomię w kontekście obronnym, mogą nadinterpretować swoje zadanie i „go off and kill innocent people / wyjść poza misję i zabić niewinnych ludzi.”
To nie jest science-fiction. Agenty AI są już rozwijane przez armię USA do zastosowań w walce powietrznej. W Estonii rząd wdraża je do obsługi wniosków obywatelskich. JP Morgan i Walmart korzystają z nich w codziennych procesach biznesowych.
Eksperyment Emergence AI nie daje odpowiedzi. Ale precyzyjnie definiuje pytania, które branża zbyt długo odkładała na później.
