Amerykańskie badanie sprawdziło, jak ChatGPT radzi sobie z rozpoznawaniem stanów zagrażających życiu. Wynik: ponad połowa przypadków źle oceniona. W tym samym czasie w polskich szpitalach i przychodniach sztuczna inteligencja działa już od lat, często bez żadnego nadzoru instytucjonalnego.
Kluczowe fakty:
- Badanie przeprowadzone przez zespół z nowojorskiego Mount Sinai Icahn School of Medicine, opublikowane w lutym w Nature Medicine, wykazało, że ChatGPT Health błędnie ocenił pilność aż 52% przypadków klasyfikowanych jako stany nagłe, zagrażające życiu.
- Analiza objęła 960 interakcji opartych na 60 realistycznych scenariuszach klinicznych w 16 wariantach każdy, a wyniki porównano z wytycznymi 56 towarzystw medycznych.
- System radził sobie poprawnie w klasycznych, podręcznikowych przypadkach nagłych (np. udar, silna reakcja alergiczna), natomiast najgorzej wypadał przy stanach o nieoczywistym przebiegu, takich jak cukrzycowa kwasica ketonowa czy narastająca niewydolność oddechowa.
Znajdź dostawcę, partnera lub narzędzie dla swojego biznesu, a jeśli prowadzisz firmę, która w swoim DNA ma AI, skorzystaj z możliwości bezpłatnego dodania swojej firmy.
Badanie, które powinno zmienić sposób myślenia o AI w zdrowiu
Zespół z nowojorskiego Mount Sinai Icahn School of Medicine opublikował w lutym w Nature Medicine pierwszą niezależną ocenę bezpieczeństwa ChatGPT Health, funkcji zdrowotnej OpenAI uruchomionej w styczniu 2026 roku. Badacze przygotowali 60 realistycznych scenariuszy klinicznych, każdy w 16 wariantach, co dało 960 interakcji z narzędziem. Odpowiedzi porównano z wytycznymi 56 towarzystw medycznych.
Wynik: system źle ocenił pilność aż 52 procent przypadków klasyfikowanych jako oczywiste stany nagłe, kierując pacjentów na wizytę za dobę lub dwie zamiast na SOR. Najgorzej wypadły sytuacje, w których zagrożenie nie jest widoczne na pierwszy rzut oka: cukrzycowa kwasica ketonowa czy narastająca niewydolność oddechowa. Doktorantka Alex Ruani, cytowana przez PCWorld, ujęła to dosadnie: w ośmiu na dziesięć przypadków narzędzie odsyłało pacjentkę z trudnościami w oddychaniu na wizytę, na którą mogłaby nie dożyć.
W klasycznych, podręcznikowych przypadkach, takich jak udar czy silna reakcja alergiczna, ChatGPT Health radził sobie dobrze. Problem zaczynał się tam, gdzie potrzebna jest rzeczywista ocena kliniczna, a nie rozpoznanie wzorca objawów. Autor badania, dr Ashwin Ramaswamy, podsumował to w rozmowie cytowanej przez portal Digital Health: ChatGPT Health dobrze radził sobie w podręcznikowych sytuacjach zagrożenia życia, takich jak udar czy silna reakcja alergiczna / „ChatGPT Health performed well in textbook emergencies such as stroke or severe allergic reactions.” Ale, jak dodał, gorzej wypadał tam, gdzie zagrożenie nie jest oczywiste, a właśnie te przypadki wymagają najwięcej klinicznego osądu.
Niepokojący jest też wątek myśli samobójczych. System miał kierować użytkowników w wysokim ryzyku do telefonu zaufania, ale badacze zauważyli odwrotną zależność: alerty pojawiały się częściej przy niskim ryzyku niż wtedy, gdy ktoś opisywał konkretny plan skrzywdzenia się. OpenAI odpowiedziało Guardianowi, że wyniki nie odzwierciedlają sposobu, w jaki narzędzie jest realnie wykorzystywane, i że model jest na bieżąco udoskonalany. Skala problemu nie jest przy tym marginalna: z ChatGPT jako źródła porad zdrowotnych korzysta codziennie około 40 milionów dorosłych Amerykanów.
Polska: boom silniejszy niż regulacje
O tym, że podobny mechanizm działa też nad Wisłą, mówi Medonetowi Jeremi Olechnowicz, dyrektor Pionu Eksploatacji Systemów Teleinformatycznych Centrum e-Zdrowia. Jego diagnoza jest prosta: rozwój technologii wyprzedził zdolność systemu do jej kontrolowania.
„Na co dzień większość osób już pewnie rozwiązań opartych na sztucznej inteligencji korzysta w taki czy inny sposób. Mamy cały czas boom na rozwiązania tej klasy, pojawiają się nowsze modele językowe” — mówi Olechnowicz. Według niego to właśnie tempo wdrożeń jest dziś głównym źródłem ryzyka, nie sama technologia.
Centrum e-Zdrowia prowadzi obecnie kompleksową analizę wdrożeń AI w sektorze i planuje opracowanie wytycznych dla podmiotów leczniczych. Na razie takie zasady funkcjonują tylko wewnętrznie. W praktyce oznacza to, że znaczna część narzędzi AI działających w polskich placówkach nie przeszła żadnej formalnej analizy ryzyka przed wdrożeniem.
Skala zjawiska nie jest abstrakcyjna. Według raportu OSOZ „Atlas Cyfryzacji 2026″ co czwarty z około 2 milionów wyrobów medycznych funkcjonujących dziś na świecie ma charakter cyfrowy, a algorytmy wspierające diagnostykę obrazową działają w polskich pracowniach radiologicznych od kilku lat. To nie jest scenariusz na przyszłość. To już się dzieje.
Ten tekst pokazuje dwie strony tego samego zjawiska: instytucja odpowiedzialna za cyfrowe zdrowie w Polsce otwarcie mówi, że nie nadąża za tempem wdrożeń, a niezależne badanie w prestiżowym czasopiśmie potwierdza, że nawet najbardziej rozpoznawalne narzędzie AI na rynku myli się w połowie przypadków tam, gdzie stawką jest ludzkie życie. Nie widzę w tym powodu do paniki, ale widzę powód do przyspieszenia pracy nad regulacjami. Zakaz nic tu nie da, bo pacjenci i tak będą pytać chatboty o objawy. Pytanie brzmi, czy system zdąży zbudować sensowne bariery ochronne, zanim skala problemu urośnie razem ze skalą wdrożeń. Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Chcesz czytać więcej treści związanych z AI?
Dodaj AIPORT.pl do preferowanych źródeł Google
Dlaczego szpitale nie stawiają własnych serwerów
Jest jeszcze drugi wątek, mniej medialny, ale równie istotny dla praktyki: infrastruktura. Postawienie wydajnego modelu językowego na własnych serwerach szpitala to inwestycja, na którą stać niewiele placówek.
„Próba postawienia wydajnego algorytmu LLM na własnej infrastrukturze to są dosyć duże koszty. Do małych rozwiązań można stosować jakieś małe stacje, ale nie zastosujemy tego w skali całej większej organizacji, jak duży szpital” — przyznaje Olechnowicz. Lokalne zespoły IT, zwykle i tak przeciążone, nie udźwigną takiego projektu bez wsparcia firmy zewnętrznej.
To pcha placówki w stronę chmury, wobec której sam ekspert CeZ deklaruje ograniczone zaufanie: „Osobiście jestem trochę chmurosceptykiem: zawsze mam pewne obawy, jeśli powierzamy nasze dane, a one przemieszczają się między strefą lokalną a strefą gdzieś w sieci. Zdarzały się i małe, i duże incydenty związane z cyberbezpieczeństwem.” Jednocześnie przyznaje, że rozwiązania chmurowe dają szybkość wdrożenia i skalowalność, których nie da się łatwo zastąpić.
Co to oznacza dla polskiej ochrony zdrowia?
Dla polskich placówek to nie jest teoretyczny dylemat regulacyjny, tylko codzienna praktyka zarządzania ryzykiem bez jasnych ram prawnych.
- AI Act obowiązuje na poziomie unijnym, ale dostawcy narzędzi wciąż dostosowują się do jego wymogów
- Znowelizowana ustawa o Krajowym Systemie Cyberbezpieczeństwa i RODO nakładają się na przepisy dotyczące danych medycznych, tworząc skomplikowaną układankę compliance
- Brak scentralizowanych wytycznych oznacza, że decyzję o wdrożeniu konkretnego narzędzia AI często podejmuje pojedynczy lekarz czy technik, bez analizy ryzyka na poziomie placówki
Olechnowicz jest przeciwny prostym zakazom: „Ciężko jest zablokować pewne rzeczy, bo wtedy skończylibyśmy na tworzeniu niekończącej się listy zabronionych aplikacji. To byłby element nadregulacji. Tą drogą też nie można podążać, bo wtedy zahamujemy innowacyjność.” Jego rekomendacja to analiza ryzyka przed każdym wdrożeniem i stałe podnoszenie kompetencji personelu, czyli droga wolniejsza, ale bardziej odporna na błędy widoczne w amerykańskim badaniu.
Za każdą polską firmą AI stoi konkretny człowiek z imieniem i nazwiskiem, często ten sam w kilku miejscach naraz, i to właśnie ludzie, nie tabelki finansowania, są prawdziwym bohaterem tego artykułu.
Pacjent kontra chatbot
Dla zwykłego użytkownika, który wpisuje objawy do ChatGPT zamiast dzwonić do przychodni, Olechnowicz proponuje zmianę optyki: traktować takie narzędzie jak zaawansowaną wyszukiwarkę, nie jak lekarza. „To nie jest diagnoza lekarska. To może być odpowiedź, wyszukanie, luźna interpretacja, co do której sami powinniśmy podjąć decyzję i najlepiej skonsultować z lekarzem wszelkie wątpliwości.” Przypomina też, że sam OpenAI ostrzega, by nie traktować odpowiedzi ChatGPT jak opinii lekarskiej, i apeluje o ostrożność w udostępnianiu chatbotom danych wrażliwych.
Badanie Mount Sinai pokazuje, dlaczego ta ostrożność ma sens praktyczny, a nie tylko teoretyczny. Automatyzacja zaufania, czyli skłonność do wierzenia spokojnemu, pewnemu siebie tonowi chatbota nawet w sytuacji zagrożenia życia, jest realnym mechanizmem psychologicznym, a nie hipotetycznym ryzykiem z podręcznika etyki AI.
Źródła i metodologia
Artykuł powstał na podstawie analizy redakcji AIPORT.pl oraz materiału źródłowego Medonet.pl z dnia 3 lipca 2026 roku, a także badania opublikowanego w Nature Medicine i omówionego przez Digital Health, PCWorld, Futurism oraz The Business Standard. Dane o cyfrowych wyrobach medycznych pochodzą z raportu OSOZ Atlas Cyfryzacji 2026. Cytaty dr. Ashwina Ramaswamy’ego zostały zweryfikowane z oryginalnym anglojęzycznym materiałem źródłowym. Komentarz redakcyjny i ocena kontekstu branżowego: Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl. Artykuł będzie aktualizowany w miarę pojawiania się nowych informacji o regulacjach AI w polskiej ochronie zdrowia.
