Niemal co drugi lekarz pierwszego kontaktu w Australii używa dziś sztucznej inteligencji do sporządzania notatek z konsultacji. Pacjenci najczęściej nie są o tym informowani, nie wyrażają zgody, a system prawny ledwo nadąża za tym, co już dzieje się w gabinetach.
Kluczowe fakty:
- Użycie sztucznej inteligencji do sporządzania notatek medycznych przez lekarzy pierwszego kontaktu w Australii podwoiło się w ciągu roku z 20% do 40%.
- Pacjenci najczęściej nie są informowani o nagrywaniu konsultacji przez AI scribes i nie wyrażają na to zgody. System prawny nie nadąża za rozwojem tej technologii.
- Polityka prywatności niektórych AI scribes przewiduje możliwość udostępniania danych medycznych pracownikom, dostawcom zewnętrznym i powiązanym spółkom.
„Dziki Zachód” technologii medycznej
Użycie tzw. AI scribes przez lekarzy pierwszego kontaktu w Australii podwoiło się w ciągu ostatniego roku – z 20 do 40 procent. Oprogramowanie tego typu nagrywa przebieg wizyty i automatycznie generuje dokumentację medyczną. Brzmi jak oszczędność czasu? Tak. Ale też jak otwarte drzwi do gabinetu, przez które wchodzi ktoś trzeci – i to bez pytania.
Dr Megan Prictor z Melbourne Law School nie owijała w bawełnę: „It is the Wild West of medical technology. Doctors might not even think to tell patients they are being recorded in this way.”
Oprogramowanie tego rodzaju jest używane nie tylko w przychodniach, ale też przez specjalistów i w szpitalach – do tworzenia kart wypisów, skierowań i innych dokumentów. To nie jest eksperyment. To już standard.
Co AI scribe robi z twoją rozmową?
Cyfrowe skryby przechwytują rozmowy między pacjentem a lekarzem i generują notatki kliniczne, podsumowania lub listy, które trafiają do dokumentacji medycznej. Mogą korzystać z różnych technologii, w tym z dużych modeli językowych (LLM) i głębokiego uczenia.
Problem nie polega tylko na tym, że ktoś nagrywa. Problem polega na tym, co z tym nagraniem się dzieje. Polityka prywatności jednego z popularniejszych AI scribes, Heidi Health, przewiduje możliwość udostępniania zebranych danych pracownikom, dostawcom zewnętrznym, powiązanym spółkom, a nawet ewentualnym nabywcom firmy.
Twoje dane o zdrowiu psychicznym, historii chorób, przyjmowanych lekach, są więc potencjalnie pakowane i wysyłane gdzieś w świat. A ty siedzisz naprzeciwko lekarza i opowiadasz o bólu pleców.
Prawie co drugi pracownik w Polsce używa AI za plecami swojego szefa. 71% polskich pracowników oszczędza dzięki AI od pół godziny do ponad dwóch godzin dziennie …
Halucynacje w dokumentacji medycznej
Technologia nie jest tylko kwestią prywatności. To też kwestia życia i zdrowia.
Badanie opublikowane w British Medical Journal przeanalizowało siedem różnych produktów tego typu i znalazło od jednego do sześciu istotnych pominięć w każdej konsultacji: historię rodzinną, nawyki palenia, przyjmowane leki. Połowa nagrań zawierała błędy faktyczne, a halucynacje były powszechne – na przykład przypisywanie komuś palenia, gdy tego nie robił, wymyślanie diagnoz czy wpisywanie leków, których nie użyto.
AI scribe nauczył się, jak generować czytelne notatki, ale nie ma żadnego rozumienia prawdziwości tego, co produkuje. Notatki mogą wydawać się na pierwszy rzut oka dokładne, ale mogą nie być zgodne z faktami ani kompletne.
Widzę tu dwa poziomy ryzyka i oba są poważne. Pierwszy to prywatność: nagrywanie bez świadomej zgody pacjenta to nie tylko kwestia etyczna, ale w wielu australijskich stanach wprost naruszenie prawa. Drugi to bezpieczeństwo kliniczne: jeśli lekarz zaakceptuje błędną notatkę wygenerowaną przez AI bez jej weryfikacji, mamy gotowy przepis na błąd medyczny. Z drugiej strony nie można ignorować realnych korzyści, które ta technologia niesie. Lekarze są przeciążeni biurokracją, wypalenie zawodowe w tej branży jest poważnym problemem, a czas uwolniony od wpisywania notatek to czas, który może trafić z powrotem do pacjenta. Pytanie nie brzmi więc „czy używać”, tylko „jak używać odpowiedzialnie”. I na to pytanie australijski system regulacyjny jeszcze nie odpowiedział.
Piotr Wolniewicz, Redaktor Naczelny AIPORT.pl
Prawo mówi: zgoda jest konieczna
Australijskie przepisy dotyczące inwigilacji w wielu stanach wymagają, aby pacjent wyraził zgodę na nagrywanie. Zgoda ta obejmuje również przetwarzanie danych osobowych, które zaliczają się do danych wrażliwych w świetle prawa o prywatności. W grę wchodzi też zgoda na przetwarzanie przez algorytm informacji objętych przepisami regulującymi maszynowe wykorzystanie danych.
Tyle teorii. W praktyce lekarze często tego nie robią, bo:
- nie mają wypracowanych procedur uzyskiwania zgody,
- oprogramowanie nie ma wbudowanych mechanizmów dokumentowania zgody,
- tempo pracy w przychodni nie sprzyja szczegółowym wyjaśnieniom,
- a regulacje po prostu nie nadążają za tempem wdrożeń.
Australijski regulator TGA zapowiedział już we wrześniu 2025 roku, że „intensyfikuje wysiłki” na rzecz regulacji AI scribes w opiece zdrowotnej. Ale zapowiedź to nie przepis, a technologia nie czeka.
Lekarze są przeciążeni. AI kusi.
Trudno się dziwić, że lekarze sięgają po to narzędzie. Wielu australijskich lekarzy pierwszego kontaktu spędza 15 do 20 godzin tygodniowo na dokumentacji, skierowaniach i planach opieki – to czas zabrany pacjentom i jeden z głównych powodów wypalenia zawodowego.
Jeden z lekarzy opisuje AI scribe jako coś, co daje mu poczucie „posiadania superwizora”. Kiedy przegląda wygenerowane notatki, często znajduje szczegóły, które sam mógłby przeoczyć podczas rozmowy skupionej na pacjencie.
To nie jest irracjonalne. To jest ludzkie. Ale właśnie dlatego potrzebne są ramy, które sprawią, że technologia będzie służyć pacjentom, a nie tylko odciążać systemy.
Co powinno się zmienić?
Dr Prictor wskazuje konkretne kierunki. Potrzebne są regulacje i protokoły chroniące pacjentów nie tylko przed błędami, ale też przed naruszeniami prywatności. Narzędzia te słuchają najbardziej intymnych rozmów i tworzą ich streszczenia. TGA powinno ustalić zasady ich stosowania, a przejrzystość w kwestii tego, dokąd trafiają dane zdrowotne, jest niezbędna.
Globalnie AI w medycynie jest już powszechna: w USA ponad 81% lekarzy deklaruje korzystanie z AI w praktyce klinicznej, co jest ponad dwukrotnym wzrostem względem 2023 roku. Australia nie jest wyjątkiem. Jest po prostu miejscem, gdzie debata wyszła na powierzchnię wcześniej niż przepisy.
Pytanie, czy zdąży je dogonić, zanim ktoś zapłaci za to zdrowiem.
