AI w przychodni i szpitalu: prawo, dane i pilotaż, zanim podpiszecie umowę

Przychodnia z kontraktem z NFZ, poniedziałek, kwadrans przed końcem przyjęć. Lekarka rodzinna ma na ekranie listę projektów notatek, które program przygotował z nagranych wizyt. W jednej brakuje zdania o uczuleniu na penicylinę, które pacjent powiedział w drzwiach. W innej jest wynik osłuchiwania, choć pacjent przyszedł tylko po skierowanie. Piętro niżej od tygodnia telefony odbiera automat z ciepłym głosem i ludzkim imieniem. Na biurku kierowniczki leży umowa na trzy lata na oba narzędzia, z prośbą dostawcy o podpis do piątku. Nikt nie zmierzył, ile trwała notatka przed próbą, i nikt nie spisał, gdzie leżą nagrania.

Program nie odpowie za żadne zdanie w tych notatkach. Odpowie placówka i osoby, które podpisały.

Ten poradnik zbiera to, co placówka ustala przed podpisaniem umowy na narzędzie AI: dane, przepisy, wyrób medyczny, ocenę skutków, pracę z czatem, notatką, automatem i modelem językowym, pilotaż i dane do badań. Stan prawny na 29.09.2026.

Dla kogo i jak czytać. Każda placówka zaczyna od fundamentów i kalendarza prawa. Gabinet lekarski czyta potem rozdziały o ocenie skutków, publicznym czacie i notatce dyktowanej. Przychodnia i sieć przychodni dokładają automat w rejestracji i pilotaż. Szpital czyta całość po kolei, a dyrektor medyczny zaczyna od wyrobu medycznego. Szpital specjalistyczny i sieć szpitali dokładają miejsce działania modelu i dane do badań. Umowę z dostawcą, zgłaszanie naruszeń i KSC opisują osobne poradniki, tu są tylko odesłania.

Najpierw dane, integracje i kopia, potem AI

Według badania stopnia informatyzacji, opublikowanego przez Centrum e-Zdrowia w sierpniu 2026, skorzystanie z narzędzi AI w ciągu 12 miesięcy planuje 40,9% badanych szpitali. Dokumentację w P1 indeksuje 90,6% z nich, a wymienia ją z innymi placówkami przez P1 25,4%. Indeks mówi, gdzie leży dokument. Nie daje danych, które da się policzyć albo podać modelowi.

AI przyspiesza to, co już działa. Asystent wypisów przeczyta ten sam akapit wolnego tekstu co lekarz, poczeka na ten sam plik z laboratorium i stanie razem z serwerem. Pod narzędziem muszą więc leżeć trzy warstwy.

Dane. Model dobrze czyta wolny tekst, ale gdy uczulenie jest zapisane w trzech miejscach i trzech wersjach, nie ma źródła, z którym porównacie jego wynik. Dobre dane na wejściu, dobre wyniki na wyjściu. Zacznijcie od jednego procesu, na przykład wypisu z jednego oddziału: na próbce kart sprawdźcie, co jest w polach, a co tylko w opisie, ustalcie, kto odpowiada za słowniki, i poszukajcie duplikatów pacjentów, bo asystent, który zobaczy połowę historii choroby, poda połowę prawdy. Jak je znaleźć i scalić, opisuje rozdział Jeden pacjent, jedna kartoteka.

Integracje. Plik niepełny albo zdublowany we wspólnym katalogu widać dopiero wtedy, gdy lekarz zauważy brak wyniku. System dokumentacji ma pozwalać na udostępnianie danych w standardach ogłoszonych przez ministra, a przy ich braku w HL7 oraz DICOM albo innych, i na eksport całości danych do odtworzenia w innym systemie (§ 1 ust. 6 pkt 6 i 8 rozporządzenia Ministra Zdrowia w sprawie dokumentacji medycznej). Spiszcie połączenia między systemami: skąd, dokąd, jak, kto je utrzymuje i kto po aktualizacji sprawdza, czy wyniki dalej dochodzą. Narzędzie AI dostaje dane przez udokumentowane API z kontrolą uprawnień i dziennikiem zdarzeń, a nie przez kolejny eksport do katalogu. Standardy opisuje rozdział HL7, FHIR i API, cenę połączenia rozdział Integracje.

Kopia i praca bez systemu. Gdy stanie system dokumentacji, P1 albo sieć, AI stanie razem z nimi. Kopia, z której nikt nie odtworzył danych, to przypuszczenie; przepisy nie podają częstotliwości testu, rytm ustala polityka na podstawie analizy ryzyka, a pierwszy test opisuje rozdział Kopia zapasowa, która się odtwarza. Procedura pracy bez systemu nie zakłada działania asystenta: lekarz przyzwyczajony do projektu wypisu z modelu potrzebuje w dniu awarii papierowego wzoru i wiedzy, kto potem przeniesie dokumentację. Szpital objęty KSC dopisuje dostawcę AI do planów ciągłości działania; terminy są w rozdziale Kalendarz poradnika o KSC.

Gdy trzy warstwy działają, obowiązuje granica. AI jest mechanizmem nieprzewidywalnym, więc używa się jej do budowy przewidywalnych narzędzi: program przygotowuje projekt, człowiek czyta i podpisuje, a narzędzie AI nie jest warunkiem przyjęcia pacjenta ani wypisu. Dane wprowadzone do systemu i w nim wytworzone należą do placówki, a oprogramowanie jest na licencji; umowa na narzędzie AI mówi to wprost. Pytania kontrolne do warstw 01 (dokumentacja), 02 (kopia), 07 (wspólne dane) i 10 (integracje) zawiera Autodiagnoza skali placówki.

Kalendarz prawa: polska ustawa o systemach AI i AI Act do 2028

AI Act, czyli rozporządzenie (UE) 2024/1689, stosuje się etapami, a w lipcu 2026 część terminów przesunęło rozporządzenie (UE) 2026/1744. Doszła ustawa z 3 lipca 2026 o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003), obowiązująca od 11 sierpnia 2026; jej przepisy o opiniach, kontroli, postępowaniu i karach wchodzą w życie 28 października 2026 (art. 127 pkt 2).

Art. 4, 5 i 50 już obowiązują, a od 28 października 2026 ich przestrzeganie w placówce może sprawdzić polski organ.

Co może Komisja od 28 października 2026

Organem nadzoru rynku jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (art. 5 ust. 1 ustawy). Kontroluje nie wcześniej niż 7 dni po doręczeniu zawiadomienia, co do zasady zdalnie (art. 49 ust. 2 i 3). Skargę może złożyć każda osoba fizyczna, prawna albo jednostka organizacyjna (art. 59 ust. 1), także pacjent, który zobaczył odpowiedź czatu. Po ostrzeżeniu placówka ma 21 dni od jego otrzymania, żeby poinformować o wykonaniu (art. 61 ust. 3), a kary nakłada się według rozdziału XII AI Act (art. 104 ust. 1). Kto nie wie, czy narzędzie jest wysokiego ryzyka, może wystąpić o opinię indywidualną za 150 zł, z odpowiedzią w 30 dni, w sprawach szczególnie skomplikowanych w 60 dni (art. 11 ust. 1 i art. 12 ust. 1).

Siedem dni wystarczy, żeby zebrać dokumenty, które istnieją. Nie wystarczy, żeby je napisać. Wykonanie ostrzeżenia bywa wyłączeniem narzędzia, a czat postawiony przez firmę od strony często nie daje placówce dostępu administracyjnego; wyłączenie przećwiczcie wcześniej.

Placówka jest podmiotem stosującym

Dostawca rozwija system albo zleca jego rozwój i wprowadza go pod własną nazwą (art. 3 pkt 3 AI Act). Podmiot stosujący wykorzystuje system, nad którym sprawuje kontrolę (art. 3 pkt 4). Placówka jest zwykle w drugiej roli, ale przychodnia, która zamówiła czat z własnym logo, może zostać uznana za dostawcę. Lekarza używającego AI w działalności ustawa nie wyłącza (art. 3 ust. 1 pkt 1).

Art. 4 dotyczy każdego podmiotu stosującego, także gabinetu. Od 27 lipca 2026 placówka podejmuje środki wspierające kompetencje personelu w zakresie AI, bez obowiązku zapewnienia określonego poziomu każdej osoby. Pokazuje więc, co zrobiła: zasady korzystania z AI na jednej stronie, listę przeszkolonych, datę. W szpitalu najprościej dołączyć temat do szkolenia wstępnego i okresowego z ochrony danych.

Wysokie ryzyko i jedno zastrzeżenie

W placówce wysokie ryzyko to wyroby medyczne (następny rozdział) i załącznik III: systemy oceny stanu zdrowia pacjentów w nagłych wypadkach, czyli segregacja na SOR i w izbie przyjęć (pkt 5 lit. d) oraz rekrutacja i ocena pracowników (pkt 4). Od dat z tabeli placówka używa takiego systemu zgodnie z instrukcją (art. 26 ust. 1), powierza nadzór osobom z kompetencjami (ust. 2), monitoruje go i zawiesza, gdy stwarza ryzyko (ust. 5), przechowuje rejestry zdarzeń, jeśli są pod jej kontrolą, co najmniej sześć miesięcy (ust. 6) i informuje pracowników oraz ich przedstawicieli przed użyciem w miejscu pracy (ust. 7). Zastrzeżenie dotyczy całego poradnika: system wprowadzony do obrotu przed datą z tabeli obejmą te obowiązki dopiero po istotnej zmianie jego projektu, a system przeznaczony do wykorzystywania przez organy publiczne najpóźniej 2 sierpnia 2030 (art. 111 ust. 2 AI Act w brzmieniu z 2026/1744). Przy każdej nowej wersji pytajcie dostawcę na piśmie, czy zmiana jest istotna w rozumieniu art. 3 pkt 23.

Spis narzędzi AI

Poniższa lista to praktyka, którą zalecam; każdy punkt odpowiada na pytanie, które może zadać kontrolujący albo inspektor ochrony danych.

1. Nazwa narzędzia, dostawca, cel, użytkownicy, dane, czy wolno wprowadzać dane pacjentów i na jakim koncie, czy to wyrób medyczny i w jakiej klasie.
2. Wstępna kwalifikacja: zakazana praktyka, wysokie ryzyko z datą, przejrzystość z art. 50, reszta.
3. Umowa powierzenia (art. 28 ust. 3 RODO) i wpis w rejestrze czynności przetwarzania (art. 30 ust. 1 RODO).
4. Instrukcja, informacja o rejestrach zdarzeń, deklaracja zgodności przy wyrobie.
5. Imiennie wskazana osoba, która nadzoruje narzędzie i może wstrzymać jego użycie, oraz kto technicznie je wyłącza i w jakim czasie.

Ankieta nie wystarczy, bo nikt nie wpisze rozszerzenia przeglądarki, które streszcza każdą stronę. Szukajcie w fakturach, w umowach z firmą od strony i centrali telefonicznej, a w szpitalu w logach zapory albo DNS. Funkcja AI przychodzi też z aktualizacją starego systemu, więc dostawców pytajcie na piśmie, czy działa, na jakich danych i czy można ją wyłączyć, a w umowach zapiszcie, że włącza się ją po decyzji placówki. W szpitalu spis prowadzi osoba od spisu systemów dla KSC, inspektor ocenia dane, a lekarz z oddziału skutek dla pacjenta. W przychodni robi to kierownik.

Czy moduł AI to wyrób medyczny

Spis z poprzedniego rozdziału ma kolumnę „czy to wyrób medyczny”, a od odpowiedzi zależy, która data z kalendarza dotyczy narzędzia. Częsta sytuacja przy zakupie: dostawca pokazuje moduł, który co godzinę przelicza wyniki i parametry życiowe i podświetla pacjentów zagrożonych pogorszeniem. Na pytanie o wyrób medyczny odpowiada, że to tylko wsparcie, bo decyzję podejmuje lekarz. To zdanie opisuje, jak moduł jest używany, a nie do czego producent go przeznaczył.

Wyrobem medycznym jest między innymi oprogramowanie przewidziane przez producenta do diagnozowania, monitorowania, przewidywania, prognozowania albo leczenia choroby (art. 2 pkt 1 rozporządzenia (UE) 2017/745, dalej MDR). Przeznaczenie wynika z etykiety, instrukcji, materiałów sprzedażowych i oceny klinicznej (art. 2 pkt 12), a o kwalifikacji nie decyduje to, czy program działa w serwerowni, czy w chmurze (motyw 19). Oprogramowanie będące wyrobem, które dostarcza informacji do decyzji diagnostycznych lub terapeutycznych, ma co najmniej klasę IIa (reguła 11 załącznika VIII), a jego producent przechodzi ocenę zgodności z jednostką notyfikowaną (art. 52 ust. 6). Moduł, który układa grafik albo przepisuje notatkę, zwykle nie ma celu medycznego. Moduł, który ocenia ryzyko pogorszenia, podpowiada dawkę, wskazuje zmianę na zdjęciu albo sortuje pacjentów według pilności, bardzo często go ma. Kwalifikacja należy do producenta, a placówka prosi o nią na piśmie przed zakupem.

Co zmienia odpowiedź „tak”

Wyrób nosi oznakowanie CE (art. 20 ust. 1 MDR), a przed pierwszym użyciem placówka ma deklarację zgodności z klasą, numer jednostki notyfikowanej i instrukcję z przeznaczeniem, ograniczeniami i wymaganiami wobec sprzętu i sieci. Przy klasie IIa i wyższej moduł będący systemem AI jest też systemem wysokiego ryzyka (art. 6 ust. 1 AI Act) z obowiązkami od 2 sierpnia 2028, z zastrzeżeniem z kalendarza prawa. Najwięcej pracy daje wtedy art. 26 ust. 5: gdy moduł stwarza ryzyko, informujecie dostawcę lub dystrybutora oraz organ nadzoru rynku i zawieszacie jego użycie. To decyzja w środku dyżuru, więc oddział wie, kto ją podejmuje i jak pielęgniarki pracują, gdy lista przestaje podświetlać pacjentów. Oznakowanie CE nie zdejmuje z placówki tych obowiązków.

Jak placówka sama robi z modułu wyrób

Moduł kupiony do streszczania dokumentacji po kilku tygodniach służy do ustalania, którego pacjenta obejrzeć najpierw, a dział IT dopisuje regułę, która koloruje wynik. Kto zmienia przewidziane zastosowanie wyrobu albo modyfikuje go w sposób mogący wpłynąć na zgodność, przejmuje obowiązki producenta (art. 16 ust. 1 lit. b i c MDR). Gdy cel medyczny dostaje narzędzie, które wyrobem nie było, placówka wytwarza wyrób na własny użytek; wyjątek dla instytucji zdrowia publicznego wymaga spełnienia wszystkich warunków art. 5 ust. 5 MDR, między innymi systemu zarządzania jakością i publicznego oświadczenia przekazywanego Prezesowi Urzędu Rejestracji Produktów Leczniczych, Wyrobów Medycznych i Produktów Biobójczych (art. 10 ustawy o wyrobach medycznych). AI Act traktuje jak dostawcę podmiot stosujący, który zmienia przeznaczenie systemu tak, że staje się on systemem wysokiego ryzyka (art. 25 ust. 1 lit. c).

Najczęstsza droga do takiej zmiany to progi alarmów. Próg w zakresie z instrukcji to używanie modułu. Próg spoza zakresu, pominięty parametr albo własna formuła to modyfikacja. Każdą zmianę ustawień zapiszcie: kto prosił, kto zatwierdził, jaki był próg przed i po, a zmiana zastosowania przechodzi przez decyzję dyrektora medycznego. W spisie trzymajcie wersję modułu i przy każdej aktualizacji pytajcie producenta, czy zmieniła się instrukcja albo przeznaczenie; nową wersję sprawdzajcie przed produkcją, jak opisuje rozdział Aktualizacje. Producent modułu bywa inną firmą niż dostawca systemu szpitalnego, więc w umowie ustalcie, kto przekazuje wam jego komunikaty bezpieczeństwa i w jakim czasie.

Pomyłka modułu i pytania przed zakupem

Każdy, kto stosuje wyrób zawodowo, także gabinet, zgłasza poważny incydent niezwłocznie producentowi albo jego upoważnionemu przedstawicielowi i przesyła kopię Prezesowi Urzędu (art. 48 ust. 2 pkt 1 i ust. 4 ustawy o wyrobach medycznych). Działa to tylko wtedy, gdy oddział wie, że moduł jest wyrobem, więc kwalifikacja trafia do spisu i procedury zdarzeń niepożądanych. Przed zakupem dyrektor medyczny zapisuje, do czego oddziały chcą używać modułu, i porównuje to z instrukcją, a kierownik IT sprawdza wymagania wobec sieci i rejestry zdarzeń. W szpitalu publicznym żądane dokumenty muszą mieć podstawę: przedmiotowe środki dowodowe zamawiający żąda, gdy są niezbędne, proporcjonalne i związane z przedmiotem, i akceptuje równoważne (art. 106 ust. 1 do 3 Pzp). Ogólne pytania zawiera materiał Pytania do dostawcy oprogramowania medycznego.

Ocena skutków przed wdrożeniem

Niezależnie od tego, czy narzędzie jest wyrobem, przed uruchomieniem placówka odpowiada na drugie pytanie: czy potrzebna jest ocena skutków. To samo narzędzie do notatek trafia do gabinetu jednego lekarza, do przychodni z sześcioma lekarzami i na oddział szpitala. Obowiązki są różne, bo zależą od skali przetwarzania, a nie od nazwy produktu.

Dwie oceny łatwo pomylić. Ocenę skutków dla ochrony danych z art. 35 RODO robi administrator, czyli placówka, przed rozpoczęciem przetwarzania. Ocena skutków dla praw podstawowych z art. 27 AI Act dotyczy tylko systemów wysokiego ryzyka z załącznika III, stosuje się od 2 grudnia 2027 i obejmuje podmioty prawa publicznego oraz podmioty prywatne świadczące usługi publiczne, a motyw 96 wymienia wśród nich opiekę zdrowotną. Opisuje procesy, grupy osób, ryzyka, nadzór człowieka i postępowanie przy szkodzie (art. 27 ust. 1 lit. a do f), o jej wynikach placówka powiadamia organ nadzoru rynku (ust. 3), a część można oprzeć na ocenie z RODO (ust. 4). Wyrób medyczny z AI jest wysokim ryzykiem z art. 6 ust. 1, nie z załącznika III, więc art. 27 go nie obejmuje. Notatka dyktowana i automat, który tylko umawia wizyty, też nie są systemami z załącznika III. Dla nich pytanie brzmi: czy RODO wymaga oceny.

Kiedy RODO wymaga oceny

Art. 35 ust. 1 RODO wymaga oceny, gdy przetwarzanie, szczególnie z użyciem nowych technologii, może powodować wysokie ryzyko, a ust. 3 lit. b wymienia przetwarzanie na dużą skalę danych szczególnych kategorii, w tym danych o zdrowiu. Według wykazu Prezesa UODO (komunikat z 17 czerwca 2019, M.P. 2019 poz. 666) ocena jest co do zasady potrzebna przy co najmniej dwóch kryteriach. Narzędzie AI w placówce medycznej spełnia zwykle dwa od razu: kryterium 4 (dane o zdrowiu pacjentów) i kryterium 10 (innowacyjne rozwiązania, w tym urządzenia z mikrofonem przesyłające dane przez sieć). W przychodni i szpitalu dochodzi kryterium 7, duża skala. Po drugiej stronie stoi motyw 91 RODO: przetwarzanie danych pacjentów przez pojedynczego lekarza nie powinno być uznawane za przetwarzanie na dużą skalę. Motyw nie jest przepisem, ale wyznacza różnicę między gabinetem a resztą.

W gabinecie jednego lekarza motyw 91 przemawia przeciw obowiązkowi, a wykaz UODO za nim. Zapiszcie na jednej stronie, dlaczego uznaliście, że ocena nie jest wymagana: jakie dane nagrywa narzędzie, gdzie trafiają i jak długo tam są. Jeśli nagrania leżą u dostawcy bez terminu usunięcia albo poza Europejskim Obszarem Gospodarczym (EOG), krótka ocena jest bezpieczniejsza niż długie uzasadnienie. Rejestr czynności prowadzicie i tak, bo zwolnienie dla podmiotów poniżej 250 osób nie obejmuje danych o zdrowiu (art. 30 ust. 5 RODO).

Przychodnia co do zasady robi ocenę przed uruchomieniem, także przed pilotażem na prawdziwych pacjentach; jedna ocena obejmuje podobne operacje, więc to samo narzędzie w poradni POZ i specjalistycznej nie wymaga dwóch (art. 35 ust. 1 zdanie drugie).

W szpitalu przesłanka dużej skali jest co do zasady spełniona, gdy narzędzie przetwarza dane pacjentów. Zacznijcie ocenę z inspektorem przed wyborem oferty, bo pytania o serwery, nagrania i uczenie modelu muszą trafić do dostawców przed podpisaniem umowy. Gdy ocena pokaże wysokie ryzyko, którego nie umiecie obniżyć, przed uruchomieniem konsultujecie się z Prezesem UODO (art. 36 ust. 1).

Co ocena zawiera

Art. 35 ust. 7 RODO wymaga opisu operacji i celów, oceny niezbędności i proporcjonalności, oceny ryzyka i środków. Przy narzędziu AI to osiem pytań.

1. Jakie dane zbiera narzędzie: tekst, nagranie głosu, dane osób towarzyszących?
2. Gdzie trafia nagranie i notatka i czy dane wychodzą poza EOG?
3. Kiedy nagranie jest usuwane i kto to sprawdza?
4. Czy dostawca uczy na danych placówki swój model?
5. Kto wychwyci przed podpisem treść, której pacjent nie powiedział?
6. Kto ma dostęp do nagrań u dostawcy i w placówce?
7. Co robi lekarz, gdy pacjent nie zgadza się na nagrywanie?
8. Jak placówka wyłączy narzędzie i czym je zastąpi?

Ocena przepisana z dokumentu dostawcy nie wystarczy, bo opisuje jego zabezpieczenia, a nie to, kto nagrywa i kto czyta notatkę. Zapytajcie lekarzy i pielęgniarki, kiedy w gabinecie jest ktoś trzeci. Ocena kończy się decyzją: uruchamiamy, uruchamiamy po zmianach w umowie albo konfiguracji, albo nie uruchamiamy. Podpisuje ją kierownik w imieniu administratora, a przegląd robi po nowej wersji modelu, zmianie podwykonawcy dostawcy albo rozszerzeniu na kolejny oddział (art. 35 ust. 11). Brak wymaganej oceny jest zagrożony administracyjną karą pieniężną (art. 83 ust. 4 lit. a RODO).

Publiczny czat AI i dane pacjenta

Ocena skutków dotyczy narzędzi, które placówka świadomie wybiera. Dane pacjentów wychodzą jednak także przez narzędzia, których nikt nie wybierał. Najczęstszy obraz: rezydent przed weekendem wkleja epikryzę do darmowego czatu w przeglądarce i prosi o skrócenie, a rejestratorka poradni przyszpitalnej prosi ten sam czat o odpowiedź na skargę pacjenta z opisem choroby. Oboje chcieli dobrze. Tekst z danymi pacjenta wyszedł poza placówkę i cofnąć się tego nie da.

Dane o zdrowiu to szczególna kategoria (art. 9 ust. 1 RODO), a zewnętrzna firma przetwarza je w imieniu placówki tylko na podstawie umowy powierzenia (art. 28 ust. 3), której przy darmowym koncie na prywatny adres nie ma. Serwery poza EOG oznaczają przekazanie do państwa trzeciego, dopuszczalne na warunkach rozdziału V RODO. Do danych z dokumentacji uprawnione są osoby wykonujące zawód medyczny i osoby z upoważnieniem administratora (art. 24 ust. 2 ustawy o prawach pacjenta), a zewnętrzna firma przetwarza je tylko na podstawie umowy powierzenia i jest związana tajemnicą (art. 24 ust. 6); anonimowy serwer czatu nie mieści się w żadnej z tych dróg. Usunięcie imienia i nazwiska zwykle nie pomaga, bo wiek, miejscowość, data przyjęcia i rzadkie rozpoznanie pozwalają zidentyfikować osobę pośrednio (art. 4 pkt 1 RODO). Nieuprawnione ujawnienie to naruszenie ochrony danych, zgłaszane Prezesowi UODO w 72 godziny od stwierdzenia, chyba że jest mało prawdopodobne, by spowodowało ryzyko dla pacjenta (art. 33 ust. 1 RODO); ocenę robi administrator z inspektorem, a oba zgłoszenia opisuje rozdział Dwa zegary. Zegar rusza, gdy placówka się o sprawie dowie, więc pracownik, który się pomylił, musi mieć powód, żeby o tym powiedzieć.

Dlaczego sam zakaz nie działa

Po zarządzeniu zakazującym narzędzi AI wypisy nadal są krótsze niż kiedyś. Zmieniło się tylko miejsce: telefon, prywatne konto, prywatna sieć. Rezydent z kilkunastoma wypisami ma realny problem z czasem, a zakaz nie zmniejsza liczby wypisów. Jeśli placówka nie da mu narzędzia, którego wolno używać, wybierze takie, którego nie wolno. Blokada adresów w sieci ma sens dopiero obok narzędzia dopuszczonego. Zakaz bywa też zbyt szeroki: zarządzenie o „wszelkich narzędziach AI” obejmuje rozpoznawanie mowy wbudowane w system szpitalny, którego oddział używa legalnie od lat, a przepis oderwany od pracy personel przestaje traktować poważnie. Zasada wymienia więc z nazwy narzędzia dopuszczone i te, do których nie wolno wklejać danych pacjentów, a w przychodni trafia do instrukcji, którą podpisują osoby z rejestracji, bo tam powstają pisma, odpowiedzi na skargi i maile. Część winy leży w modelu sprzedaży dużych dostawców, u których funkcja pomagająca pisać dokumentację bywa płatnym dodatkiem spoza umowy.

Drugie ryzyko trafia do pacjenta. Czat może pominąć zmianę dawki leku przeciwkrzepliwego, alergię albo termin kontroli, albo dopisać zdanie, którego nie było. Dlatego nawet dopuszczone narzędzie nie dotyka leków z dawkowaniem, rozpoznań z kodami, zaleceń i terminów kontroli; te części przenosi się z systemu.

Minimum na jedną stronę

1. Spis narzędzi z kalendarza prawa z kolumną: czy wolno wprowadzać dane pacjentów i na jakim koncie. Konto służbowe ma sens, gdy placówka blokuje je w dniu odejścia pracownika i sama ustala, czy historia rozmów jest przechowywana. Do spisu trafiają też tłumacz w przeglądarce, rozszerzenie poprawiające styl i aplikacja do dyktowania w telefonie. Czego nie ma w spisie, tego nie używa się z danymi pacjentów.
2. Umowa powierzenia dla każdego narzędzia z danymi pacjentów, z zapisami z rozdziału o miejscu działania modelu.
3. Instrukcja na jedną stronę: co wolno wkleić (tekst bez danych pacjenta, szablon pisma, pytanie o wytyczne), czego nigdy (dokumentacji, skarg, wyników, skanów), komu zgłosić pomyłkę i z czym (narzędzie, konto, godzina, zakres tekstu). Zgłoszenie w dobrej wierze nie kończy się karą, bo inaczej nikt nie zgłosi.
4. Szkolenie z art. 4 AI Act na przykładach z oddziału i rejestracji, z listą obecności, powtarzane przy przyjęciu nowej osoby.

Narzędzie z umową kosztuje abonament za użytkownika i czas na zakładanie i blokowanie kont. Ten koszt porównuje się z godzinami lekarzy spędzonymi na wypisach. Darmowy czat też kosztuje, tylko płaci się za niego ryzykiem. Kontrolujący zapyta, jakie narzędzia przetwarzają dane, na jakiej umowie, kto je dopuścił i co placówka zrobiła po pomyłce. Najsłabiej wypada placówka z samym zarządzeniem: znała problem i go nie rozwiązała.

Notatka dyktowana: kto podpisuje i kto odpowiada

Lekarkę z pierwszej sceny kusi, żeby zatwierdzić wszystkie projekty naraz. Przepisy nie przewidują współodpowiedzialności programu.

Program pisze projekt, wpis podpisuje człowiek

Wpisu dokonuje się niezwłocznie po świadczeniu, z zapewnieniem niezaprzeczalności i integralności danych, a wpisy i ich zmiany opatruje się oznaczeniem osoby, która ich dokonuje (§ 4 ust. 1 i 2 rozporządzenia o dokumentacji medycznej, t.j. Dz.U. 2024 poz. 798). Dokumentację wewnętrzną, w tym historię zdrowia i choroby, można podpisać wewnętrznym mechanizmem systemu (§ 4 ust. 4), ale wpis i tak nosi oznaczenie osoby, która go dokonała (§ 4 ust. 2). System zapisuje, kto dokonał wpisu lub zmiany, zakres zmian i czas (§ 1 ust. 6 pkt 3 i 4). Stąd wymaganie techniczne: notatka z AI wchodzi do systemu jako projekt, a system zapisuje, kto go zatwierdził, kiedy i co zmienił. Narzędzie, które wkleja gotowy tekst prosto do karty, zaciera ten ślad.

Dokumentację prowadzi lekarz (art. 41 ust. 1 ustawy o zawodach lekarza i lekarza dentysty), z należytą starannością (art. 4), a ostateczną decyzję diagnostyczną i terapeutyczną podejmuje lekarz (art. 12 pkt 4 Kodeksu Etyki Lekarskiej). Podpis pod notatką z AI jest oświadczeniem, że lekarz przeczytał tekst i że opisuje on wizytę, która się odbyła. Od 1 lipca 2026 lekarz może przez Rejestr Asystentów Medycznych upoważnić osobę wykonującą zawód medyczny albo czynności pomocnicze, na nie dłużej niż 12 miesięcy, do wystawiania w jego imieniu części dokumentacji elektronicznej, między innymi recept, skierowań i opisu konsultacji (art. 41a ust. 1, 3 i 5 tej ustawy). To upoważnienie dla człowieka, nie dla programu, a osoba upoważniona zapewnia zgodność danych z dokumentacją (art. 41a ust. 4), więc projekt z AI także ona czyta.

Jak mylą się narzędzia

Najlepiej udokumentowane dane pochodzą z pilotażu w ambulatoriach Uniwersytetu Kalifornijskiego w Davis (Taylor i in., JMIR Medical Informatics, 17 kwietnia 2026). 31 lekarzy utworzyło z pomocą narzędzia 7545 notatek i oceniło 356. Pominięcia wystąpiły w 18% ocenionych notatek, treści zmyślone w 11,5%, niezamierzone dopiski w 9,3%. Większość błędów była łagodna lub umiarkowana, ale 19 notatek (5,3%) zawierało błąd, który bez poprawki mógł poważnie zaszkodzić pacjentowi. 14,9% notatek z danymi o edycji zatwierdzono bez żadnej zmiany.

Pominięcie to alergia wspomniana przy wyjściu, zmyślenie to badanie opisane tak, jak zwykle się je opisuje, dopisek to uwaga o sprawach rodzinnych osoby towarzyszącej. Osobna pułapka to zaprzeczenia: „bez duszności” i „z dusznością” różnią się jednym słowem. Błąd nie zostaje w notatce: rozpoznanie idzie do skierowania, kod do rozliczenia z NFZ, zmyślony wynik do historii choroby. Wyniki z jednego ośrodka w Stanach Zjednoczonych nie przenoszą się wprost na polski gabinet z nazwami handlowymi leków i skrótami, więc przed wdrożeniem policzcie błędy u siebie, na nagraniach odegranych przez personel w docelowym gabinecie.

Samorząd lekarski i pacjent

Kodeks Etyki Lekarskiej od 1 stycznia 2025 wymaga, żeby przy AI służącej diagnozie lub terapii lekarz informował pacjenta, uzyskał jego świadomą zgodę i używał algorytmów dopuszczonych do użytku medycznego (art. 12 pkt 1 do 3). Komisja Etyki Lekarskiej NRL w komentarzu wyjaśnia, że przy systemach tylko wspierających lekarza zgoda nie jest wymagana, ale zaleca informowanie pacjenta. Prezydium NRL (stanowisko nr 19/26/P-IX z 20 lutego 2026) chciało, żeby państwową Platformę Usług Inteligentnych poprzedził pilotaż, a przepisy określiły odpowiedzialność placówki i lekarza; uchwalony przepis o platformie takich zasad nie zawiera. Podział odpowiedzialności placówka ustala więc sama: w regulaminie, instrukcji i umowie z dostawcą.

Pacjent przed nagraniem dostaje informację o celu, podstawie, odbiorcach i okresie przechowywania (art. 13 ust. 1 lit. c i e oraz ust. 2 lit. a RODO), powiedzianą w gabinecie i dostępną na piśmie; kartka na drzwiach nie wystarczy. Czy pytać o zgodę, zależy od podstawy przetwarzania przyjętej przez administratora z inspektorem, ale lekarz i tak pyta, wyłącza nagrywanie jednym przyciskiem, a pacjent nie tłumaczy odmowy. Moje stanowisko: nagranie nie jest dokumentacją medyczną, przechowywaną co do zasady 20 lat (art. 29 ust. 1 ustawy o prawach pacjenta). Znika w terminie ustalonym przez placówkę, bo przepisy go nie podają, zgodnie z zasadą ograniczenia przechowywania (art. 5 ust. 1 lit. e RODO).

Weryfikacja w godzinach przyjęć

Lekarz czyta najpierw leki i dawki, stronę ciała, alergie, zaprzeczenia i zalecenia, a pola przenoszone do recepty albo kodu rozpoznania sprawdza tak, jakby wpisywał je sam. System nie pozwala zatwierdzić notatek z całego dnia jednym przyciskiem, a każdy lekarz ma imienne konto. Błąd po podpisie lekarz poprawia nowym wpisem; podmiana tekstu przez informatyka w bazie to zatarcie śladu. Raz na kwartał kierownik medyczny porównuje kilka losowych notatek z nagraniami, a termin usuwania nagrań ustala się z inspektorem tak, żeby ta próba była możliwa. Placówka mierzy odsetek notatek zatwierdzanych bez zmian i czas od otwarcia projektu do podpisu; podpis kilka sekund po otwarciu czterostronicowej notatki to sygnał dla kierownika. Przed startem ktoś sprawdza mikrofon, hałas i zasięg sieci w gabinetach oraz to, co narzędzie robi bez łącza. Awaria oznacza pisanie notatki w trakcie wizyty, nie z pamięci wieczorem.

Automat w rejestracji i czat na stronie: pacjent wie, że rozmawia z AI

Starsza pacjentka pyta automat z pierwszej sceny, z kim rozmawiała, słyszy imię i tydzień później szuka w okienku pani o tym imieniu. Od 2 sierpnia 2026 rozstrzyga to przepis.

System AI przeznaczony do bezpośredniej interakcji z ludźmi ma być zaprojektowany tak, aby osoba wiedziała, że rozmawia z AI, chyba że jest to oczywiste dla osoby dostatecznie poinformowanej, uważnej i ostrożnej (art. 50 ust. 1 AI Act). Informacja ma być jasna, wyraźna, przekazana najpóźniej przy pierwszej interakcji i dostępna (art. 50 ust. 5). W rejestracji wyjątek prawie nigdy nie działa, bo automat projektuje się po to, żeby brzmiał jak człowiek, a motyw 132 każe uwzględniać osoby wrażliwe ze względu na wiek lub niepełnosprawność. Naruszenie jest zagrożone karą (art. 99 ust. 4 lit. g). Obowiązek ciąży na dostawcy, ale pacjent nie rozróżnia ról i skargę złoży na przychodnię, a przychodnia z czatem zamówionym pod własną nazwą może sama być dostawcą. W umowie zapiszcie, że system informuje o AI zgodnie z art. 50 ust. 1 i 5, kto ustala treść informacji i kto odpowiada, gdy aktualizacja ją zmieni.

Jak to powiedzieć

Przepis nie podaje formuły; poniżej praktyka, którą zalecam. W telefonie informacja pada w pierwszym zdaniu, zanim pacjent poda nazwisko: „Dzień dobry, tu automatyczny asystent rejestracji przychodni. Jestem programem komputerowym. W każdej chwili można powiedzieć »rejestratorka«, a przełączę do osoby”. Następne zdanie mówi o nagrywaniu, jeśli jest. Na czacie informacja stoi w pierwszej wiadomości, nie w regulaminie. Automat nie dostaje ludzkiego imienia ani zdjęcia, mówi wolno, bez muzyki, a czat pokazuje zwykły tekst dla czytnika ekranu. Przełączenie do człowieka nie wynika z art. 50, ale część pacjentów nie umówi się przez automat, a jeśli automat sam odmawia terminu i ta decyzja istotnie wpływa na pacjenta, wchodzi art. 22 RODO: taka decyzja jest co do zasady niedopuszczalna, a tam, gdzie wyjątek pozwala ją podjąć, pacjent ma co najmniej prawo do interwencji człowieka (art. 22 ust. 1 do 3). Najprościej, żeby automat niczego takiego nie rozstrzygał sam.

Pacjent w rejestracji mówi o bólu, wyniku, ciąży, więc przychodnia informuje o przetwarzaniu przy pozyskaniu danych (art. 13 RODO), krótko w rozmowie i pełniej na stronie. Dostawca automatu potrzebuje umowy powierzenia z odpowiedzią, gdzie i jak długo leżą nagrania i zapisy rozmów, czy uczy na nich modele i czy któraś z jego usług przetwarza dane poza EOG. Odpowiedzi trafiają do umowy, nie do maila handlowca. Automat wpisujecie do rejestru czynności, a o ocenie skutków decydujecie według rozdziału o ocenie.

Czego automat nie robi

Automat umawia, przekłada i odwołuje wizyty, podaje godziny pracy, przypomina, co zabrać. Nie ocenia, czy objawy są pilne. Pacjent, który mówi „boli mnie w klatce i drętwieje mi ręka”, nie może usłyszeć, że najbliższy termin jest w czwartek. Przy słowach z listy alarmowej, przygotowanej przez lekarza odpowiedzialnego w przychodni za sprawy medyczne, automat podaje numer 112 i przełącza do człowieka, a listę sprawdzacie na nagraniach z pierwszych tygodni. System oceniający stan zdrowia w nagłych wypadkach to wysokie ryzyko z załącznika III pkt 5 lit. d, od 2 grudnia 2027. Automat, który rozpoznaje słowa alarmowe i oddaje rozmowę człowiekowi, jest od tej kategorii daleko. Automat, który sam ustala, kto dostanie termin dziś, a kto za tydzień, może się do niej zbliżyć. Automat nie zakłada też nowych kartotek, bo produkuje duplikaty, i nie podaje wyników, rozpoznań ani listy wizyt, bo imię, nazwisko i PESEL zna też sąsiad; odwołanie wizyty potwierdza wiadomością na numer z kartoteki.

Gdy automat przestaje odbierać

Automat ma własne awarie: przerwę u dostawcy, zerwane łącze, nieudaną aktualizację. Przed uruchomieniem ustalcie, kto przełącza linię z powrotem na rejestratorki i ile to trwa, i sprawdźcie to w spokojny dzień, a nie w poniedziałek o 8:00. Automat zapisuje w tym samym terminarzu co rejestratorki; własny kalendarz synchronizowany z opóźnieniem daje dwóch pacjentów na jeden termin. Po pierwszym miesiącu policzcie, ile rozmów zakończyło się umówieniem wizyty, ile przełączeniem, a w ilu pacjent się rozłączył. Bez tych liczb nie wiecie, czy kolejka na linii jest krótsza.

Model językowy w serwerowni czy w chmurze dostawcy

Notatka i automat zwykle przychodzą jako gotowa usługa. Przy narzędziu, które czyta całą historię choroby, placówka wybiera także miejsce, w którym działa model. Typowy wybór w szpitalu specjalistycznym to dwie oferty na asystenta, który przed konsylium streszcza historię choroby: usługa w chmurze płatna co miesiąc i model na serwerach z kartami graficznymi we własnej serwerowni, aktualizowany zdalnie przez dostawcę. Który wariant jest bezpieczny? Oba mogą być i oba mogą nie być. O ryzyku decyduje umowa, zakres danych i to, kto przez lata będzie pilnował modelu. Model językowy to program, który z tekstu na wejściu tworzy tekst na wyjściu: streszczenie, projekt wypisu, odpowiedź.

Najpierw co, potem gdzie. Do modelu trafia tylko to, co niezbędne do celu (art. 5 ust. 1 lit. c RODO): streszczenie wymaga całej historii leczenia, podpowiedź kodu procedury tylko opisu zabiegu. Rozpiszcie dla każdego zastosowania, jakie pola trafią do modelu, co wraca i gdzie zostaje wynik; ta tabela często rozstrzyga sprawę sama. Usunięcie imienia, nazwiska i PESEL nie czyni tej treści anonimową, z powodów opisanych przy publicznym czacie; o identyfikowalności decydują wszelkie rozsądnie prawdopodobne sposoby (motyw 26 RODO).

Umowa z dostawcą usługi

Umowa powierzenia mówi, że dostawca przetwarza dane wyłącznie na udokumentowane polecenie placówki i po zakończeniu usług je usuwa albo zwraca (art. 28 ust. 3 lit. a i g RODO). Model działa często u innej firmy niż ta, która podpisuje umowę, a każdy dalszy podmiot przetwarzający wymaga uprzedniej pisemnej zgody, szczegółowej albo ogólnej z informowaniem o zmianach (art. 28 ust. 2), więc prosicie o pełną listę. Pytacie, gdzie fizycznie działa model i gdzie leżą zapisy zapytań, bo przekazanie poza EOG wymaga warunków rozdziału V RODO, oraz jak długo dostawca trzyma treść zapytań. Dostawcę wiąże tajemnica z art. 24 ust. 6 ustawy o prawach pacjenta, opisana przy czacie, a po zakończeniu umowy przekazuje on dane placówce (art. 24 ust. 7).

Trzy zapisy są specyficzne dla AI. Pierwszy zakazuje uczenia modeli dostawcy na danych placówki bez jej decyzji; dostawca, który z naruszeniem RODO sam określi cele przetwarzania, jest uznawany za administratora (art. 28 ust. 10), ale to nie pomoże, gdy dane już zostały użyte. Pełny zestaw zapisów opisuje rozdział Dane placówki do uczenia modelu dostawcy. Drugi dotyczy wersji: dostawca potrafi wymienić model z dnia na dzień, a streszczenie poprawne w pilotażu zaczyna pomijać leki, więc zapisujecie uprzedzenie o zmianie i prawo do testu przed przełączeniem. Trzeci dotyczy wyjścia: od 12 stycznia 2027 dostawca usługi w chmurze nie pobiera opłat za zmianę dostawcy (art. 29 ust. 1 aktu w sprawie danych), a resztę zasad opisuje rozdział Zmiana dostawcy chmury.

Co przejmujecie razem z serwerem

Model na własnym serwerze nie zwalnia z umowy powierzenia, jeśli dostawca aktualizuje go zdalnie na maszynie z danymi pacjentów; jego pracownicy działają wtedy z upoważnienia administratora i są związani tajemnicą (art. 24 ust. 2 pkt 2 i ust. 3 ustawy o prawach pacjenta). Zdalny dostęp to osobne konto, uwierzytelnianie wieloskładnikowe (MFA) i dziennik sesji, jak w rozdziale Konta, MFA i dostęp serwisu. Serwer z kartami graficznymi pobiera więcej prądu i oddaje więcej ciepła, więc sprawdźcie zasilanie awaryjne i klimatyzację, a czas naprawy karty w gwarancji wpiszcie do procedury pracy bez systemu. Licencję modelu pobieranego do uruchomienia u siebie przeczytajcie przed zakupem sprzętu. Jeden serwer obsługuje ograniczoną liczbę zapytań naraz, więc test obciążenia róbcie w godzinach, w których oddziały piszą wypisy. Dziennik zapytań też zawiera treść dokumentacji, a nowa wersja modelu idzie najpierw na środowisko testowe, z planem wycofania. Koszt w pięciu latach policzycie w Kalkulatorze kosztu systemu na 5 lat.

Tak samo w obu wariantach

Integracja z systemem szpitalnym jest potrzebna w obu wariantach: zapytajcie, czy jest w cenie i kto poprawi ją po aktualizacji. Bez niej lekarz kopiuje tekst między oknami i wraca problem publicznego czatu. Miejsce uruchomienia nie zmienia oceny skutków ani klasy narzędzia. Szpital, który jest podmiotem kluczowym albo ważnym, obejmuje systemem zarządzania bezpieczeństwem łańcuch dostaw usług ICT (art. 8 ust. 1 pkt 2 lit. e ustawy o KSC), więc gdy narzędzie pracuje w procesie udzielania świadczeń, dotyczy to dostawcy chmury i serwisanta modelu; kierownik odpowiada za te obowiązki także po ich powierzeniu (art. 8c). Ocenę dostawcy opisuje rozdział Dostawcy w łańcuchu dostaw. Model w chmurze staje z łączem, model w serwerowni z jedynym serwerem, więc co wtedy robi lekarz, zapisujecie w procedurze według materiału Praca bez systemu przez 72 godziny. Jakość mierzycie w obu wariantach stałym zestawem przypadków z oceną lekarzy, puszczanym po każdej zmianie wersji; to dane pacjentów, więc leżą tam, gdzie dokumentacja. Przy diagnostyce obrazowej trzecią drogą jest Platforma Usług Inteligentnych, przeznaczona dla szpitali udzielających świadczeń finansowanych ze środków publicznych, w której administratorem danych jest minister zdrowia (art. 31d ust. 1 i 11 ustawy o systemie informacji w ochronie zdrowia); stan nowych e-usług opisuje rozdział Nowe e-usługi.

Pilotaż: jak zmierzyć efekt przed umową na trzy lata

W przychodni z pierwszej sceny nikt nie zmierzył czasu notatki przed próbą, a w szpitalu wygląda to tak samo. Częsty koniec pilotażu asystenta wypisów: ordynator mówi, że lekarze chwalą, a dostawca pokazuje slajd z liczbą wygenerowanych wypisów. Nikt nie wie, ile trwał wypis przed pilotażem ani ile projektów zawierało błąd, więc decyzję o trzech latach podejmuje się na podstawie wrażenia.

Karta pilotażu przed startem

Pilotaż, który coś rozstrzyga, zaczyna się od zdania zapisanego przed pierwszym logowaniem: co ma się zmienić, o ile i w jakim czasie, na przykład czas od decyzji o wypisie do podpisu spada o określoną liczbę minut, a odsetek projektów z błędem merytorycznym nie przekracza progu. Liczby ustala placówka, nie dostawca. Obok progu sukcesu stoi warunek porażki i warunek zatrzymania: zdarzenie, po którym pilotaż staje bez względu na oszczędność czasu, na przykład podpisany wypis z błędnym lekiem przepisanym z projektu, zgłaszany zwykłą drogą zdarzeń niepożądanych. Bezpieczeństwa pacjenta nie uśrednia się z zaoszczędzonymi minutami. Karta ma też długość pilotażu, liczbę projektów w cotygodniowej próbce, datę decyzji i nazwisko osoby, która ją podejmie. Decyzje są trzy: kupujemy, nie kupujemy, poprawiamy warunki i mierzymy jeszcze raz. Całość mieści się na stronie z podpisem dyrektora.

Pomiar i jakość

Czynność, którą AI ma skrócić, mierzycie przez dwa tygodnie przed startem, na tym samym oddziale i z tymi samymi lekarzami, a potem tak samo w trakcie, zapisując obok urlopy i obłożenie. Z dziennika systemu odczytacie, kiedy wypis powstał, kto i kiedy go zmieniał (§ 1 ust. 6 pkt 3 i 4 rozporządzenia o dokumentacji); pracę poza systemem uzupełnia obserwator z innego oddziału. Liczy się cały czas lekarza do podpisu, z czytaniem i poprawkami, a nie czas generowania ze slajdu dostawcy. Pierwsze dni to nauka narzędzia, więc do decyzji porównujecie stan wyjściowy z ostatnimi tygodniami. Mierzycie proces, nie ludzi, i mówicie to lekarzom przed pierwszym dniem. Metodę pomiaru opisuje rozdział Zmierzcie pracę, zanim kupicie system.

Zadowolenie lekarzy mówi, czy narzędzie jest wygodne, a nie czy projekty są poprawne. To sprawdza drugi lekarz na próbce wylosowanej spoza oddziału, porównując projekt z dokumentacją źródłową. W badaniu opisanym w rozdziale o notatce dyktowanej poważne błędy znalazło czytanie notatek; ankieta by ich nie znalazła. Odsetek projektów podpisanych bez zmian zestawiacie z wynikiem próbki, bo wysoki może znaczyć, że projekty są dobre, albo że nikt ich nie czyta.

Pilotaż to już przetwarzanie danych

Narzędzie, które czyta dokumentację prawdziwych pacjentów, wymaga oceny skutków przed startem i umowy powierzenia także przy bezpłatnym pilotażu, z zakazem uczenia modelu dostawcy na danych z pilotażu i z usunięciem albo zwrotem danych po zakończeniu. Kopia bazy przekazana dostawcy to nadal dane pacjentów, jak opisuje rozdział Dane pacjentów poza produkcją. Czy i jak informować pacjentów, ustalacie przed startem z inspektorem. Dotychczasowy sposób pisania wypisu zostaje dostępny, a przy decyzji „nie kupujemy” oddział wraca do niego następnego dnia.

Rachunek na cały okres umowy

Cena pilotażu mówi niewiele o cenie po nim. Liczycie licencje dla wszystkich oddziałów, połączenie z systemem szpitalnym i jego utrzymanie, moc obliczeniową albo usługę w chmurze i czas informatyka, i porównujecie z czasem, który pilotaż naprawdę oszczędził. Bezpłatny pilotaż nie daje dostawcy prawa do umowy ze szpitalem, który stosuje Pzp: postępowanie przygotowuje się i przeprowadza w sposób zapewniający uczciwą konkurencję i równe traktowanie wykonawców (art. 16 pkt 1 Pzp), a gdy wykonawca był zaangażowany w jego przygotowanie, zamawiający podejmuje środki, żeby nie zakłóciło to konkurencji (art. 85 ust. 1). Zasady opisuje rozdział Wstępne konsultacje rynkowe.

W szpitalach, w których prowadziłem projekty, najtrudniejsze rozmowy po wdrożeniu dotyczyły efektu, którego nikt wcześniej nie zdefiniował. Karta pilotażu na jednej stronie tych rozmów oszczędza.

Dane do badań bez bazy na pendrive

Pilotaż i model językowy używają danych do leczenia. Dane do nauki to osobna droga. Częsta prośba w szpitalu klinicznym: lekarz z kliniki kardiologii prosi dział IT o pacjentów z niewydolnością serca z pięciu lat, najlepiej w arkuszu, a arkusz z numerami PESEL i opisami z wypisów trafia na jego prywatny laptop. Nikt nie ma złych zamiarów, ale szpital nie ma drogi, którą dane dla nauki wychodzą z systemu. Ta sama droga przyda się, gdy ktoś zechce uczyć model AI na danych placówki.

Lekarz i badacz to dwie role

Osoby wykonujące zawód medyczny są uprawnione do danych z dokumentacji w celu ochrony zdrowia, udzielania świadczeń i zarządzania nimi oraz utrzymania i bezpieczeństwa systemu (art. 24 ust. 2 ustawy o prawach pacjenta). Badania naukowego na tej liście nie ma. Ta sama luka dotyczy rezydenta, który z konta nadanego do leczenia przepisuje wyniki z kolejnych kart do własnego arkusza. RODO nie zamyka drogi do badań: dalsze przetwarzanie do celów naukowych nie jest niezgodne z pierwotnym celem (art. 5 ust. 1 lit. b), dane o zdrowiu można do nich przetwarzać na podstawie prawa z odpowiednimi środkami ochrony (art. 9 ust. 2 lit. j), a jeśli cel da się osiągnąć na danych nieidentyfikujących, realizuje się go w ten sposób (art. 89 ust. 1). Ustawa o prawach pacjenta pozwala udostępnić dokumentację szkole wyższej albo instytutowi badawczemu do celów naukowych bez danych umożliwiających identyfikację (art. 26 ust. 4).

Usunięcie kolumny z nazwiskiem nie daje danych anonimowych. Dane spseudonimizowane pozostają danymi osobowymi (motyw 26 RODO), a klucz pseudonimizacji przechowuje się osobno i chroni (art. 4 pkt 5). Do pułapki opisanej przy publicznym czacie, czyli rzadkiego rozpoznania z datą przyjęcia, szpital kliniczny dokłada dwie: wolny tekst zawiera nazwiska lekarzy i rodziny, a numer księgi głównej albo badania obrazowego pozwala każdemu z dostępem do systemu wrócić do pełnej dokumentacji.

Wniosek, zbiór i miejsce pracy

Prośba idzie na formularzu: cel, lista pól, okres, kryteria doboru, podstawa, zgoda komisji bioetycznej, jeśli jest wymagana, osoby z dostępem i data usunięcia. Opiniuje inspektor ochrony danych, zatwierdza osoba wskazana przez dyrektora. Przy liście pól minimalizacja zamienia się w pytania: kto prosi o datę urodzenia, zwykle potrzebuje wieku w dniu przyjęcia. Można przeprowadzić jedną ocenę skutków dla całej drogi udostępniania (art. 35 ust. 1 zdanie drugie RODO), a inspektor sprawdza, czy wniosek się w niej mieści.

Zbiór przygotowuje osoba spoza zespołu badawczego i zapisuje zapytanie do bazy razem z wnioskiem, żeby za rok dało się odtworzyć każdą liczbę z publikacji. Identyfikator pacjenta zastępuje pseudonim nadany na jedno badanie, a klucz zostaje u przygotowującego. Daty zamienia się na odstępy w dniach, małe grupy sprawdza przed wydaniem, a wolnego tekstu nie wydaje bez przejrzenia. Przy obrazach z archiwum ktoś przegląda próbkę z każdego typu aparatu, bo nazwisko bywa wpisane w sam obraz, nie tylko w nagłówek pliku.

Zbiór zostaje w szpitalu: badacz dostaje imienne konto na osobnym serwerze analitycznym (nie testowym z kopią produkcji), logowanie z MFA i dziennik dostępu, a wychodzą tylko wyniki zbiorcze. Po terminie zbiór jest usuwany, a usunięcie trafia do rejestru wniosków, bo administrator musi umieć wykazać przestrzeganie zasad (art. 5 ust. 2 RODO). Ta droga kosztuje godziny osoby przygotowującej zbiory i utrzymanie serwera; jeśli robi to ktoś po godzinach, po roku badacze wracają do znajomego informatyka. Zbiór wydany do publikacji nie jest zgodą na uczenie na nim modelu firmy współpracującej z kliniką; to osobna decyzja z rozdziału o uczeniu modelu.

Co zmieni EHDS

Rozporządzenie (UE) 2025/327 o europejskiej przestrzeni danych dotyczących zdrowia stosuje się od 26 marca 2027, a jego rozdział IV o wtórnym wykorzystywaniu danych, w tym do badań, co do zasady od 26 marca 2029 (art. 105 akapit piąty); dalsze komponenty wchodzą w 2029 i 2031. Badacz wystąpi wtedy do organu do spraw dostępu do danych dotyczących zdrowia (art. 67 ust. 1), który przy danych spseudonimizowanych oceni, czy celu nie da się osiągnąć na zanonimizowanych (art. 68 ust. 1 lit. c). Szpital z rejestrem wniosków i procedurą pseudonimizacji będzie miał gotowe odpowiedzi. Co EHDS znaczy dla umowy na system, opisuje rozdział EHDS od 26 marca 2027.

Co to znaczy na waszej skali

Art. 4 i 50 AI Act, umowa powierzenia, informacja dla pacjenta, rejestr czynności i zgłoszenie incydentu wyrobu nie mają progu wielkości. Od skali zależy liczba narzędzi i osób do przeszkolenia oraz to, czy ocena skutków jest obowiązkiem, czy udokumentowaną decyzją. Jak rosną warstwy IT od gabinetu do sieci szpitali, opisuje filar Kwestia skali.

Gabinet lekarski

Spiszcie na jednej stronie dwa albo trzy narzędzia: aplikację do notatek, czat, funkcję AI w programie gabinetowym, z dostawcą, umową i pisemną odpowiedzią, czy to wyrób medyczny. Przy czacie decyzja jest jedna: narzędzie z umową i kontem gabinetu albo żadnych danych pacjentów w narzędziach publicznych. O ocenie skutków decydujecie sami, na piśmie; przy nagrywaniu wizyt krótka ocena jest bezpieczniejsza. Przed pierwszym pacjentem nagrajcie kilka odegranych wizyt i sprawdźcie nazwy leków i zaprzeczenia, a osobie w rejestracji pokażcie zasady korzystania z AI i zapiszcie datę. Nie potrzebujecie logów sieci ani kwartalnej kontroli, a ustawa o KSC co do zasady gabinetu nie obejmuje. Resztę obowiązków z RODO opisuje rozdział Kto jest administratorem.

Przychodnia

Tu AI najczęściej dotyka pacjenta bezpośrednio. Spiszcie kanały, w których pacjent trafia na automat albo czat, i odsłuchujcie pierwsze zdanie po każdej aktualizacji. Ocena skutków przed pilotażem jest co do zasady potrzebna, jedna dla wszystkich poradni. Macie jedną instrukcję weryfikacji notatek, imienne konta, osobę do kwartalnej kontroli i pomiar czasu dokumentacji przed startem, a w umowie z firmą od strony dostęp administracyjny do czatu albo jej obowiązek wyłączenia go na wasze wezwanie. Bez inspektora ochrony danych decyzje przypisane mu w tym poradniku podejmuje kierownik jako administrator. Mały przedsiębiorca i podmiot leczniczy niebędący przedsiębiorcą, który zatrudnia mniej niż 50 osób, co do zasady pozostają poza ustawą o KSC (art. 5 ust. 1 pkt 1, ust. 2 pkt 1 i ust. 8); próg dla waszej formy prawnej sprawdzicie w rozdziale Czy ustawa was obejmuje.

Sieć przychodni

Jeden spis, jedne zasady, jedna umowa i jedno szkolenie dla wszystkich lokalizacji, a nowe narzędzie włącza zarząd. Korespondencję urzędową i pomyłki z czatem przyjmuje jedna osoba, bo 7 dni do kontroli i 72 godziny na zgłoszenie nie czekają na kilka biur. Kontrolę notatek robicie w każdej lokalizacji, a porównanie odsetka notatek zatwierdzanych bez zmian pokaże zarządowi, gdzie lekarze podpisują bez czytania. Jeden automat ma sens dopiero przy jednej bazie i jednym terminarzu, o czym jest rozdział Jedna baza pacjentów w sieci przychodni. Pilotaż uruchamiacie w jednej lokalizacji, a podobną bez narzędzia traktujecie jako punkt odniesienia.

Szpital

Kolejność: test odtworzenia kopii i spis połączeń, potem spis narzędzi AI w spisie systemów, dopiero wtedy pilotaż na jednym oddziale z kartą, pomiarem i oceną skutków, prowadzony przez ordynatora, pełnomocnika do spraw jakości, kierownika IT i inspektora ochrony danych. Moduł, który podpowiada coś o stanie pacjenta, ma w spisie kwalifikację, klasę, wersję, progi i osobę nadzorującą. Segregację na SOR i narzędzia kadrowe z załącznika III przygotowujecie na 2 grudnia 2027. Szkolenie z AI jest częścią przyjęcia do pracy, także rezydentów, lekarzy na kontraktach i studentów. Własny serwer z modelem w szpitalu powiatowym zwykle nie jest pierwszym krokiem.

Szpital specjalistyczny

Moduły AI czytają tu dane z aparatów i archiwum obrazowego, więc spis mówi, z których urządzeń; separację takiego sprzętu opisuje rozdział Urządzenia medyczne, których nie wolno aktualizować. Zespół bezpieczeństwa wpisuje AI w istniejący nadzór: monitorowanie ruchu do usług AI, blokadę wysyłania plików do usług spoza spisu, środowisko testowe. Model we własnej serwerowni ma sens przy pełnej dokumentacji, po porównaniu obu wariantów na tym samym zestawie przypadków. Własne narzędzia zespołu szpitala z celem medycznym wymagają przed użyciem przy pacjentach sprawdzenia warunków art. 5 ust. 5 MDR. Szpital kliniczny buduje całą drogę danych do badań i ustala z uczelnią, kto odpowiada za zbiór po wydaniu.

Sieć szpitali

Administratorem jest podmiot prowadzący szpital: w spółce z kilkoma szpitalami ta spółka, w grupie odrębnych spółek każda z nich. Grupa raz ocenia narzędzie, raz negocjuje wzór umowy powierzenia i prowadzi jeden spis modułów, ale każda spółka podpisuje umowę u siebie, zatwierdza zastosowanie modułu na swoich oddziałach i zgłasza incydenty wyrobów. Upoważnienie do kontroli wskazuje kontrolowanego nazwą, siedzibą i numerem REGON, KRS albo NIP (art. 51 ust. 2 pkt 6 ustawy o systemach sztucznej inteligencji), więc szpital będący osobną spółką ma swoje dokumenty pod ręką w 7 dni. Wniosek o opinię indywidualną dotyczy jednego zagadnienia, a kolejny ten sam podmiot złoży po 30 dniach (art. 9 ust. 3 pkt 1 i ust. 5), więc kolejność pytań ustalacie w grupie. Spółka utrzymująca wspólny model dla pozostałych potrzebuje z nimi umowy powierzenia, a zestaw przypadków do testu jakości zawiera dokumenty z każdego szpitala. Podział zadań opisuje rozdział Wspólny zespół bezpieczeństwa.

Typowe błędy

• AI przed kopią i integracjami: pilotaż na danych, których nikt nie sprawdził, i zakup bez ustalenia, kto połączy narzędzie z systemem i utrzyma to połączenie.
• Zakaz czatu bez narzędzia zastępczego, który przenosi wklejanie wypisów na prywatne telefony.
• Pilotaż bez pomiaru wyjściowego, z progiem sukcesu ustalonym po fakcie i ankietą zamiast próbki dokumentów.
• Podpis bez czytania: zatwierdzanie notatek z całego dnia jednym przyciskiem, wspólne konto, poprawka po podpisie zrobiona w bazie.
• Automat bez informacji dla pacjenta: ludzkie imię, informacja o AI w regulaminie, powitanie zmienione aktualizacją i przez nikogo nieodsłuchane.
• Zmiana przeznaczenia modułu własnymi progami alarmów albo regułą działu IT, bez decyzji dyrektora medycznego.
• Ocena skutków odłożona, bo narzędzie jest w pilotażu albo przyszło z aktualizacją starego systemu.
• Dane do badań wydane mailem, z PESEL „do łączenia” i bez terminu usunięcia.

Od czego zacząć w tym tygodniu

1. Zapytajcie jednego lekarza, jedną pielęgniarkę i jedną osobę z rejestracji, z jakich narzędzi AI korzystają, bez oceniania; w szpitalu poproście o zestawienie z logów proxy albo DNS z ostatniego miesiąca, bez nazwisk.
2. Załóżcie spis narzędzi AI i wpiszcie do niego wszystko, co znaleźliście.
3. Wyślijcie do dostawców systemów trzy pytania: czy działa funkcja AI, na jakich danych i czy możecie ją wyłączyć.
4. Sprawdźcie, czy każde narzędzie z danymi pacjentów ma umowę powierzenia z odpowiedzią, gdzie leżą dane i czy dostawca uczy na nich modele.
5. Napiszcie jednostronicową instrukcję o czacie z nazwiskiem osoby, której zgłasza się pomyłkę, i wyznaczcie datę szkolenia.
6. Odsłuchajcie pierwsze zdanie automatu i przeczytajcie pierwszą wiadomość czatu na stronie tak, jak zrobi to pacjent.
7. Jeśli planujecie pilotaż, zacznijcie dwutygodniowy pomiar czynności, którą AI ma skrócić, i zapiszcie kartę pilotażu przed rozmową o umowie.

Siedem zasad dla notatki dyktowanej i piętnaście punktów kontrolnych z polem na dowód, od deklaracji producenta do kwartalnej kontroli notatek, zawiera materiał Notatka dyktowana przez AI: zasady i lista kontrolna wdrożenia (PDF). Nie zastępuje opinii inspektora ochrony danych, ale pozwala przyjść na rozmowę z nim z konkretną listą.

Ile czasu chcecie oddać lekarzom dzięki AI i kto w waszej placówce sprawdzi, że notatka mówi to, co padło w gabinecie?