ProMedico Pismo Śląskiej Izby Lekarskiej w Katowicach luty 2025 nr 316

Pro Medico luty 2025 15 Prof. dr hab. n. med. Jacek Gawrychowski No i doczekałem się, szybciej niż przewidywałem. W moim felietonie „Po co pacjentowi lekarz” (Pro Medico lipiec/sierpień 2023), pisząc o rozwoju sztucznej inteligencji (AI) w medycynie i programowaniu komputerów nie tylko przez lekarzy, ale również szerokie rzesze informatyków, fizyków, wreszcie specjalistów innych dziedzin, nigdy niezwiązanych z medycyną, zastanawiałem się, co stanie się, kiedy ta inteligencja popełni błąd. I to bez względu na przyczynę. Jedyną niewiadomą był tylko czas. Przypadek wmedycynie, czyli... co? Przyczynkiem do moich rozważań stała się informacja, w której czytamy: Opero- wali nowoczesnym robotem. Pacjentka zmarła po rutynowym zabiegu, z powo- du uszkodzenia ważnej struktury naczy- niowej w obrębie klatki piersiowej, pod- czas biopsji płuca. Pikanterii zdarzeniu nadaje również odnotowana odpowiedź lekarza: – „Pewnie tak” – na pytanie, czy gdyby operacja przeprowadzona była ręcznie przez chirurga, to chora by żyła. I tutaj rodzi się pytanie o błąd – kogo (człowieka, lekarza), czy czego (sztucznej inteligencji, komputera). Nie mnie tutaj prowadzić dochodzenie, tym bardziej, że komputer (robot) wydaje się z punktu widzenia precyzji i dokładności narzę- dziem doskonalszym od ręki chirurga (pod warunkiem prawidłowego zapro- gramowania przez człowieka). Ale nawet przy założeniu, że komputer popełnia 10x rzadziej błąd, w porów- naniu do człowieka, to jednak ten błąd może się zdarzyć. Powodów bywa wiele, że wymienię tylko niewłaściwe zaprogra- mowanie, brak umiejętności (przeszkole- nie) posługiwania się nim przez człowie- ka, przerwy w zasilaniu, wreszcie z czy- stego przypadku. Czy jest to więc błąd medyczny czy błąd techniczny (usterka)? Spośród wymienionych przeze mnie przyczyn najbardziej intrygującymwyda- je się problem zdarzającego się losowo, wbrew wszelkim przewidywaniom – przypadku. Oczywiście problem ten wiąże się z pew- nym prawdopodobieństwem wystąpie- nia zdarzenia. Tutaj warto powołać się na prawo Bernoulliego wielkich liczb, które mówi, że z prawdopodobieństwem dowolnie bliskim 1 można spodziewać się, iż przy dostatecznej wielkiej liczbie prób częstość danego zdarzenia loso- wego będzie się dowolnie mało różniła od jego prawdopodobieństwa. Wynika więc z tego, że przypadki w życiu nie są czymś wyjątkowym i zdarzają się powszechnie, niemniej jednak mają cha- rakter nieobliczalny, często nieracjonalny. Św. Tomasz z Akwinu twierdził, że między innymi w medycynie... im bardziej nauka zbliża się do rzeczy jednostkowych… tym mniej może ona dawać pewności z powodu wielkiej liczby rzeczy jednost- kowych, które muszą być wzięte pod roz- wagę. Prof. Michał Heller nawiązując do Ary- stotelesa, uznaje konieczność (Ananke) jako wynik działania jakiegoś prawa przyrody, poddającego się precyzyjnym regułom matematyki i fizyki. Przypadek zaś, w dużym uproszczeniu, przynajmniej z założenia nie podlega tym prawom. Czy więc zdarzenie, wydające się być bardzo mało prawdopodobnym można przypi- sać wyłącznie przypadkowi? Jak wynika z informacji na temat opisywa- nego zdarzenia, doszło do niego drugiego dnia pracy robota w oddziale. Czy w takim razie należy traktować je jako wyjątko- we? I czy jednak, dokonując metaanalizy obejmującej dużą liczbę przeprowadzo- nych tego typu zabiegów i towarzyszą- cych im powikłań nie będzie można dojść do wniosku, że wcale nie mają one charak- teru incydentalnego. I to właśnie stwarza potrzebę dokładnego poszukiwania przy- czyn tego, wydaje się, mało prawdopo- dobnego powikłania. Wtymmiejscu trzeba zadać pytanie o racjo- nalność przypadku (w medycynie czytaj: powikłania). Bo przecież przypadki, jak wia- domo, mogą się przytrafić w sposób abso- lutnie nieprzewidywalny – z konieczności. Zaś trudność ich przewidywania polega na umiejętności obserwacji i wyborze spo- śród gąszczu nieistotnych, pozbawionych jakichkolwiek matematycznych uwarunko- wań czynników tego co ważne. Więc jak nie przypadek, to co? Operowali nowoczesnym robotem. Pacjentka zmarła po rutynowym zabiegu z powodu uszkodzenia ważnej struktury naczyniowej w obrębie klatki piersiowej, podczas biopsji płuca. Pikanterii zdarzeniu nadaje również odpowiedź lekarza na pytanie, czy gdyby operacja przeprowadzona była ręcznie przez chirurga, to chora by żyła. „Pewnie tak” – odpowiedział.