ROZMOWY

Plastikowy dotyk

Rozwój nowych technologii w służbie zdrowia budzi wiele pytań etycznych. Czy roboty mogą zastąpić „ludzki dotyk” prawdziwych lekarzy? Czy będziemy w stanie wybaczać maszynom, które popełnią błąd medyczny? Czy chatbot może zaoferować empatyczną opiekę i pomoc? Wywiad z Joanną Bryson, profesorem etyki i technologii w Hertie School, uczelnią powiązaną z wydziałem informatyki na Uniwersytecie w Bath.

Wiele osób obawia się, że sztuczna inteligencja (AI) zastąpi lekarzy. Czy uważa Pani, że w przyszłości będzie możliwe zbudowanie systemu opartego na AI, który byłby w stanie autonomicznie podejmować decyzje podobnie jak dziś robią to lekarze?

Wiemy już, że możemy wykorzystać sztuczną inteligencję do lepszego podejmowania decyzji w bardzo konkretnych obszarach. Przykładowo – udoskonalić pamięć lub łączyć ze sobą informacje z wielu źródeł lepiej niż potrafi to ludzki umysł. Nie ma wątpliwości, że w przypadku konkretnych decyzji można zbudować systemy mogące znaleźć adekwatne informacje i zasugerować odpowiednie kroki. Ale bycie lekarzem to coś więcej niż podejmowanie decyzji. Część specjalistów jest odpowiedzialna za łączenie informacji, z których następnie korzysta się podczas diagnozowania pacjentów. Można w tym miejscu przywołać słowa Geoffrey’a Hinton’a, który powiedział, że nie potrzebujemy więcej radiologów, ponieważ uczenie maszynowe jest dokładniejsze niż ludzie w wykrywaniu detali w pikselach zdjęć rentgenowskich. Kilka miesięcy temu zostałam zaproszona na coroczne spotkanie norweskich radiologów i najwyraźniej tak naprawdę jest odwrotnie. W rzeczywistości zatrudnia się więcej radiologów, ponieważ każdy radiolog jest cennym zasobem. Obecnie mają jeszcze większą wartość, ponieważ AI czyni ich lepszymi w swojej pracy. Błędem jest myślenie, że ponieważ AI pomaga ci w podejmowaniu decyzji, to AI podejmuje decyzję. Opieka zdrowotna wychodzi poza znajomość odpowiedzi na pytania. Zadaniem lekarza jest chociażby przekonywanie innych ludzi do działania. Lekarz

ponosi odpowiedzialność za to, co robi. I ostatecznie – tyko ludzie mogą być odpowiedzialni za swoje działania. Szczególnie teraz można sobie wyobrazić systemy do diagnozy, dzięki którym pacjenci mogą sprawdzać swoje objawy przez Internet, bezpiecznie pozostając w domu. Taka diagnoza jest możliwa, ale nie tak zorganizowany system opieki zdrowotnej. Ważnym elementem zawodu lekarza jest interakcja fizyczna, zarówno na etapie badania jak i procesu leczenia.

Czy możemy nauczyć AI empatii? Czy sztuczna inteligencja emocjonalna może być substytutem ludzkiej inteligencji emocjonalnej?

Maszyna nigdy nie wykształci w sobie empatii w oparciu o swoje doświadczenie. Ludzie mają problemy z generowaniem empatii nawet wobec innych ludzi. A maszyny są bardzo różne, więc nie ma podobieństwa w zakresie doświadczeń lub jest ono bardzo ograniczone. Jednak dzięki zastosowaniu AI obserwujemy wykorzystanie maszyn do przechowywania, projekcji doświadczeń innych ludzi, a następnie wykorzystywania ich w konkretnych sytuacjach. Na przykład, jeśli kupujesz książkę lub film, system sprawdza inne osoby, które mają takie same preferencje, a następnie sugeruje, że skoro podobała im się ta lub inna książka, więc również i ty powinieneś ją kupić. Można to nazwać empatią. W analogii do maszyn-lekarzy można by zastosować podobny mechanizm. Robot mógłby pomyśleć: „miałem innego pacjent, który tak czuł, więc powinienem się zachować zgodnie z tamtą sytuacją”. Z praktycznego punktu widzenia, taki system AI na pewno pomógłby lekarzom w wykonywaniu zawodu, zapewniając dostęp do różnych informacji oraz analogicznych postaw. Wiele organizacji zaczynających wykorzystywać systemy sztucznej inteligencji szybko zdaje sobie sprawę, jak wartościowym zasobem są ich pracownicy. Dlatego bardziej zależy im na tym, aby ich utrzymać, pozwolić im się rozwijać, zamiast myśleć o tym, jak ich się pozbyć.

Co sądzi Pani o tak zwanych „syntetycznych emocjach”? Robot z wbudowanym systemem „współczucia” jest współczującym robotem czy tylko zaprogramowaną maszyną?

Ważne abyśmy zrozumieli, że każda rzecz będąca sztuczną inteligencją jest artefaktem, który ktoś zbudował. Można powiedzieć: „OK, ale AI sama się nauczyła”. Nie, sztuczna inteligencja sama się nie uczy. Ktoś zaprojektował ją do nauki. Każdy istniejący system AI nie tylko jest tworzony przez ludzi, aby się uczyć, ale też trenowany i rozwijany. Dostarcza się mu i dopasowuje dane, reguluje parametry. I tak aż do momentu, kiedy powstaje system AI. Jest to więc bardzo ludzki proces, rozwijający coś, co jest zaprogramowane, a nie stworzone z samego siebie. Kiedy ten system, który został opracowany, okazuje współczucie, musimy wrócić do pytania o odpowiedzialność. Powiedziałabym, że współczucie robota jest współczuciem – lub jego brakiem – programisty lub jednego z pracowników służby zdrowia, który go używa, lub organizacji, wyrażanym poprzez rozwiniętą sztuczną inteligencję. To współczucie lub jego brak można przekazać za pomocą maszyny. Maszyna nie jest współczującym bytem, ale jedynie odtwarza określony, zaplanowany stan. Zwykle posługuję się tutaj przykładem moralności, co jest dobrą analo

gią do współczucia. Na przykład, kiedy decydujesz się działać w moralny sposób, niekoniecznie czyni cię to moralną osobą. Może dane działanie było częścią twojej pracy, powiedziano ci, że coś masz zrobić w pewien określony sposób. Jeśli zaprogramujesz robota, aby robił coś współczującego lub moralnego, możesz oczywiście powiedzieć, że robot jest moralny. Jeśli zdecydujemy się na taką kategoryzację, skończymy w bardzo niespójnym systemie sprawiedliwości, który ludzie mogą błędnie interpretować. Nie ma sensu myślenie: „Ten robot naprawdę troszczy się o mnie.” O wiele słuszniejsze jest stwierdzenie: „Moja mama naprawdę troszczyła się o mnie, kiedy kupiła mi robota”, lub „System opieki zdrowotnej dobrze wykorzystuje roboty”, a nie: „Ten system jest dobry dzięki robotom.”

Jak ocenić sytuację, gdy pacjent bardziej ufa oprogramowaniu niż lekarzowi, ponieważ może lepiej rozpoznać jego potrzeby za pomocą analiz Big Data?

Gdy pacjent przychodzi do lekarza mówiąc, że sprawdził w Google i wydaje mu się, że ma chorobę X, lekarze wezmą to na poważnie, wysłuchają go, porozmawiają z nim. Ale tak naprawdę oni wiedzą lepiej, ponieważ mają wykształcenie medyczne. Istnieją dowody na to, że ludzie czasami przyjmują na ślepo wskazówki od maszyn, ignorując ludzi doświadczonych, uważając, że maszyny są nieomylne. Jeśli ktoś uważa, że ludzie są omylni, powinien zdać sobie sprawę, że zbudowane przez omylnych ludzi maszyny również są omylne. Ludzie wierzą w mit doskonałych maszyn. Dzieje się tak, ponieważ jesteśmy przyzwyczajeni do myślenia o oblicze-

niach jako o matematyce, która jest logicznie spójna i dokładna. Ale obliczenia to nie tylko matematyka.

Już dziś roboty społeczne są stosowane w terapii osób z chorobą Alzheimera lub dzieci z autyzmem. Niektórzy pacjenci są przekonani, że na przykład robotfoka przeznaczony do opieki nad osobami z demencją to prawdziwe zwierzę. Czy w ten sposób oszukujemy pacjentów, czy też cele uświęcają środki – w tym przypadku mam na myśli pacjentów, którzy czują się lepiej, spokojniej?

Czy opowiadanie dzieciom o Świętym Mikołaju jest oszustwem czy może to tylko magiczna opowieść pozwalająca wierzyć w rzeczy dobre? Niektórzy mają potrzebę decydowania, kiedy powinniśmy, a kiedy nie powinniśmy mówić dzieciom różnych rzeczy. Ale rzeczywistość jest taka, że pewnego dnia wszyscy dorastają i dochodzą do własnych wniosków. Nie trzeba wyprzedzać tego etapu. Nie widziałabym też powodu, aby nie dawać morfiny osobom umierającym na raka. Nie widzę uzasadnienia, aby nie mówić prawdy umierającemu pacjentowi, tylko po to, aby nadal był szczęśliwy. Jednak tak de facto to nie jest w mojej kompetencji. Ludzie muszą zawsze decydować indywidualnie. Miałam przyjaciela, który zmarł tydzień po tym, jak jego brak zginął w katastrofie lotniczej. Nigdy nie powiedziano mu o tym, ponieważ znajdował się na oddziale intensywnej terapii. Każda decyzja podejmowa

» Błędem jest myślenie, że ponieważ AI pomaga ci w podejmowaniu decyzji, to AI podejmuje decyzję. «

na jest w zależności od sytuacji i przekonań.

Oczekujemy, że maszyny będą idealne. Czy będziemy w stanie wybaczyć robotom, które popełniają błędy medyczne?

W tym aspekcie również nie chodzi o maszynę czy robota. Chodzi o to, kto tak naprawdę ponosi winę? Trzeba przeanalizować system AI, sprawdzić kto go stworzył, jaka jest przyczyna błędu, czy ryzyko wprowadzenia pewnych mechanizmów było uzasadnione czy nie. Nie można myśleć, że wraz z wynalezieniem robotów, wszystko się zmienia. Podobnie jest z samochodami autonomicznymi. Szacunkowo, dwa miliony osób rocznie ginie w wyniku wypadków samochodowych. Tę liczbę można obniżyć do około dwustu tysięcy wykorzystując pojazdy kierowane przez AI. Ale w tym przypadku będzie to dwieście tysięcy innych osób – innych niż te, które zginęły

by w klasycznych pojazdach. Jak sobie z tym poradzimy? Z prawnego punktu widzenia nie ma to znaczenia. Można to dziś porównać do wprowadzenia nowego znaku drogowego, który pociąga za sobą określone zachowania, czasami powodując wypadki. Musimy pamiętać, że rozwiązania – w tym przypadku prawne – opracowywane są adekwatnie do nowych sytuacji. Zajmują się tym sztaby ludzi i rządy poszczególnych państw.

Jak sztuczna inteligencja zmieni nas, ludzi?

Technologia cyfrowa przekształca nasze społeczeństwa. Zmienia to, co możemy zrobić i czego nie możemy; zmienia to, ile wiemy. Jednak generalnie rzecz biorąc, ludzie, nasze potrzeby i pragnienia nie zmieniają się tak bardzo.

Czy powinniśmy być pesymistami, czy raczej optymistami, jeśli chodzi o rewolucję cyfrową?

Tu nie chodzi o samą technologię. Chodzi o sposób wdrożenia technologii. Musimy być bardziej świadomi kwestii prywatności i dystrybucji środków. W jaki sposób inwestowane są pieniądze? Czy przynosi to korzyści wszystkim? Spodziewam się, że rewolucja cyfrowa poprawi wyniki ochrony zdrowia, ale nie będzie to miało wiele wspólnego z technologiami cyfrowymi, a raczej związane będzie z udoskonaleniem polityki zdrowotnej, sposobów świadczenia opieki, dostępu do niej. 

r e k l a m a

Włącz OSOZ NEWS i bądź na bieżąco

OSOZ News to nowy serwis informacyjny dedykowany dla wszystkich osób zainteresowanych tematyką rynku ochrony zdrowia w Polsce i na świecie. Nasza Redakcja codziennie przygotowuje przegląd najaktualniejszych i najważniejszych wydarzeń, które prezentujemy w atrakcyjnej formie serwisu newsowego. Każde wydanie serwisu publikowane jest tylko jeden dzień, dlatego aby być na bieżąco oglądaj OSOZ NEWS codziennie.

news.osoz.pl