Розвиток і формування політик штучного інтелекту (ШІ) у сфері охорони здоров'я

РЕКОМЕНДАЦІЇ В НАПРЯМУ РОЗВИТКУ ТА ФОРМУВАННЯ ПОЛІТИК ШТУЧНОГО ІНТЕЛЕКТУ (ШІ) У СФЕРІ ОХОРОНИ ЗДОРОВ’Я

ВСТУП Наприкінці 2021 року ГО «Інтерньюз-­Україна» разом з партнерами з УГСПЛ за підтримки МФ «Відродження» розпочали серію ґрунтовних дискусій з фахівціми у сфері охорони здоров’я та експертами з цифрових технологій на тему перспектив застосування технологій штучного інтелекту (ШІ) в сфері охорони здоров’я України. Їх логічним завершенням мали стати напрацьовані рішення та рекомендації з удосконалення державної політики регулювання технологій штучного інтелекту (ШІ) у сфері охорони здоров’я. До перших чотирьох обговорень було залучено більше 40 фахівців з державного, правового, громадського та приватного сектору, серед яких представники Міністерства охорони здоров’я України з питань цифровізації, експертного комітету з питань розвитку сфери штучного інтелекту Міністерства цифрової трансформації України, МІСів, НСЗУ, таких приватних компаній як GlobalLogic, Mawi, Into-sana та ін. Вторгнення російських військ на територію України та початок бойових дій вплинули на всі сфери життя, на політичний, громадський, економічний контекст в Україні. Усі інституції та структури перейшли в режим збереження життя, релокацію в безпечне середовище та переформотування роботи задля підтримання життєдіяльності в умовах війни. Ми не встигли реалізувати задумане до кінця, але готові поділитися проміжними напрацюваннями, які, віримо, неодмінно матимуть місце після перемоги і відновлення України і стануть вектором для розвитку напрямку у порядку денному МОЗ, НСЗУ та Мінцифри. Далі — виклад ключових висновків 4 дискусій, їх відео-­записи та аналіз найкращих світових практик регулювання ШІ, зокрема у сфері медицини.

1

ДИСКУСІЯ 1. Які технології в сфері охорони здоров’я нині використовуються в Україні. Потенційні напрями розвитку та формування політик Відео: https://cutt.ly/TSoSzGO Учасники: Сергій Розумний, комерційний директор LAKMUS; Євгенія Клепа, виконавча директорка 1991 Open Data Incubator; Дарина Даниленко, засновниця, CEO Cures.Tech; Максим Щербатюк, програмний директор УГСПЛ; Тетяна Авдєєва, юристка ЦЕДЕМ. Модератор: Віталій Мороз, консультант з цифрових технологій В Україні є великі IT-ресурси та кваліфіковані IT-фахівці, тож з доступом до технологій у нас немає проблем, як далі використовувати накопичені дані про людей в медицині — це питання, вважають експерти. Робота з великими даними — це тренд, це тренд, що буде посилюватися, вся документація поступово переходить в цифровий формат, більшість клінік використовує МІСи. Задача держави, на думку експертів, мотивувати людей використовувати дані й схвалювати рішення на користь здоров’я. В Україні практично немає законодавства, яке б регулювало новітні технології, тому це простір можливостей для їх розробки. Проте практики скаржаться на брак стандартизації, що позбавляє їх орієнтира, і змушує перейматися за ліцензування обладнання — передбачити, чи схвалять новий продукт не так вже й легко, з огляду на відсутність деталізованої процедури. Системи ШІ – доволі дорогі проєкти, процес досліджень — ще дорожчий. Неуспішних стартапів є більше ніж успішних, але це не

2

означає, що вони зникають безслідно. Навіть невдалі проекти стають хорошим досвідом і створюють підґрунтя для подальших, більш успішних спроб. Серед основних проблем, як завжди, згадують корупцію і консерватизм. Наприклад, небагато закладів підключаються до сучасних систем статистики, як-от Donor.ua, де показують наявність запасів крові в лікарнях — адже в медичних закладах кров є джерелом корупційних коштів. Крім того, рівень комп’ютерної грамотності в медицині є доволі низьким. Більша частина лікарів — старшого віку: їм складно засвоїти технології. Тому експерти підкреслюють необхідність правильної комунікації ідеї, що лікар повинен володіти рівнем комп’ютерної грамотності.

IT-cкладова сучасних медичних систем — це історія наших звернень до лікарів, аби ми не забули про призначення. Експерти відзначають недосконалість комунікації з пацієнтами, брак вчасного інформування про обстеження, здачу крові чи вимірювання тиску — цю інформацію можна об’єднати в МІСах. У лікарнях потрібно не лише здавати звіти НСЗУ, є багато інших процесів, які можна автоматизувати (рецепція, склад, персонал). Все це — перспективи для розвитку МІСів. Зараз йде етап автоматизації «вторинки» — спеціалізованої медичної допомоги. Держава регулює рівень безпеки МІСів, здійснює аудит функціональності та безпеки систем. Вимоги зростають, МІСів буде менше, але вони будуть більш функціональні, більш надійні й стабільні. Система схвалення клінічних рішень стане головною сферою застосування ШІ в медицині. Ключова ідея — аби лікар на основі даних про пацієнта схвалював більш правильні рішення й аби система радила лікарю щодо діагнозу і можливого протоколу лікування. Перший контакт пацієнта з лікарем має відбутися вживу для того аби поспілкуватися. Лікарі самі відмовляються ставити діагнози онлайн. Проте наступні комунікації — можуть бути онлайн. І тут є питання відповідальності — держава має законодавчо урівняти звичайну і онлайн-­консультацію. Онлайн-­консультації повинні бути прирівняні до звичайний візитів — зафіксовані, відмічені в календарі клініки для лікаря, а не просто ввечері відповідати пацієнту у Whatsapp — зараз це в «сірій зоні», і це треба врегулювати.

3

ДИСКУСІЯ 2. Яким буде регулювання ШІ в охороні здоров’я: урядові політики, етичні стандарти та елементи співпраці Відео: https://cutt.ly/uSoSW6x Учасники: Інна Онищенко, заступник начальника відділу взаємодії з зовнішніми системами та реєстрами, НСЗУ; Роман Ланський, радник Міністра охорони здоров’я України з питань цифровізації; Зоряна Скалецька, юристка у галузі медичного права Ario Law Firm, міністерка охорони здоров’я у 2019-2020 рр; Наталія Сіромаха, лідер харківського офісу GlobalLogic, молодший віце-президент з інжинірингу; Віталій Мороз, консультант з цифрових технологій; Максим Щербатюк, програмний директор УГСПЛ. Модератор: Тетяна Авдєєва, юристка ЦЕДЕМ Експерти погодилися із необхідністю законодавчого врегулювання онлайн-­послуг у сфері охорони здоров’я — хоч вони і не мають заміняти прийоми у лікаря «вживу», слід чітко регламентувати набір послуг, які можуть надаватися, до прикладу, за допомогою чат-ботів. Телемедицина не має ставати обов’язковою, але завжди має залишатися опцією на розгляд лікаря. Фундаментальне питання відповідальності за діяльність ШІ виявилося не таким складним — експерти одноголосно підкреслюють, що висока ризиковість сфери охорони здоров’я не дозволяє використовувати системи без людського нагляду, а фінальне рішення завжди має залишатися за лікарем. Як наслідок, ситуацій, коли неможливо визначити відповідального суб’єкта, не виникатиме. Водночас, проблем із помилками на етапі розробки не виникатиме, адже кожен високоризиковий продукт проходитиме сертифікацію.

4

Експерти зазначають, що закладам охорони здоров’я слід усвідомити свободу прийняття рішень у застосуванні технологій і вдало використовувати ці можливості: впроваджувати нові проекти, оптимізувати власну діяльність тощо. Водночас, державі слід бути ініціативною у розробці фундаментальних рішень (як-от, регулювання онлайн-­послуг), бо підхід індустрії переважно фрагментарний — розробники шукають рішення для конкретних проблем. На думку індустрії, від України потрібна не стільки підтримка ініціатив, скільки можливість розробляти проекти без втручання і надмірного регулювання, уникаючи бюрократизації процесів. Наразі тут досить комфортна атмосфера для втілення ідей, проте для України імплементація — дуже дорогий процес. І тому переважно український бізнес іде закордон. Щоб змінити ситуацію, варто переглянути систему закупівель, створити кращі умови для приватних клінік, які є першими у застосуванні інновацій. Регулювання продукту, який не має чітких ознак фактично неможливе, тому базові стандарти мають існувати у формі червоних ліній (принципів). Тут представники державного сектору наголосили, що найчастіше чиновникам потрібні готові рішення з обґрунтуванням доцільності та своєчасності ідеї, адже держслужбовці не є технічними експертами, а тому ініціативи «зверху» впираються в незнання потреб ринку, контексту на місцях. Зрештою, експерти зійшлися на тому, що сервіси мають бути орієнтовані на кінцевих користувачів — пацієнтів, лікарів, заклади охорони здоров’я. І це стосується як розробок з боку індустрії, так і державних ініціатив з оптимізації тих чи інших процесів. Хоч не завжди виходить спершу розробити концепцію, а потім регулювання й технічні розробки — такий підхід має залишатися пріоритетним.

5

ДИСКУСІЯ 3. Передача медичних даних від держави та пацієнтів до бізнесу й навпаки: правила, ризики і можливості Відео: https://cutt.ly/oSoSOiY Учасники: Роман Ланський, радник Міністра охорони здоров’я України з питань цифровізації Інна Онищенко, спеціалістка Національної служби здоров’я України Андрій Головань, IT4Medicine, МІС Дмитро Нікандров, член експертного комітету з питань розвитку сфери штучного інтелекту Мінцифри, співзасновник Асоціації розвитку ШІ в Україні Дмитро Луфер, операційний директор Into-sana Тетяна Авдєєва, юристка ЦЕДЕМ Віталій Мороз, консультант з цифрових технологій Модератор: Максим Щербатюк, програмний директор УГСПЛ Одним з основних викликів щодо захисту персональних даних є регулювання відносин між державою і бізнесом — надмірне регулювання не дає індустрії розвиватися, а його відсутність сприяє халатному ставленню до кібербезпеки. Крім того, держава має адекватно розподілити ролі між різними гравцями у медичній сфері — хто збирає дані, хто адмініструє, куди дані передають і що з ними роблять — це все має бути передбачуваним для кінцевого користувача і для того, чиїми даними оперують. Для санкцій щодо порушень має існувати незалежний орган. Водночас, експерти зазначаються, що часто державі не вистачає якісних комунікаційних стратегій щодо інновацій. До прикладу, пояснити пацієнтам, які органи збирають персональні дані на підставі закону, а де обробка даних вимагає згоди особи.

6

Так, на державному рівні слід здійснювати просвітницькі кампанії щодо контролю за власними даними та можливостями щодо управління ними. Експерти також наголошують і на необхідності освіти технічних співробітників державних органів, забезпечення їх належно оплатою та умовами праці. Державні органи, що мають справу з персональними даними мають декларувати захист даних як ціль, а не як побічний ефект своєї діяльності чи новітній тренд. Безпека має стати не додатковим благом, а обов’язковим елементом систем. Слід розробити і нормативні, і технологічні стандарти на рівні розробників та технічної підтримки систем. Так, наприклад, критична інфраструктура має мати шаблон з конкретними стандартами кібербезпеки. Крім того, представники індустрії зазначили, що є необхідність тримати деяку інформацію у форматі відкритих даних. Звісно ж, це мають бути анонімізовані дані зі спеціальними протоколами їх передачі, процедурним регулюванням. Але за їх наявності розробники матимуть змогу проводити дослідження і покращувати технології. Важливим аспектом стала згода особи на обробку даних, а також можливість не надавати згоду, але отримувати доступ до послуг і сервісів у альтернативній формі. Інакше існування презумпції згоди не більше, як фікція. Можливість видаляти дані і керувати кількістю доступних чутливих даних також слід врегулювати законодавчо. Зрештою, експерти наголосили на необхідності постійної комунікації з пацієнтами — лунали ідеї запровадження пацієнтських порталів, де особи можуть ознайомитися з тим, як оперують їхніми даними, хто ними розпоряджається, чи можливо змінити їх кількість чи видалити дані після отримання послуги чи через певний час після її отримання. Також зазначалося, що хоч безпека системи і є додатковим фінансовим навантаженням для розробника, мінімальні гарантії кіберзахисту не мають робити сервіс недоступним для значної частини населення.

7

ДИСКУСІЯ 4. Шлях FDA: як розробити guidelines для медичних пристроїв в Україні Відео: https://cutt.ly/3SoSFJw Учасники: Дмитро Нікандров, член експертного комітету з питань розвитку сфери штучного інтелекту Мінцифри, співзасновник Асоціації розвитку ШІ в Україні Володимир Хільчук, керівник напрямку цифрової медицини, Into-sana Дмитро Самофалов, директор Південного міжрегіонального департаменту НСЗУ Сергій Поднос, програмний директор з розробки медичного програмного забезпечення, GlobalLogiс Рон Фрідман, Mawi Модератор: Максим Щербатюк, програмний директор УГСПЛ Регулювання потрібне для легшого виведення продуктів на ринок — уніфіковані стандарти відкривають можливості для поширення продукту на українському ринку та за його межами. Наразі існує два концептуальних підходи до сертифікації медичних виробів — американський та європейський, і Україні належить обрати, якої філософії притримуватися. Експерти зазначають, що прагнення України стати частиною ЄС логічно підводить до обрання стандартів MDR. В той же час, американський стандарт передбачає ще й досить високий поріг ефективності, що ускладнює проходження сертифікації. Хоч страхові компанії та інші учасники системи охорони здоров’я зацікавлені у гарантіях результативності продукту, конкуренція на українському ринку є значно меншою. Втім, розробники наголошують, що встановлення базового стандарту ефективності в цілому потрібне і він теж має бути чітким — не просто відсоток успішних рішень, а відсоток успішних рішень на конкретному наборі даних в конкретній системі.

8

Крім того, приватний сектор зазначає, що в американській системі (FDA) перевагою є радник від наглядового органу, який допомагає видозмінювати систему, аби вона відповідала стандартам, а не просто є «злим аудитором», що не пропускає продукти на ринок. Експерти підкреслюють необхідність моніторингового органу, де аудит здійснюють компетентні юристи, інженери тощо. Водночас, представники державного сектору наголошують на необхідності інтеграції медичних пристроїв до системи EHealth для оптимізації обміну даними, контролю за якістю та безпекою передачі даних і системою в цілому. Безпека ж взагалі є категорією, яка потребує окремої уваги. Кіберзагрози наразі є досить «дорогим задоволенням» для охочих втручатися у системи, втім досить ефективним з точки зору результату — навіть найменші зміни здатні суттєво вплинути на ефективність алгоритмів. Сертифікація має поєднувати і юридичні, і технічні стандарти. Іншим аспектом дискусії став процес тестування систем. Наприклад, експерти зазначили про необхідність розробки окремого механізму валідації систем машинного навчання — систем, які можуть кардинально змінювати модель роботи в процесі застосування через аналіз великих масивів додаткової інформації. Потрібні окремі набори даних для тестування систем на кожному етапі їх життєвого циклу, а також в цілому — уніфіковані вимоги до тестових систем. Також питанням стало пояснення алгоритмів для користувачів та одержувачів послуг — з огляду на складність систем, експерти наголосили, що пояснити, як працює той чи інший пристрій в деталях не завжди можливо. Тому слід розробити єдиний стандарт прозорості і зрозумілості алгоритму, пояснення факторів ризику для пацієнтів, деталізованості пояснення. Водночас, експерти одноголосно заявляють, що регулювання не має бути надмірним, адже це перекриватиме індустрії повітря і зменшуватиме кількість стартапів на українському ринку. Так, спершу слід розробити рамкове регулювання, а вже потім — технічні вимоги під конкретні вироби. Такий підхід є оптимальним, адже неможливо врегулювати сектор технологій, не маючи чіткого уявлення про природу і функціонал таких пристроїв.

9

РЕКОМЕНДАЦІЇ ДЕРЖАВІ: Державі слід обрати ціннісно близьку регуляторну модель і вдало імплементувати її на національному рівні. Наразі Medical Device Regulation (MDR) є найоптимальнішим варіантом з огляду на євроінтеграційний курс та єдиний європейський ринок. Слід розробити ефективний моніторинговий механізм з наглядовим органом, що слідкуватиме за виконанням стандартів у сфері сертифікації та буде уповноважений здійснювати заходи реагування у разі порушень. Процедура сертифікації має здійснюватися компетентними експертами зі спеціалізацією у ІТ, кібербезпеці, медицині, праві тощо. Вдалою моделлю є прикріплення до заявника на сертифікацію консультанта, який в дорадчій формі сприятиме покращенню продукту (за прикладом FDA моделі). Слід розробити ефективний механізм інтеграції медичних пристроїв у систему EHealth, взаємодії з індустрією щодо обробки і захисту даних. Розробити вимоги до тестування та контролю за системами, здатними до машинного та глибинного навчання на різних етапах їхнього життєвого циклу. Поріг ефективності, після досягнення якого система може допускатися до застосування на ринку. Розробити стандарт прозорості систем ШІ щодо типів програмного забезпечення та алгоритмів, а також деталізованості обгрунтування рішень, які приймає система. Пояснення рішень системи не має бути однаково деталізованим для пацієнта, закладів охорони здоров’я, які застосовують системи ШІ, наглядового органу. Слід стимулювати медичну галузь використовувати системи ШІ та запровадження страхової медицини. З огляду на нерозуміння важливості даних з боку пацієнта, однією з задач держави може бути функція інформувати й мотивувати людей використовувати ці дані й схвалювати рішення, що будуть на користь здоров’я.

10

Впровадження системи схвалення клінічних рішень на основі МН/ШІ є доволі дорогими технологіями, що потребує державної підтримки. Впровадження МІС для первинної та вторинної ланки для комунальних лікарень та поліклінік не супроводжувалося кроками з боку держави щодо підвищення комп’ютерної грамотності, особливо для лікарів старшого віку. Варто активніше просувати програми з цифрової грамотності для лікарів. З медичною реформою почався процес формування ефективних управлінців на рівні лікарень та поліклінік – держава може краще комунікувати необхідність змінюватися й мислити менеджерськи. Онлайн-консультації повинні бути прирівняні до звичайних візитів аби для лікарів була як система відповідальності, так і належна оплата праці. Привести національне законодавство у відповідність до європейських стандартів, зокрема Конвенції 108+ та Загального регламенту про захист даних. Проводити просвітницькі кампанії щодо порядку обміну персональними даними, повноважень суб’єктів щодо обробки та зберігання даних, можливості контролювати обсяг і тип даних, що знаходяться у володінні чи розпорядженні суб’єктів у сфері охорони здоров’я. Підвищувати компетенцію технічних співробітників державних органів, покращувати знання у сучасних протоколах захисту даних, забезпечити їх належною оплатою та умовами праці. Розробити стандарти кібербезпеки щодо критичної інфраструктури як в юридичній, так і в технічній площині. Врегулювати категорію відкритих даних у сфері медицини та вимоги до обробки, зберігання і оприлюднення таких даних (зокрема, анонімізація). Врегулювати надання онлайн послуг та випадки, коли надання онлайн послуг є неможливим (відповідно, неправомірним з боку лікаря чи закладу охорони здоров’я). Відстежувати ініціативи індустрії і реплікувати такі проекти на загальнодержавний рівень. Оновлювати застарілі регуляції та державні стандарти на запит індустрії.

11

Слід оптимізувати систему державних закупівель новітніх технологій з адекватною імплементацією їх на місцевих рівнях та паралельною просвітницькою кампанією для лікарів щодо порядку використання таких технологій. Приділити увагу оцифруванню реєстрів, які слугують базами даних для індустрії в розробці технологій.

РОЗРОБНИКАМ ПРОГРАМНОГО ЗАБЕЗПЕЧЕННЯ: Створити механізми відповідальності за порушення порядку обробки і передачі персональних даних на рівні компаній. Розробити портали для скарг та систему своєчасного і ефективного реагування на такі скарги. Пріоритезувати безпековий компонент, дотримуватися мінімального стандарту щодо захисту персональних даних, а також принципу прозорості щодо кількості даних, які є об’єктом обробки та строку обробки. Зважати на низький рівень технічної грамотності лікарів, робити сервіси зі зручним та зрозумілим інтерфейсом, готувати пояснювальні записки для закладів охорони здоров’я та майбутніх пацієнтів щодо особливостей роботи системи.

ЗАКЛАДИ ОХОРОНИ ЗДОРОВ’Я ТА МІСИ: Небажання лікарень підключатися до сучасних систем, які пропонують активісти (як-то звітування про наявність запасів крові від Donor.ua) пов’язано з корупційною складовою. Технологічні рішення, автоматизація, доступ до даних зменшують ризики корупції. Слід покращувати, а де вони відсутні - створювати - пацієнтські портали, де користувачі зможуть ознайомлюватися з набором даних, які обробляє МІС чи заклад охорони здоров’я, видаляти непотрібні дані з системи або видаляти профайл у разі припинення користування сервісом. Заклади мають чітко повідомляти про умови комунікації з лікарем - можливості та час вирішення питань онлайн. Водночас, остаточне рішення про надання допомоги онлайн має залишатися за лікарем і не може здійснюватися на вимогу пацієнта.

12

Наприклад, чат-боти мусять мати чіткий алгоритм, мають бути чіткі набори послуг, які можна надавати дистанційно, а інші послуги - винятково оффлайн. Критичні рішення мають прийматися винятково лікарем. Лікар має нести за них відповідальність, переглядати пропозиції від системи ШІ, але самостійно приймати рішення. В межах повноважень співпрацювати з компаніями-розробниками, імплементувати технології залежно від сфер і потреб, відправляти лікарів на донавчання у разі потреби.

СПІВПРАЦЯ ТА СПІВРЕГУЛЮВАННЯ: Необхідна взаємодія між державою та приватним сектором (страхові компанії, фармринок, МІСи, клініки) аби визначити правила використання медичних даних. Для стейхолдерів необхідно знати для чого збираються медичні дані, що за різновид цих даних якого типу ці дані. Індустрія має проактивно пропонувати стандарти та рамки у регулюванні, держава має бути відкритою до пропозицій оптимізації роботи як на загальнодержавному, так і на місцевих рівнях.

ДОДАТКОВО Аналіз міжнародних практик застосування ШІ в сфері громадського здоров’я посилання на PDF Огляд застосування ШІ в медичній сфері України (національні практики) посилання на PDF

Упорядники – Тетяна Авдєєва, Віталій Мороз, Максим Щербатюк. Підготовлено ГО «Інтерньюз-Україна» у партнерстві з Українською Гельсінською спілкою прав людини (УГСПЛ) в межах проєкту «Формування державної політики щодо використання та сталого розвитку технологій ШІ у сфері охорони здоров’я» за підтримки Міжнародного Фонду «Відродження».

13