W przemówieniu w Davos unijna szefowa ds. zdrowia Stella Kyriakides ostrzegła przed koniecznością opracowania zabezpieczeń dla narzędzi opartych na sztucznej inteligencji stosowanych w sektorze zdrowia, w tym zapewnienia ludzkiego nadzoru nad procesami.
Od uczenia maszynowego ułatwiającego diagnozowanie po odkrycie innowacyjnych leków, sztuczna inteligencja (AI) może w najbliższej przyszłości zakłócić funkcjonowanie sektora opieki zdrowotnej.
UE zaczęła zastanawiać się nad zastosowaniem tego typu najnowocześniejszych rozwiązań w sektorze zdrowia, rozważając zarówno pozytywne, jak i bardziej kontrowersyjne zmiany w zakresie sztucznej inteligencji.
„Wierzę, że możemy wykorzystać cały potencjał, jaki oferuje nam sztuczna inteligencja, i mieć gotowe zabezpieczenia” – powiedziała komisarz UE ds. zdrowia Stella Kyriakides panelowi podczas szczytu w Davos zorganizowanego w ramach Światowego Forum Ekonomicznego w 2024 r. (17 stycznia).
Zdaniem komisarza próbę bloku uregulowania tej powstającej technologii za pomocą pionierskiej ustawy o sztucznej inteligencji należy postrzegać w kontekście ustanowienia pewnych zabezpieczeń.
Innymi kluczowymi ramami regulacyjnymi zaprojektowanymi w celu ukierunkowania rewolucji sztucznej inteligencji jest europejska przestrzeń danych dotyczących zdrowia (EHDS), zaprezentowana przez władzę wykonawczą UE w 2022 r. i obecnie omawiana przez prawodawców.
„Jest tak wiele danych na temat zdrowia, widzieliśmy to w przypadku Covida. Musimy być w stanie pozyskać te dane, aby można je było wykorzystać do innowacji i badań” – stwierdziła.
Dane i zaufanie
Nowe przepisy umożliwią pacjentom udostępnianie danych zdrowotnych, w tym historii medycznej, wyników badań i recept, szpitalom i lekarzom we wszystkich państwach członkowskich.
Po uruchomieniu unijnej infrastruktury danych dotyczących zdrowia badacze, instytucje i przemysł powinny mieć możliwość wdrożenia sztucznej inteligencji w celu połączenia tych ogromnych pul danych w czasie rzeczywistym.
Pomimo jego oczywistego potencjału Kyriakides ostrzegł, że projekt EHDS może wzbudzić brak zaufania, ponieważ „dane dotyczące zdrowia są bardzo, bardzo wrażliwe” dla obywateli.
„Jeśli ludzie nie ufają systemowi, EHDS nie będzie w stanie przynieść takich rezultatów, jakie chcielibyśmy, aby przyniósł” – powiedziała w Davos.
Aby uniknąć takiego scenariusza, Komisja zaproponowała zabezpieczenia umożliwiające pacjentom „pełną kontrolę nad własnymi danymi dotyczącymi zdrowia i możliwość korzystania ze swoich praw”.
„Pacjenci będą mieli możliwość kontrolowania, jakie dane chcą udostępnić i komu chcą je udostępnić, a także będą mieli wybór, czy z jakiegokolwiek powodu nie chcą udostępniać niektórych swoich danych” – powiedziała.
Dodała, że anonimowość danych dotyczących zdrowia zostanie również zagwarantowana, gdy będą one gromadzone w kontekście badań.
Dotyk człowieka
Na marginesie panelu Kyriakides powiedziała TylkoGliwice, że według niej utrzymanie „kontroli człowieka w procesie” jest kluczowym zabezpieczeniem.
„Wynik procesu diagnozy lub uściślenia leczenia opartego na sztucznej inteligencji musi być możliwy do wyjaśnienia i zrozumiały zarówno dla lekarza, jak i pacjenta” – kontynuowała.
Wykorzystanie radiologii w wykrywaniu nowotworów stanowi dobry przykład takich diagnoz – stwierdziła, cytując Inicjatywę w zakresie obrazowania nowotworów – wspólną infrastrukturę cyfrową łączącą różne bazy danych obrazów nowotworów w całej UE – uruchomioną przez Komisję Europejską na początku 2023 r.
Jednak nawet jeśli systemy sztucznej inteligencji oferują potencjał zaoszczędzenia ogromnej ilości czasu poświęcanego na analizę zdjęć, do oceny i podejmowania decyzji nadal ostatecznie wymagana jest wiedza medyczna.
„(Dzięki tej inicjatywie) możliwe będzie szkolenie nowych technologii wykorzystujących sztuczną inteligencję na dużych zbiorach danych w celu podejmowania bardziej precyzyjnych i szybszych decyzji klinicznych, co może poprawić diagnostykę i spersonalizowaną opiekę” – powiedział Kyriakides.
