Sztuczna inteligencja w opiece zdrowotnej potrzebuje czegoś więcej niż tylko etyki - potrzebuje pełnych ram operacyjnych

National Academy of Medicine opublikowała potężny i aktualny kodeks postępowania w zakresie sztucznej inteligencji dla zdrowia i medycyny, kompleksowe ramy zaprojektowane w celu kierowania etycznym i bezpiecznym rozwojem, wdrażaniem i nadzorem nad sztuczną inteligencją, w jednym z najbardziej wrażliwych i wpływających na życie sektorów - opieki zdrowotnej.

Sztuczna inteligencja niesie ze sobą ogromną obietnicę poprawy diagnostyki, opieki nad pacjentem, wydajności systemu i zdrowia populacji - ale bez świadomego zarządzania może równie łatwo zaszkodzić najbardziej narażonym. Kodeks postępowania oferuje sześć kluczowych zobowiązań i dziesięć szczegółowych zasad, które stawiają czoła wyzwaniom:

🔹 Rozwój ludzkości

🔹 Zapewnienie równości

🔹 Zaangażowanie osób dotkniętych

🔹 Poprawa dobrostanu pracowników

🔹 Monitorowanie wydajności

🔹 Innowacje i nauka

Każda zasada jest zgodna z krytycznymi obszarami, takimi jak prywatność, cyberbezpieczeństwo, ograniczanie uprzedzeń, integralność danych i odpowiedzialność, zapewniając, że zarówno twórcy sztucznej inteligencji, jak i świadczeniodawcy opieki zdrowotnej wdrażają technologię z wartościami skoncentrowanymi na człowieku.

NAM nie zatrzymuje się na wartościach wysokiego poziomu - mapuje kodeks do rzeczywistych ról w ekosystemie sztucznej inteligencji:

🔹 Deweloperzy muszą zapewnić jakość danych i przejrzystość algorytmów

🔹Dostawcy opieki zdrowotnej muszą bezpiecznie dostosować sztuczną inteligencję do przepływów pracy

🔹 Pacjenci i rzecznicy muszą być zaangażowani w decyzje wpływające na ich opiekę

🔹 Agencje federalne są wzywane do tworzenia silnych programów oceny i certyfikacji.

Co najważniejsze, ramy dobrze integrują się z istniejącymi globalnymi inicjatywami, w tym ustawą o sztucznej inteligencji, zasadami OECD i wytycznymi WHO dotyczącymi sztucznej inteligencji, oferując prawdziwie interoperacyjny model globalnego zarządzania innowacjami w opiece zdrowotnej.

Niezwykle ważne jest, abyśmy wdrożyli takie solidne ramy, zwłaszcza w opiece zdrowotnej - gdzie decyzje dotyczące sztucznej inteligencji mogą bezpośrednio wpływać na bezpieczeństwo i życie milionów ludzi. Chociaż przepisy takie jak ustawa o sztucznej inteligencji stanowią podstawę, same w sobie nie wystarczą.

Imponujące w Kodeksie NAM jest to, że obejmuje on nie tylko cyberbezpieczeństwo i prywatność - dotyczy on również sposobu działania modeli, tego, czy dane są odpowiednie, w jaki sposób uzyskiwane są wyniki i jak zapobiegać stronniczym lub nieprawidłowym wynikom. Są to rzeczywiste, praktyczne kwestie, z którymi spotykam się na co dzień. W opiece zdrowotnej stawka jest zbyt wysoka, by ją zlekceważyć. Organizacje muszą zapewnić integralność danych, walidację operacyjną i etyczne zastosowanie sztucznej inteligencji - nie tylko w celu zapewnienia zgodności z przepisami, ale także w celu ochrony życia i zapewnienia godnej zaufania opieki.

Przeczytaj cały raport: Link

Autor: Sebastian Burgemejster