Dane dotyczące zdrowia psychicznego + sztuczna inteligencja
Niedawno przeczytałem interesujący artykuł na temat informatyki w zakresie zdrowia behawioralnego, prywatności i sztucznej inteligencji, który utwierdził mnie w przekonaniu o czymś, co staje się coraz ważniejsze: wdrażanie sztucznej inteligencji w opiece zdrowotnej nabiera tempa, ale dojrzałość w zakresie ochrony prywatności i zarządzania nie zawsze rozwija się w tym samym tempie.
Dane behawioralne i psychologiczne zasługują na szczególną uwagę, ponieważ często ujawniają jedne z najbardziej wrażliwych informacji o danej osobie: problemy ze zdrowiem psychicznym, treści sesji psychoterapeutycznych, myśli samobójcze, psychozy, leczenie uzależnień, kontekst rodzinny oraz głęboko osobiste historie.
Foto: magnific
W artykule podkreślono, że branża zdrowia behawioralnego od wielu lat zmaga się z trudnymi kwestiami dotyczącymi prywatności, zgody, zaufania i dokumentacji o charakterze wrażliwym – na długo przed dzisiejszym boomem na sztuczną inteligencję.
Jednym z przykładów jest segmentacja dokumentacji. Organizacje mogą stosować różne poziomy ograniczonego dostępu, określane jako „za murem” i „za szybą”.
W tym przypadku prawdziwym pytaniem jest to, czy całe środowisko przetwarzania danych jest zaprojektowane i zarządzane w sposób odzwierciedlający wrażliwy charakter danych dotyczących zdrowia psychicznego. Gdy sztuczna inteligencja rejestruje sesję psychoterapeutyczną, klinicysta korzysta z chatbota do sporządzania podsumowań notatek lub asystent oparty na sztucznej inteligencji przetwarza dokumentację psychiatryczną, organizacje potrzebują jasno zdefiniowanego modelu zarządzania obejmującego cały cykl życia danych.
W UE takie przetwarzanie danych powinno być oceniane przede wszystkim w świetle RODO, ze szczególnym uwzględnieniem danych dotyczących zdrowia należących do kategorii szczególnych. W zależności od konkretnego przypadku zastosowania sztucznej inteligencji ustawa A może nakładać dodatkowe obowiązki związane z klasyfikacją ryzyka, przejrzystością, zarządzaniem, nadzorem ludzkim i dokumentacją.
W Stanach Zjednoczonych model zgodności z przepisami jest bardziej rozdrobniony. W zależności od organizacji, rodzaju danych i modelu świadczenia usług mogą mieć zastosowanie jednocześnie przepisy HIPAA, wymogi Federalnej Komisji Handlu (FTC), stanowe przepisy dotyczące prywatności, stanowe przepisy dotyczące danych zdrowotnych oraz przepisy dotyczące sztucznej inteligencji. Artykuł podaje bardzo konkretny przykład z Kolorado, gdzie nowa ustawa dotycząca sztucznej inteligencji w psychoterapii wymaga pisemnej świadomej zgody przed rozpoczęciem przez sztuczną inteligencję rejestrowania lub transkrypcji sesji. Ten pozornie prosty wymóg ma znaczące konsekwencje dla przebiegu pracy, zwłaszcza gdy około 80% wizyt odbywa się wirtualnie.
Dlatego na pierwszym miejscu powinny znaleźć się świadomość i edukacja. Coraz więcej lekarzy, psychologów, psychoterapeutów i pracowników służby zdrowia korzysta z narzędzi opartych na sztucznej inteligencji. Nie jestem jednak przekonany, czy wszyscy w pełni rozumieją otaczające ich otoczenie regulacyjne.
Autor: Sebastian Burgemejster
Komentarze