Zarządzanie danymi neurologicznymi
Praca w branży technologicznej ma jedną zabawną cechę uboczną: od czasu do czasu przypominają mi się filmy z dzieciństwa, takie jak „Johnny Mnemonic” czy „Człowiek z kosiarką”, i myślę sobie… że niepokojąco zbliżamy się do niektórych z tych pomysłów.
Foto: rawpixel.com na Magnific
Nowy raport OECD – OCDE pt. „Zarządzanie danymi neurologicznymi: wnioski od innowatorów dla polityki publicznej” stanowi właśnie tego rodzaju lekturę.
Neurotechnologia wkracza do środowisk medycznych, badawczych, zawodowych, związanych ze zdrowiem oraz konsumenckich. OECD przeanalizowała, w jaki sposób dane neurologiczne są gromadzone, przetwarzane, przekazywane, interpretowane i przechowywane w coraz bardziej złożonych ekosystemach.
Ekosystem ten może obejmować:
sygnały neuronowe z urządzeń wszczepionych lub noszonych na ciele,
informacje fizjologiczne i biometryczne,
dane behawioralne i kontekstowe,
wnioski generowane przez sztuczną inteligencję dotyczące stanów poznawczych lub emocjonalnych,
metadane dotyczące urządzeń i systemów medycznych.
Sztuczna inteligencja sprawia, że kwestia ta staje się jeszcze bardziej interesująca. Surowe dane neuronowe można przekształcić w coraz bardziej wartościowe informacje wywnioskowane, które potencjalnie mogą stanowić podstawę do wyciągania wniosków dotyczących emocji, intencji, wzorców poznawczych czy zachowań. Dane neuronowe mogą być również ponownie wykorzystywane do szkolenia algorytmów, rozwoju produktów, profilowania lub analiz.
Mamy do czynienia z kilkoma warstwami ryzyka jednocześnie:
prywatność i wrażliwe dane osobowe,
szkolenie sztucznej inteligencji i wtórne wykorzystanie danych,
ryzyko ponownej identyfikacji i wyciągania wniosków,
przewidywanie zachowań i dyskryminacja,
cyberbezpieczeństwo oraz integralność urządzeń i danych,
a w szerszym kontekście neurotechnologii – potencjalnie bezpieczeństwo i autonomia człowieka.
Sam dokument OECD skupia się przede wszystkim na prywatności i zarządzaniu danymi, a nie na pełnym wymiarze etycznym i bezpieczeństwa neuromodulacji. Jednak nawet w tym węższym zakresie obraz regulacyjny jest już imponujący.
W Europie, w zależności od produktu i przypadku użycia, może zaistnieć konieczność uwzględnienia RODO, ustawy o sztucznej inteligencji, rozporządzenia MDR, dyrektywy NIS2, wymogów dotyczących ochrony konsumentów, zasad cyberbezpieczeństwa oraz etyki badań naukowych. Inne jurysdykcje nakładają zupełnie inne warstwy regulacji. Cudowna prostota zgodności z przepisami.
OECD wyraźnie opowiada się za zarządzaniem opartym na kontekście i ryzyku, ponieważ wrażliwość danych zmienia się w zależności od ich rodzaju, poziomu przetwarzania, możliwości identyfikacji, celu i zastosowania.
To właśnie ten rodzaj tematu lubię najbardziej. Nie jest to prosty, liniowy problem z jedną przyczyną i jednym skutkiem, ale sieć powiązanych ze sobą organizacji, technologii, ludzi, przepływów danych, regulacji i mechanizmów kontroli. To coś, czego nauczyło mnie lotnictwo wiele lat temu: poważne incydenty rzadko wynikają z jednej spektakularnej awarii. Zazwyczaj zbiegają się wiele mniejszych czynników. Neurotechnologia może stać się doskonałym przykładem tego, dlaczego myślenie systemowe będzie miało coraz większe znaczenie w zarządzaniu ryzykiem, prywatnością, cyberbezpieczeństwem i sztuczną inteligencją.
Autor: Sebastian Burgemejster
Komentarze