Lista komponentów oprogramowania (SBOM) dla sztucznej inteligencji

SBOM stanowi już podstawową dobrą praktykę w dziedzinie tworzenia oprogramowania i cyberbezpieczeństwa. Jeśli tworzymy, obsługujemy, kupujemy lub kontrolujemy oprogramowanie, powinniśmy znać jego składniki, zależności, wersje, licencje, luki w zabezpieczeniach oraz powiązania w łańcuchu dostaw.

Ta sama logika przenosi się obecnie na sztuczną inteligencję, ale w szerszym zakresie.

Wytyczne G7 „Software Bill of Materials for AI — Minimum Elements” wyjaśniają, że przejrzystość w zakresie komponentów i zależności systemów sztucznej inteligencji ma kluczowe znaczenie dla cyberbezpieczeństwa AI, zarządzania lukami w zabezpieczeniach oraz zarządzania ryzykiem.

Foto: freepik

Tradycyjne wykazy komponentów oprogramowania (SBOM) nadal mają zastosowanie w przypadku systemów opartych na sztucznej inteligencji, jednak w tej dziedzinie wymagane są dodatkowe elementy.

W przypadku sztucznej inteligencji musimy wiedzieć:

➡️ jakie modele są wykorzystywane,

➡️ kto je stworzył,

➡️ jakie wersje są wdrożone,

➡️ jakie dane zostały wykorzystane,

➡️ jakie szkolenie lub dostrajanie zostało przeprowadzone,

➡️ w jaki sposób dane przepływają przez system,

➡️ jakie usługi zewnętrzne są podłączone,

➡️ czy przetwarzane są dane wrażliwe,

➡️ jakie środki kontroli bezpieczeństwa istnieją.

Dokument G7 proponuje siedem grup elementów minimalnych:

➡️ Metadane

➡️ Właściwości na poziomie systemu

➡️ Modele

➡️ Właściwości zbiorów danych

➡️ Infrastruktura

➡️ Właściwości bezpieczeństwa

➡️ Kluczowe wskaźniki wydajności

Na poziomie systemowym wykaz komponentów oprogramowania (SBOM) dla sztucznej inteligencji powinien uwzględniać komponenty, producenta, wersję, przepływ danych, wykorzystanie danych, właściwości wejściowe i wyjściowe oraz docelowy obszar zastosowania. Systemy sztucznej inteligencji często nie składają się z jednego modelu, lecz z kombinacji modeli, baz danych, interfejsów API, agentów, narzędzi i usług zewnętrznych.

W przypadku modeli dokument wskazuje na takie elementy, jak nazwa modelu, identyfikator, wersja, producent, opis, skrót, właściwości, właściwości szkoleniowe, licencja i odniesienia zewnętrzne. W przypadku zbiorów danych obejmuje on zawartość, identyfikator, skrót, pochodzenie, wrażliwość, zależności i licencję.

Element wrażliwości zbioru danych jest szczególnie ważny, ponieważ wiele zagrożeń związanych ze sztuczną inteligencją nie wynika z modelu, ale z danych: danych osobowych, dokumentacji medycznej, danych finansowych, treści chronionych prawem autorskim lub innych informacji wrażliwych.

Wytyczne obejmują również ogólne i specyficzne dla sztucznej inteligencji środki kontroli bezpieczeństwa: szyfrowanie, minimalizację danych, kontrolę dostępu, uwierzytelnianie API, wykrywanie anomalii, odporność na ataki przeciwników, kontrolę wstrzykiwania podpowiedzi, filtry wejścia/wyjścia oraz środki kontroli na poziomie danych dla danych szkoleniowych.

Link

Autor: Sebastian Burgemejster