Program STAR AI Controls Auditor

Właśnie ukończyłem szkolenie dla audytorów w zakresie kontroli sztucznej inteligencji w ramach programu STAR. Dla mnie jest to kolejny ważny krok w kierunku lepszego zrozumienia matrycy kontroli sztucznej inteligencji opracowanej przez Cloud Security Alliance oraz sposobu przeprowadzania weryfikacji zgodności w ramach programu STAR for AI.

Kurs skupia się na tym, jak audytorzy powinni oceniać 34 kontrole specyficzne dla sztucznej inteligencji w AICM v1.0.3, w tym takie obszary, jak zabezpieczenia przed wstrzykiwaniem podpowiedzi, zapobieganie zatruwaniu danych, granice bezpieczeństwa agentów, weryfikacja integralności modeli, ataki przeciwników, zabezpieczenia, monitorowanie wejść/wyjść, oceny wpływu sztucznej inteligencji oraz nadzór ludzki.

Najbardziej podoba mi się to, że szkolenie nie traktuje zapewnienia bezpieczeństwa AI jako zwykłego rozszerzenia tradycyjnego audytu IT. Testowanie kontroli AI wymaga innych dowodów niż w przypadku tradycyjnych kontroli informatycznych. Nie ograniczamy się jedynie do analizy polityk, konfiguracji, uprawnień dostępu i logów. Musimy również zrozumieć karty modeli, wykazy komponentów AI, wyniki testów przeciwników, oceny wpływu AI, skuteczność zabezpieczeń, dowody integralności modeli, mechanizmy zapobiegania zafałszowaniu danych oraz testy wstrzykiwania podpowiedzi.

Moim zdaniem sama zgodność z normą ISO 42001 nie wystarczy, aby potwierdzić, że sztuczna inteligencja wykorzystywana przez organizację jest wdrożona na dojrzałym poziomie bezpieczeństwa i ochrony. Norma ISO 42001 jest przydatna jako standard systemu zarządzania. Tworzy strukturę, zasady zarządzania i odpowiedzialność. Jednak wiele z jej wymagań ma charakter stosunkowo ogólny.

AICM sięga znacznie głębiej. Matryca kontroli AI (AI Controls Matrix) to niezależna od dostawców struktura zajmująca się ryzykiem związanym z bezpieczeństwem, ochroną i prywatnością w kontekście rozwoju, wdrażania, koordynacji i korzystania z systemów AI. Została stworzona, ponieważ tradycyjne środki kontroli bezpieczeństwa same w sobie nie wystarczają w przypadku zagrożeń specyficznych dla AI. AICM v1.0 składa się z 18 dziedzin i 243 środków kontroli, opierając się na Cloud Controls Matrix i dodając dedykowaną dziedzinę Model Security. Odpowiada również normom i ramom, takim jak ISO/IEC 42001, NISTAI600-1, BSIAIC4 i AI Act.

Jednym z najsilniejszych elementów AICM jest model wspólnej odpowiedzialności za bezpieczeństwo, opracowany specjalnie dla sztucznej inteligencji. Ma to znaczenie, ponieważ usługi oparte na sztucznej inteligencji rzadko są świadczone wyłącznie przez jednego podmiotu. W praktyce często mamy do czynienia z dostawcą usług w chmurze, dostawcą modelu podstawowego, warstwą koordynacyjną, dostawcą aplikacji, konfiguracją klienta oraz dodatkowymi narzędziami stron trzecich. Role te są funkcjami, a niekoniecznie odrębnymi podmiotami prawnymi. Jedna organizacja może pełnić kilka ról jednocześnie, na przykład gdy samodzielnie hostuje model typu open-weight, a także obsługuje warstwę aplikacji.

Uważam, że STAR dla AI i AICM to bardzo cenne narzędzia dla audytorów, konsultantów, dostawców usług AI oraz klientów, którzy chcą oceniać systemy AI w sposób bardziej uporządkowany, praktyczny i oparty na ryzyku.

Autor: Sebastian Burgemajster