Nowy Jork wyznacza standardy bezpieczeństwa sztucznej inteligencji dzięki SB6953B

12 czerwca 2025 r. Nowy Jork wykonał ruch w zarządzaniu sztuczną inteligencją, przyjmując ustawę o odpowiedzialnym bezpieczeństwie i edukacji w zakresie sztucznej inteligencji (RAISE) - SB6953B. Ustawa ta jest skierowana do „dużych deweloperów” pionierskich modeli sztucznej inteligencji, zdefiniowanych jako podmioty wydające ponad 100 mln USD na szkolenie modeli o wysokiej wydajności obliczeniowej przekraczającej 10²⁶ operacji. Instytucje akademickie są wykluczone, jeśli działają w charakterze badawczym.

• Kluczowe wymagania:

Pisemne protokoły bezpieczeństwa i ochrony: Muszą być opracowane, utrzymywane i publikowane.

Przechowywanie: Wszystkie protokoły bezpieczeństwa i dokumentacja testowa muszą być przechowywane przez cały cykl życia modelu + 5 lat.

Przejrzystość: Szczegóły testów muszą być rejestrowane z wystarczającą szczegółowością, aby umożliwić replikację przez osoby trzecie.

Zakaz krytycznych szkód: Wdrożenie jest zabronione, jeśli grozi szkodami na dużą skalę (ponad 100 ofiar śmiertelnych lub ponad 1 mld USD szkód), w tym zagrożeniami CBRN lub autonomicznymi działaniami przestępczymi.

Coroczne przeglądy i audyty stron trzecich: Deweloperzy muszą co roku dokonywać przeglądu praktyk bezpieczeństwa i angażować niezależnych audytorów w celu potwierdzenia zgodności.

Ujawnianie incydentów: Każdy incydent związany z bezpieczeństwem musi zostać zgłoszony w ciągu 72 godzin organom regulacyjnym.

Kary za nieprzestrzeganie przepisów:

Do 10 mln USD za pierwsze naruszenie

Do 30 mln USD za kolejne naruszenia

Regulacje dotyczące sztucznej inteligencji nie są już tylko inicjatywą UE. Inne kraje i stany USA aktywnie budują ramy prawne. To, co uważam za szczególnie ważne, to wymóg zewnętrznych audytów zewnętrznych, odzwierciedlający szerszy trend rynkowy: ISO, atesty SOC1/SOC2, PCI-DSS, raporty ESG, FEDRAMP i inne. Zapotrzebowanie na zaufaną, niezależną pewność jest silniejsze niż kiedykolwiek, zwłaszcza gdy audyt wewnętrzny nie jest postrzegany jako niezależny.

Mocno wierzę również w potencjał Cloud Security Alliance i jego rozwijającego się modelu STAR for AI. CSA jest już liderem w branży dzięki STAR w zakresie bezpieczeństwa w chmurze, a teraz rozszerza swoje ramy na sztuczną inteligencję.

STAR for AI pomoże organizacjom wykazać się przejrzystością, odpowiedzialnością i należytą starannością w sposób, który można zarówno zweryfikować, jak i certyfikować.

RAISE

STAR for AI

Autor: Sebastian Burgemejster