29 kwietnia 2024 r., Departament Handlu Stanów Zjednoczonych ogłosił, że Narodowy Instytut Norm i Technologii (NIST) opublikował cztery krytyczne dokumenty 180 dni po wydaniu zarządzenia w sprawie bezpiecznej i godnej zaufania sztucznej inteligencji. Dokumenty te mają na celu wzmocnienie naszego podejścia do zarządzania ryzykiem związanym ze sztuczną inteligencją i do bezpiecznego rozwoju oprogramowania, w szczególności koncentrując się na generatywnych technologiach sztucznej inteligencji.
Wydane publikacje:
NIST AI 600-1: Ramy zarządzania ryzykiem sztucznej inteligencji: Profil generatywnej sztucznej inteligencji
NIST SP 800-218A: Praktyki bezpiecznego tworzenia oprogramowania dla generatywnej sztucznej inteligencji i modeli fundamentalnych podwójnego zastosowania
NIST AI 100-4: Zmniejszanie ryzyka stwarzanego przez treści syntetyczne
NIST AI 100-5: Plan globalnego zaangażowania w standardy AI
Najważniejsze informacje:
Generative AI Profile kładzie nacisk na zarządzanie ryzykiem specyficznym dla generatywnej sztucznej inteligencji, w tym prywatnością danych i integralnością bezpieczeństwa informacji.
Secure Software Development Framework (SSDF) zapewnia dostosowane zalecenia w całym cyklu rozwoju oprogramowania AI.
Synthetic Content Profile wprowadza metody zarządzania ryzykiem związanym z treściami generowanymi przez sztuczną inteligencję, opowiadając się za cyfrowym znakiem wodnym i śledzeniem pochodzenia.
Profil Globalnych Standardów Sztucznej Inteligencji poszukuje informacji na temat standaryzacji praktyk w celu zwiększenia przejrzystości i zaufania do technologii sztucznej inteligencji na całym świecie.
Jest to strategiczna inicjatywa mająca na celu nie tylko ustanowienie punktu odniesienia w zakresie bezpieczeństwa i ochrony sztucznej inteligencji, ale także promowania środowiska współpracy na rzecz globalnych standardów w dziedzinie sztucznej inteligencji. NIST zachęca specjalistów z różnych sektorów do wyrażania opinii i aktywnego uczestnictwa w udoskonalaniu tych ram.
Aby uzyskać bardziej szczegółowy wgląd w ramy i sposób, w jaki mogą one przekształcić praktyki AI, kliknij link.
Exciting News in AI Standards!
On April 29, 2024, the U.S. Department of Commerce announced that the National Institute of Standards and Technology (NIST) has released four critical documents 180 days post the Executive Order on Safe, Secure, and Trustworthy AI. These documents are designed to bolster our approach to AI risk management and secure software development, particularly focusing on generative AI technologies.
Publications Released:
NIST AI 600-1: Artificial Intelligence Risk Management Framework: Generative AI Profile
NIST SP 800-218A: Secure Software Development Practices for Generative AI and Dual-Use Foundation Models
NIST AI 100-4: Reducing Risks Posed by Synthetic Content
NIST AI 100-5: A Plan for Global Engagement on AI Standards
Key Highlights:
Generative AI Profile emphasizes managing risks specific to generative AI, including data privacy and the integrity of information security.
Secure Software Development Framework (SSDF) provides tailored recommendations across the AI software development lifecycle.
Synthetic Content Profile introduces methods to manage risks associated with AI-generated content, advocating for digital watermarking and provenance tracking.
Global AI Standards Profile seeks input on standardizing practices to enhance transparency and trust in AI technologies globally.
This strategic initiative not only aims to set a benchmark in AI safety and security but also fosters a collaborative environment for global standards in AI. NIST encourages feedback and active participation from professionals across sectors to refine these frameworks.
Stay tuned! Later this week, we will dive deeper into each of these new NIST publications, exploring their implications and benefits in greater detail.
For more detailed insights into these frameworks and how they can transform AI practices, click on the link in the below.
Autor: Sebastian Burgemejster
Comments