Birleşik Krallık’ın Ulusal Siber Güvenlik Merkezi (NCSC), küresel olarak kabul gören ilk “Güvenli Yapay Zeka Geliştirme Kılavuzunu” yayınladı.
NCSC tarafından hazırlanan Güvenli Yapay Zeka Sistemi Geliştirme Kılavuzu, sektör uzmanlarının ve ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ile birlikte diğer 21 uluslararası kurum ve bakanlığın katkılarıyla oluşturuldu.
G7 ülkeleri dahil olmak üzere toplam 18 ülke, geliştiricilere yeni yapay zeka sistemleri oluştururken siber güvenlik konusunda bilinçli kararlar almalarına yardımcı olacak bu kılavuzu onayladı.
CISA ve NCSC, kılavuzun tüm yapay zeka/ML sistemleri için geçerli olduğunu vurgulayarak, yapay zeka, siber güvenlik ve kritik altyapıyla ilgili sorunları ele almak üzere sıfırdan veya üçüncü taraf kaynaklar üzerine inşa edilmiş olmasına bakılmaksızın geçerli olduğunu belirtti.
Kılavuz, yapay zeka teknolojisinin bilgisayar korsanları tarafından ele geçirilmesini engellemenin yollarını ele alıyor ve modellerin uygun güvenlik testlerinden sonra yayınlanması gibi önerilere odaklanıyor.
Dört bölüme ayrılan kılavuz şunları içeriyor:
Güvenli Tasarım: Risklerin ve tehdit modellerinin anlaşılması, sistem ve model tasarımında dikkate alınması gereken tavizlerin açıklanması.
- Güvenli Geliştirme: Tedarik zinciri güvenliği, dokümantasyon, varlık ve teknik borç yönetimi hakkında bilgiler içerir.
- Güvenli Dağıtım: Altyapının ve modellerin tehlikeye, tehdide veya kayba karşı korunması, olay yönetimi süreçlerinin geliştirilmesi, sorumlu sürümle ilgili konuları içerir.
- Güvenli İşletim ve Bakım: Bir sistem devreye alındıktan sonra günlük kaydı, izleme, güncelleme yönetimi ve bilgi paylaşımı gibi gerçekleştirilecek eylemlere ilişkin yönergeler sağlar.
CISA’nın yöneticisi Jen Easterly Reuters’a verdiği demeçte, “İlk kez bu kabiliyetlerin sadece havalı özellikler ve bunları ne kadar hızlı pazara sunabileceğimiz ya da maliyetleri düşürmek için nasıl rekabet edebileceğimiz ile ilgili olmaması gerektiğinin onaylandığını görüyoruz” dedi ve kılavuz ilkelerinin “tasarım aşamasında yapılması gereken en önemli şeyin güvenlik olduğu konusunda bir anlaşmayı” temsil ettiğini söyledi.
