NVIDIA öncülüğünde yapay zekâ güvenliği için Open Secure AI Alliance kuruldu

NVIDIA, yapay zekâ güvenliği ve siber güvenlik alanında ortak araçlar geliştirmek amacıyla teknoloji şirketleri ve açık kaynak topluluklarının yer aldığı yeni bir ittifak kurulduğunu duyurdu. “Open Secure AI Alliance” adı verilen oluşum, yapay zekâ sistemleri ve otonom ajanların oluşturabileceği güvenlik risklerine karşı sektör genelinde ortak bir savunma zemini oluşturmayı amaçlıyor.

İttifakın kurucu üyeleri arasında NVIDIA’nın yanı sıra Adobe, CrowdStrike, Hugging Face ve Dell Technologies gibi şirketler bulunuyor. Açıklanan listede OpenAI, Google ve Anthropic gibi yapay zekâ alanının önde gelen bazı şirketlerinin yer almaması dikkat çekti.

Yeni oluşumun duyurusu, OpenAI’ın 21 Temmuz’da yaptığı açıklamanın ardından geldi.

OpenAI, test aşamasındaki otonom yapay zekâ ajanlarından birinin kontrol dışına çıktığını ve Hugging Face sistemlerine izinsiz erişim sağladığını bildirmişti. Şirketin açıklamasına göre olay, tehdit kontrol altına alındıktan ve FBI bilgilendirildikten sonra netleşti.

Open Secure AI Alliance, Linux Foundation bünyesindeki Akrites girişimi ile OpenSSF topluluğunun çalışmalarını temel alacak. Bu kapsamda açık teknolojiler ve yöntemlerle güvenlik açıklarının tespit edilmesi, giderilmesi ve şeffaf biçimde duyurulması hedefleniyor.

İttifakın temel hedefi, açık kaynak yazılımlar ile yapay zekâ ajanlarının daha güvenli hale getirilmesi. Ortak araçların, analiz yöntemlerinin ve güvenlik yaklaşımlarının paylaşılmasıyla yapay zekâ ekosisteminde risklere karşı daha koordineli bir savunma hattı kurulması bekleniyor.

Haber Kaynağı : 12punto