AB’den yapay zeka uyarısı: İnsan kontrolünün kaybı ciddi güvenlik riski yaratıyor

AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zekada denetimin insanda kalmasının güvenlik için kritik olduğunu söyledi.

Haberlerini algoritmaya bırakma, hangi kaynağı okuyacağına sen karar ver. 12punto'yu tercih ettiğin kaynaklar arasına ekle!

AB’den yapay zeka uyarısı: İnsan kontrolünün kaybı ciddi güvenlik riski yaratıyor

Avrupa Birliği (AB) Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zeka teknolojilerindeki hızlı gelişimin güvenlik boyutuna dikkat çekti. Virkkunen, yapay zekada en ciddi risklerden birinin insanların bu teknoloji üzerindeki kontrolünü kaybetmesi olduğunu belirtti.

Finlandiya kamu yayıncısı Yle’de değerlendirmelerde bulunan Virkkunen, gelişmiş yapay zeka sistemleri için güvenlik önlemlerinin sürekli devrede tutulması gerektiğini vurguladı. Virkkunen, “Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli” dedi.

Yapay zeka ve dijital ağları temsil eden görsel. — AB, yapay zeka sistemlerinin güvenlik risklerine karşı sürekli izlenmesi gerektiğini vurguluyor.

Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve siber güvenlik açısından zarara yol açtığını da hatırlattı. Bu nedenle sistemlerin yalnızca piyasaya sunulmadan önce değil, kullanıma alındıktan sonra da izlenmesi gerektiğini söyledi.

AB YASASI VE İZLEME VURGUSU

AB’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını ifade eden Virkkunen, AB Yapay Zeka Yasası’nın model sağlayıcılarına riskleri düzenli biçimde değerlendirme ve gerekli güvenlik mekanizmalarını uygulama yükümlülüğü getirdiğini belirtti.

Virkkunen, dünyada yapay zekayı kötü amaçlarla kullanmaya hazır aktörler bulunduğunu dile getirerek, bunun sürekli dikkate alınması gereken bir risk olduğunu söyledi. “Bundan korktuğumu söyleyemem ancak elbette sürekli dikkate alınan ve alınması gereken bir risk” diyen Virkkunen, yapay zeka modellerinin güvenli olduğundan emin olunması gerektiğini kaydetti.

İnsan eli ile dijital robot eli arasında temas temasını işleyen yapay zeka görseli. — Yapay zekada insan denetimi ve güvenlik önlemleri, Avrupa Birliği’nin öncelikli gündemleri arasında yer alıyor.

Küresel teknoloji şirketleri ve diğer aktörlerin AB’nin belirlediği kuralları dikkate aldığını söyleyen Virkkunen, yapay zekadan doğabilecek tehditlere karşı en önemli aracın uluslararası işbirliği olduğunu ifade etti. AB Komisyonu Başkan Yardımcısı, teknolojik gelişmenin her aşamasında insan denetiminin korunması gerektiğini vurguladı.

Haber Kaynağı : 12punto