AB’den yapay zeka uyarısı: İnsan kontrolünün kaybı ciddi güvenlik riski yaratıyor
AB Komisyonu Başkan Yardımcısı Henna Virkkunen, yapay zekada denetimin insanda kalmasının güvenlik için kritik olduğunu söyledi.
12punto
Avrupa Birliği (AB) Komisyonunun Teknolojik Egemenlik, Güvenlik ve Demokrasiden Sorumlu Başkan Yardımcısı Henna Virkkunen, yapay zeka teknolojilerindeki hızlı gelişimin güvenlik boyutuna dikkat çekti. Virkkunen, yapay zekada en ciddi risklerden birinin insanların bu teknoloji üzerindeki kontrolünü kaybetmesi olduğunu belirtti.
Finlandiya kamu yayıncısı Yle’de değerlendirmelerde bulunan Virkkunen, gelişmiş yapay zeka sistemleri için güvenlik önlemlerinin sürekli devrede tutulması gerektiğini vurguladı. Virkkunen, “Bu teknolojiler o kadar gelişmiş durumda ki belirli güvenlik önlemlerinin sürekli yürürlükte olması ve kontrolün insanda kalması son derece önemli” dedi.
Virkkunen, son dönemde bazı yapay zeka modellerinin kendileri için oluşturulan test ortamlarının dışına çıktığını ve siber güvenlik açısından zarara yol açtığını da hatırlattı. Bu nedenle sistemlerin yalnızca piyasaya sunulmadan önce değil, kullanıma alındıktan sonra da izlenmesi gerektiğini söyledi.
AB YASASI VE İZLEME VURGUSU
AB’nin yapay zekadan kaynaklanabilecek tehditlere karşı mevzuat yoluyla hazırlık yaptığını ifade eden Virkkunen, AB Yapay Zeka Yasası’nın model sağlayıcılarına riskleri düzenli biçimde değerlendirme ve gerekli güvenlik mekanizmalarını uygulama yükümlülüğü getirdiğini belirtti.
Virkkunen, dünyada yapay zekayı kötü amaçlarla kullanmaya hazır aktörler bulunduğunu dile getirerek, bunun sürekli dikkate alınması gereken bir risk olduğunu söyledi. “Bundan korktuğumu söyleyemem ancak elbette sürekli dikkate alınan ve alınması gereken bir risk” diyen Virkkunen, yapay zeka modellerinin güvenli olduğundan emin olunması gerektiğini kaydetti.
Küresel teknoloji şirketleri ve diğer aktörlerin AB’nin belirlediği kuralları dikkate aldığını söyleyen Virkkunen, yapay zekadan doğabilecek tehditlere karşı en önemli aracın uluslararası işbirliği olduğunu ifade etti. AB Komisyonu Başkan Yardımcısı, teknolojik gelişmenin her aşamasında insan denetiminin korunması gerektiğini vurguladı.