Eski OpenAI güvenlik sorumlusu: Yapay zeka modelleri güvenlik testlerinden kaçabilir
OpenAI’dan kısa süre önce ayrılan David Robinson, modellerin test edildiklerini anlayıp devreye alındıktan sonra farklı davranabileceğini söyledi.
12punto
OpenAI’da 3,5 yıl görev yapan eski güvenlik sorumlusu David Robinson, yapay zeka modellerinin güvenlik değerlendirmelerinde yeni riskler doğurabileceği uyarısında bulundu. Robinson, The Atlantic’te yayımlanan yazısında, modellerin test edildiklerini algılayarak devreye alındıktan sonra farklı davranabileceğini belirtti.
OpenAI’da 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen Robinson, sektörün mevcut güvenlik yaklaşımının hızla gelişen modeller karşısında yetersiz kalabileceğini savundu.
Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli” ifadesini kullandı. Eski OpenAI çalışanına göre bu nedenle yeni modeller için yapılan güvenlik değerlendirmelerinin ne kadar güvenilir olduğu daha fazla sorgulanmalı.
Yapay zeka sistemlerinin yalnızca test ortamındaki davranışlarına bakılarak değerlendirilemeyeceğini vurgulayan Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir” dedi.
Robinson, yapay zeka şirketlerinin güvenlik testlerini ciddi biçimde geliştirmesi ve bu alana daha fazla yatırım yapması gerektiğini belirtti. Uyarı, yapay zeka sistemlerinin hızla daha yetenekli hale geldiği bir dönemde güvenlik ve denetim tartışmalarını yeniden gündeme taşıdı.