OpenAI’da daha önce yapay zeka güvenliği alanında görev yapan ve işten çıkarılan üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemleri için denetimlerin gevşetilmemesi gerektiği uyarısında bulundu.
Wall Street Journal’ın haberine göre araştırmacılar, OpenAI yönetim kurulu üyelerine gönderdikleri mektupta, şirketlerin yapay zeka sistemlerinin akıl yürütme süreçlerini izleme kapasitesini zamanla kaybedebileceğine ilişkin endişelerini dile getirdi.
Mektupta, otonom yapay zeka sistemlerinin doğurabileceği risklere karşı güvenlik denetimlerinin şirket içi mekanizmalarla sınırlı kalmaması, bağımsız kuruluşlar tarafından yürütülmesi gerektiği vurgulandı.
Araştırmacılar, sektörde denetlenemeyen modellerin nasıl güvenli biçimde geliştirileceği ve kullanıma sunulacağı konusunda henüz net bir yöntem bulunmadığını belirtti. Bu nedenle OpenAI ve diğer öncü yapay zeka şirketlerine, teknolojiyi denetimi zorlaştıracak yönde ilerletmeme çağrısı yapıldı.
OpenAI’dan bir sözcü ise gazeteye yaptığı açıklamada, mektuptaki önerilere tamamen katıldıklarını ve yapay zeka modellerinin denetlenmesinin şirket açısından büyük önem taşıdığını söyledi.
Söz konusu araştırmacıların, bir yapay zeka güvenlik şirketine gizli bilgi paylaştıkları iddiasıyla işten çıkarıldığı öne sürülüyor.
Haber Kaynağı : 12punto
