Anthropic, Google ve OpenAI için yapay zekada ortak denetim kurumu iddiası
Anthropic, Google ve OpenAI’nin, gelişmiş yapay zeka modelleri için sektör standartları belirleyecek bir kurum seçeneğini görüştüğü öne sürüldü.
12punto
ABD’de yapay zeka modellerinin gelişme hızına ve denetlenmesine ilişkin tartışmalar sürerken, sektörün önde gelen şirketleri arasında yeni bir standart kurumu seçeneğinin gündeme geldiği iddia edildi.
CNN’in ismini açıklamadığı kaynaklara dayandırdığı haberine göre Anthropic, Google ve OpenAI, yapay zeka modelleri için sektör standartlarının belirlenmesi amacıyla şirketlerin öncülüğünde bir kurum oluşturulması ihtimalini değerlendiriyor.
Kaynaklar, görüşmelerin Anthropic araştırmacısı Jacob Coxon’ın istifasından çok, Google DeepMind’ın kurucu ortağı Demis Hassabis’in temmuz ayında kaleme aldığı ve ABD öncülüğünde bir yapay zeka standartları kurumu önerdiği makalenin ardından hız kazandığını belirtti.
Hassabis’in önerdiği modelde kurumun hükümet gözetiminde, kamu ve özel sektör işbirliğiyle işletilmesi; gelişmiş yapay zeka modellerinin kullanıma sunulmadan önce test edilmesi öngörülüyordu.
GÜVENLİK VE HIZ TARTIŞMASI
Tartışmanın merkezinde, yapay zeka sistemlerinin giderek artan hızla gelişmesinin şirketlerin bu sistemleri anlama, kontrol etme ve güvenlik risklerini denetleme kapasitesini aşabileceği endişesi bulunuyor.
Anthropic Üst Yöneticisi Dario Amodei, 12 Eylül’de yayımladığı yazıda yapay zeka teknolojisinin gelişim hızının, denetime daha fazla alan açacak şekilde yavaşlatılması gerektiğini savunmuştu. Amodei, şirketlerin bir araya gelerek güvenlik standartları belirlemesi ve modellerin piyasaya sürülme hızına ilişkin bazı kurallar oluşturması gerektiğini ifade etmişti.
Amodei’nin çıkışına teknoloji dünyasından da destek geldi. Elon Musk, X hesabından yaptığı paylaşımda “Dario haklı” ifadesini kullandı. OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda benzer bir adım atacağını kaydetti.
CNN’e konuşan kaynaklar, ABD Başkanı Donald Trump yönetimi süreçte yer alsa da almasa da bu görüşmelerin sürdüğünü ve devam edeceğini ileri sürdü. Ancak yapay zekanın nasıl denetlenmesi gerektiği konusunda teknoloji sektöründeki tüm liderlerin aynı noktada buluşmadığı da belirtildi.
Amodei ayrıca ABD yönetiminin Çin’e çip ihracatı kısıtlamalarını güçlendirmesi ve Çin’deki yapay zeka laboratuvarlarının ABD’li şirketlerin modellerinden “damıtma” yöntemiyle veri elde etmesini engellemesi gerektiğini savundu. Anthropic CEO’su, CBS News’e verdiği röportajda yapay zekanın yavaşlatılması önerisindeki en zor ikilemin Çin ve diğer rakip ülkelerin aynı yönde hareket etmeme ihtimali olduğunu dile getirdi.