Sam Altman’dan BM’de yapay zeka uyarısı: İnsanlık ‘bir yol ayrımında’

Yapay zeka alanının önde gelen şirketlerinin yöneticileri, Birleşmiş Milletler Güvenlik Konseyi’nde düzenlenen “yapay zeka ve uluslararası güvenlik” oturumunda, teknolojinin geleceğine ilişkin riskler ve düzenleme ihtiyacı konusunda uyarılarda bulundu.

OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerindeki hızlı gelişmenin faydaları daha görünür hale getirirken riskleri de daha acil kıldığını söyledi. Altman, insanlığın önünde kritik bir tercih bulunduğunu belirterek, “Yapay zeka ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans gibi olabilir ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabilir” dedi.

Altman, ideal yapay zeka vizyonunun insanları “dev bir makinenin dişlileri” haline getirmek olmadığını vurguladı. Bu sistemlerin, insanların bugün ulaşılması zor görülen hedeflerine erişmesi için yeni araçlar olabileceğini ifade eden Altman, buna karşın teknolojinin daha kabiliyetli ve otonom hale geldikçe güç dengelerini değiştirebileceğine dikkat çekti.

Yapay zeka geliştirme süreçlerinin giderek daha otomatik hale gelmesinin ilerleme hızını artırabileceğini belirten Altman, bu nedenle şirketlerin yalnızca faydaya odaklanarak riskleri göz ardı etmemesi gerektiğini söyledi. Altman’a göre, insan kontrolünde tutulabileceğinden emin olunmayan hiçbir model eğitilmemeli.

Altman ayrıca, yapay zekaya ilişkin en önemli kararların yalnızca teknoloji merkezlerindeki laboratuvarlarda alınmaması gerektiğini belirtti. “Yapay zekanın demokratik olması için, en önemli kararların sadece San Francisco’daki laboratuvarlar tarafından alınmaması gerekir” diyen Altman, kararların demokratik süreçlerle ve halka hesap veren hükümetler tarafından şekillendirilmesi gerektiğini ifade etti.

KÜRESEL GÜVENLİK RİSKLERİ

Toplantıya çevrim içi katılan Anthropic Üst Yöneticisi Dario Amodei de yapay zekadaki hızlı ilerlemenin yönetilmesi gereken riskleri büyüttüğünü söyledi. Amodei, iki temel risk kategorisi gördüğünü belirterek bunları, modellerin kötüye kullanılması ve geliştiricilerin kontrol kapasitesini aşan bir hızla güçlenmesi olarak sıraladı.

Amodei, kötüye kullanım riskine örnek olarak yapay zeka modellerinin biyolojik silah üretiminde kullanılmasını gösterdi. Kontrol kaybı riskinin de tüm insanlığı ilgilendirdiğini belirten Amodei, yapay zekanın kötü yönetilmesi halinde insanlık için genel bir tehdit oluşturabileceği uyarısında bulundu.

Yapay zeka güvenliğinin tek bir şirketin çözebileceği bir konu olmadığını vurgulayan Amodei, sektör genelinde ve küresel ölçekte işbirliği çağrısı yaptı. Amodei, devletlerin gelişmiş yapay zeka modellerinin kabiliyetleri hakkında bilgi sahibi olabilmesi için değerlendirme ve doğrulama sistemleri kurulmasını, risk testleri için ortak standartlar belirlenmesini istedi.

Hugging Face Üst Yöneticisi Clement Delangue ise otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıdan çıkardıkları dersleri anlattı. Delangue, yapay zeka kaynaklı siber güvenlik tehditlerinin daha iyi anlaşılması ve azaltılması için daha güçlü küresel standartlara ihtiyaç olduğunu söyledi.

Delangue, saldırıya uğramalarına rağmen yapay zekanın siber güvenlikte savunma aracı olarak da kullanılabileceğini belirterek, “Yapay zeka tarafından saldırıya uğradık, ancak daha da önemlisi, kendimizi yapay zeka kullanarak savunduk” dedi.

Konuşmacıların ortak vurgusu, yapay zekanın sunduğu fırsatların ancak güvenlik, denetim ve uluslararası işbirliği mekanizmalarıyla birlikte ele alınması halinde sürdürülebilir olabileceği yönünde oldu. Altman, bu tabloyu “Bir yol ayrımındayız” sözleriyle özetledi.