OpenAI yönetimine katılan Paul Christiano’dan ‘süper zeka’ uyarısı: Kontrol kaybı ölümcül olabilir

Yapay zeka güvenliği alanındaki çalışmalarıyla bilinen Paul Christiano, OpenAI’ın kâr amacı gütmeyen vakfının yönetim kuruluna atandı. Christiano, ChatGPT’nin geliştiricisi olan ticari yapıyı denetleyen vakıfta görev alırken, ABD Ticaret Bakanlığı bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi’nde (CAISI) kıdemli teknik danışmanlık görevini de sürdürecek.

Financial Times’ın haberine göre atama, yapay zeka laboratuvarlarının güvenlik, standartlar ve düzenleme başlıklarında uzmanlığını artırma çabasının bir parçası olarak değerlendiriliyor. Sektörde özellikle güçlü modellerin denetlenmesi, siber güvenlik riskleri ve kamu otoritelerinin müdahale çağrıları son dönemde daha fazla tartışılıyor.

Christiano, yeni görevine ilişkin değerlendirmesinde, çok güçlü yapay zeka sistemlerinin ulusal ve uluslararası düzeyde daha sıkı koordinasyon olmadan geliştirilmesinin ciddi riskler yaratabileceğini belirtti.

Daha güçlü bir koordinasyon olmaksızın bir süper zeka geliştirirsek, üzerindeki kontrolümüzü tamamen kaybedeceğimizi öngörüyorum. Şayet bu yaşanırsa, insanların çoğu hayatını kaybedebilir.

Christiano, bu tehdidin azaltılması için hem ülke içinde hem de uluslararası alanda işbirliğinin gerekli olduğunu vurguladı. OpenAI dahil sektör genelinde, kontrol kaybı riskini kabul edilebilir seviyeye indirmek için mevcut çabaların yeterli olmadığını savundu.

Benzer uyarılar daha önce yapay zekanın “vaftiz babası” olarak anılan Nobel ödüllü Geoffrey Hinton tarafından da gündeme getirilmişti. Hinton, insan zekasını açık biçimde aşan sistemlerin şirketler eliyle güvenli biçimde inşa edilmesinin bugün için mümkün olmadığı görüşünü dile getirmişti.