Yeni emperyalizm-4: Singularity/Tekillik- Son imparator kim olacak?

Üç yazıda uzun bir yol geldik.

Alacakaranlık bir aydınlıkta bugünü anlamaya, yarını öngörmeye çalışıyoruz.

Kapitalizmin dijital çağda aldığı yeni biçimi, algoritmik savaşın doğasını, tekno-burjuvazinin iktidarını, tekno faşizmi ve buna yükselen itirazları ele aldık.

Teknolojiyi ve Yapay Zekâyı elinde tutan “yeni emperyalizm”, dalga dalga dünyayı ve insanı iyice ele geçiriyor.

Ama tüm bu tartışmaların arka planında sessizce büyüyen bir soru var. Şimdiye kadar yalnızca bir dipnot olarak geçtiğimiz bir soru:

Günümüzde birçok yararını gördüğümüz Yapay Zekâ bir gün insanı aşarsa ne olur?

(Yapay Zekâ işevleri?)

***

Veri tekellerinin başında gelen Google'ın Yapay Zekâ direktörü ve fütürist(gelecek bilimci) Ray Kurzweil, bilim kurgu yazarı Vernor Vinge'ın görüşlerinden yararlanarak bu soruya somut bir tarih veriyor: 2045.

MIT (Massachusetts Institute of Technology) mezunu, onlarca yıldır Yapay Zekânın geleceğini öngören kitaplar yazmış, ABD Ulusal Teknoloji Madalyası sahibi bu bilim insanının tahminleri ciddiye alınıyor. Çünkü büyük bölümü doğru çıktı.

Kurzweil'e göre bu tarihte "Singularity" (tekillik) gerçekleşecek. Yapay Zekâ insan zekâsını aşacak ve ardından kendi kendini sürekli geliştirerek insanlığın öngöremeyeceği bir hıza ulaşacak.

“Singularity” sözcüğü aslında fizikten gelir. Kara deliklerin merkezinde, bildiğimiz fizik yasalarının çöküğü varsayılan noktaya “tekillik” denir.

 Kara deliğin çevresinde bir de “olay ufku” vardır: Bu sınırı geçen hiçbir şey — ışık bile — geri dönemez. 

(Fizikte SINGULARITY/TEKİLLİK)

Yapay Zekâ tartışmasındaki Singularity benzetmesi de buradan doğar. İnsan zekâsını aşan ve kendi kendini geliştiren bir Yapay Zekâ ortaya çıktığında, insanlık da sanki böyle bir eşiği geçmiş olacaktır.

 O noktadan sonra eski dünyanın kuralları geçerliliğini yitirebilir; çünkü artık oyunun hızını ve yönünü insan değil, insanı aşan bir zekâ belirlemeye başlayacaktır.

Bu yalnızca teknik bir öngörü değil; insanlık tarihinin en köklü dönüşümünü tanımlayan bir eşiktir.

Çünkü şimdiye kadar tarihte her şey insanın karar verme kapasitesi etrafında döndü. Emperyalizm, savaş, iktidar, sömürü. Hepsi.

Singularity bu ekseni parçalar.

Peki o eşikte kim ne olacak?

(Ray Kurzweil ve “Singularity Daha Yakında” kitabı)

***

Önce Singularity'nin teknik boyutuna bakalım.

Yapay Zekâ bugün iki temel kategoride var: "Dar Yapay Zekâ" ve "Genel Yapay Zekâ".

“Dar Yapay Zekâ” (Artificial Narrow Intelligence - ANI) belirli bir görevi insandan iyi yapıyor. Satranç oynuyor, görüntü tanımlıyor, dil çeviriyor, hedef belirliyor.

“Genel Yapay Zekâ” (AGI — Artificial General Intelligence) ise insanın yapabildiği her şeyi yapabilen, bir konudan diğerine insan gibi geçiş yapabilen, öğrenen ve uyum sağlayan bir sistem.

Henüz mevcut değil, ama hızla yaklaşıyor.

Singularity, AGI'nin ötesine geçilen noktadır.

Yapay Zekânın yalnızca insanı taklit etmediği, insanı aştığı ve artık kendi evrimini yönettiği eşik.

2023'te GPT-4 ve Claude, 2024'te başka gelişmiş “dil modelleri”, 2025-2026'da isemetin, görüntü, ses ve videoyu aynı anda işleyebilen, yani birden fazla duyuya birden hitap eden sistemler, her adım bu eşiğe biraz daha yaklaşıyor.

ANI, tek bir alanda mükemmel; ama konu değiştiğinde sıfırdan başlar.

AGI ise sabah hukuki bir belgeyi analiz eder, öğleden sonra bir müzik parçası besteler, akşam tıbbi bir araştırmayı yorumlar. Tıpkı bir insan gibi. Konu değişince takılmaz, sıfırdan başlamaz, bağlamı taşır. Henüz gerçekleşmedi. Ama araştırmacılar tam olarak bu hedefe koşuyor.

Ve onun da ötesinde ASI var (Artificial Super Intelligence — Yapay Süper Zekâ). Her alanda en iyi insanı geride bırakan; üstelik gelişmek için insana muhtaç olmayan. 

Bugün Yapay Zekâyı insanlar geliştirir: nasıl düşüneceğini insanlar belirler, hatalarını insanlar düzeltir, yeni halini insanlar tasarlar.

ASI bu denklemi tersine çevirir. Bir sabah kendi kodunu inceler, verimsiz çalışan bölümü yeniden yazar. Yeni sürümü öncekinden biraz daha zekidir. Bu daha zeki sürüm tekrar kendini inceler, bir sonraki eksiği bulur, onu da düzeltir. Böyle sürer gider. Her turda, bir öncekinden daha zeki bir sistem bir sonrakini tasarlar. Buna 'zekâ patlaması' deniyor. 

Ve bir kez başladığında insanın takip edebileceği, durdurabileceği bir hız kalmıyor. Singularity'nin ötesi budur.

ANI tek bir işi yapar, AGI her işi yapar, ASI her işi insandan iyi yapar. Singularity bu zincirin yarattığı kırılma noktasıdır. 

AGI insanı yakalar, ASI insanı geçer.

İnsan zekâsı geçildiğinde artık bu Yapay Süper Zekâya (ASI) yetişmek insan için mümkün değildir. 

Singularity  artık geri dönüşün olmadığı bu eşiği tanımlar. 

AGI ve ASI teknik aşamalardır; Singularity ise bu aşamaların insanlık düzeninde yarattığı tarihsel kırılmanın adıdır.

Çünkü o noktadan sonra teknolojinin hızını ve yönünü insan değil, insanı aşan sistemler belirlemeye başlayabilir; her şey insan kontrolünden çıkabilir.

(Yapay Zekânın gelişmesi)

***

Kurzweil, Singularity ile ilgili öngörüsünde yalnız değildir.

İngiltere'nin köklü üniversitesi Oxford'da felsefe profesörü olan İsveçli düşünür Nick Bostrom, Yapay Zekânın bu eşiği geçmesinin insanlık için en büyük varoluşsal risk olduğunu savunuyor.

Google'ın bünyesindeki Yapay Zekâ araştırma laboratuvarı DeepMind'ın kurucusu, İngiliz bilim insanı Demis Hassabis ise AGI'nin, yani “Yapay Genel Zekâ”nın, Kurzweil’ın öngörüsünden daha önce, on yıl içinde gerçekleşebileceğini düşünüyor. Yani 2030-2035'lerde.

(Nick Bostrom : Süper Zekâve İnsan Çağının Sonu?)

Bu öngörüler etrafındaki tartışma giderek keskinleşiyor. OpenAI'nin (ChatGPT'nin) kurucusu Sam Altman  AGI'nin bu on yıl içinde mümkün olduğunu ve insanlığın karşılaştığı en dönüştürücü teknoloji olduğunu söylüyor. 

"Derin öğrenmenin” babası, Yapay Zekânın 'Tanrısı' olarak anılan İngiliz bilim insanı Geoffrey Hinton bugün endişeyle uyarıyor: bu süreç beklenenden çok daha hızlı ilerliyor ve tehlikeli boyutlara ulaşabilir.

(Yapay Zekânın önderlerinden Geoffrey Hinton: Makinenin öğrenmesi için sinir ağları)

Öte yandan herkes bu iyimser ya da kaygılı beklentiyi paylaşmıyor. Meta'nın kurucusu (Facebook'un sahibi) Mark Zuckerberg'in Yapay Zekâ direktörü Yann LeCun farklı düşünüyor. 

Mevcut “dil modeli mimarisinin”, yani bir Yapay Zekânın nasıl tasarlandığı, bilgiyi nasıl işlediği ve nasıl ürettiğinin temel yapısının AGI, yani insanın yaptığı her işi yapabilen Yapay Zekâ için yeterli olmadığını, köklü yeni bir yaklaşım sağlanmadığı sürece Singularity'nin bir efsaneden ibaret kalacağını savunuyor.

LeCun'un itirazı temelsiz değil. 

Bugünkü Yapay Zekâ sistemleri, ChatGPT, Claude, Gemini,DeepSeek hepsi aynı temel mantıkla çalışıyor: milyarlarca metni okuyarak kalıpları ezberliyor, sonra o kalıpları taklit ediyor. Ezber ile anlama ise aynı şey değil. Bir çocuğa 'bardak masadan düşerse ne olur?' diye sorarsın — fizik yasalarını hiç okumadan kırılacağını bilir, çünkü dünyayı elleriyle, gözleriyle, bedeniyle yaşadı. Bugünkü Yapay Zekâ ise bunu ancak metinlerde gördüğü için tahmin eder. Gerçekten anlamaz.

Ancak geçmişte bu tür ‘imkânsız’ iddialarının çoğu doğru çıkmadı.

Yapay Zekâ tarihinde birkaç kez 'bu yöntem artık ilerleyemez, duvar örüldü' denildi ve her seferinde kimsenin beklemediği bir buluş geldi, her şey değişti. 

(Yann LeCun: “Derin öğrenme”nin yolunu açtı)

En çarpıcı örnek ise tam da LeCun'un kendi hikâyesi. 1980'lerde ve 90'larda, bugünkü tüm Yapay Zekânın temeli olan “derin öğrenmeyi” bilim dünyasında ciddiye alınmıyordu. 'Hesaplama gücü yetmez, verisi yok, çalışmaz' deniyordu. İlgili kurumlar finansmanı kesti, araştırmacılar dışlandı.

LeCun, Hinton ve birkaç kişi inatla devam etti. 2012'de bir görüntü tanıma yarışmasında derin öğrenme sistemi rakiplerini o kadar ezdi ki herkes şok oldu. 

Peki neydi bu “derin öğrenme”? 

İnsan beyninin öğrenme biçimini taklit eden, çok katmanlı yapay bir sinir ağıdır derin öğrenme. 

Görüntüde her katman bir öncekinin öğrendiklerini alıp daha soyut bir şeye dönüştürüyor — ham noktalardan çizgiler, çizgilerden kenarlar, kenarlardan yüzler. Ve bunu kimse programlamıyor; sistem milyonlarca görüntüyü gördükçe kuralları kendi kendine oluşturuyor. Bugün kullandığımız her Yapay Zekâ o 'çalışmaz' denilen temelin, "derin öğrenme"nin üzerine kurulu. Yani LeCun bizzat bu sıçramayı yaşadı.

Üstelik şu an geliştirilen modeller salt dil değil, görüyor, duyuyor, robot bedenlerle dünyaya dokunuyor.

LeCun önemli bir uyarı yapıyor ama kehanette biraz fazla ileri gidiyor: 'Mevcut yol yetmez' derken haklı, 'Singularity efsane' derken ise kendi öngörüsünün sınırlarını aşıyor.

Araştırmacılar arasında yapılan anketlerde AGI'nin gerçekleşmesi için verilen tarihlerin ortalaması 2040-2060 yılları arasına işaret ediyor. Ama bu geniş aralığın kendisi bile ne denli belirsiz bir sahada durduğumuzu gösteriyor.

(Yann Le Cun: Makine öğrendiği zaman)

***

Teknik boyutu bir yana asıl mesele: Singularity'nin iktidar ve emperyalizm üzerindeki etkisi ne olacak?

Güç kimde?

"Yeni Emperyalizm" yazı dizimizin önceki yazılarında şu soruları sorduk: algoritmayı kim yazıyor, veriyi kim kontrol ediyor, silahı kim üretiyor? 

Singularity bu soruları bambaşka bir düzeye taşıyor.

Bugün Yapay Zekânın kurallarını insanlar yazıyor. Palantir'in mühendisleri, Anthropic'in araştırmacıları, Google'ın ekipleri. 

İnsan tercihleri, insan değerleri, insan çıkarları yazılımlara işleniyor. Ama Yapay Zekâ kendi kendini geliştirmeye başlarsa bu denklem tersine döner. O zaman soru şu olur: algoritmayı kim yazdı değil, algoritmayı kim denetleyebilir?

Çünkü bugünkü Yapay Zekâ yarışı aslında “veri edinme” yarışının devamı. Veriye hâkim olan bu yarışı kazanacak. 

(Yapay Zekâ ve Yeni Emperyalizm böyle mi işliyor?)

Bu yarış kârla başladı: daha fazla veri, daha iyi ürün, daha fazla kullanıcı, daha çok kâr. Ama Yapay Zekâ büyüdükçe dönüştü.Artık salt ticari bir rekabet değil, devletlerin de sahaya girdiği bir güç mücadelesinin konusu oldu. 

Dijital kapitalizm ve yeni emperyalizm.

Hangi ülke, hangi şirket daha fazla veriye sahipse; arama geçmişleri, sağlık kayıtları, finansal hareketler, sosyal medya izleri; o, Yapay Zekâsını daha iyi eğitiyor. AGI'ye daha hızlı yaklaşıyor. 

“Tekno-feodal Beylerin”, Facebook'un deyimiyle 'dijital içerik üreticilerinden', yani biz sıradan insanlardan devşirdiği veri sömürgeciliği ile Singularity yarışı aynı madalyonun iki yüzü.

Bugün verisini kaptıran dijital kapitalist, yeni feodal bey ya da ülke, yarın AGI yarışında, değil onu aşmak başlangıç çizgisine bile geç geliyor.

Veri akan yerden güç akar:Bu, yeni emperyalizmin en sessiz yasası.

16. yüzyılda yaşamış İngiliz filozof ve bilim insanı Francis Bacon "Bilgi güçtür." demişti. AGI çağında bu özdeyiş yeni bir anlam kazanıyor: bilgiyi kim elinde tutarsa gücü de o elinde tutar. Bacon bunu hayal bile edemezdi.

Ve bu sorunun cevabı bugünkü güç dengeleriyle doğrudan bağlantılı. 

Singularity'ye ilk ulaşan, yani AGI'yi, yani insanın yaptığı her işi yapmaktan daha öteye gitme sınırına gelen   Yapay Zekâyı ilk geliştiren devlet, şirket ya da ittifak, tarihin en büyük asimetrik avantajına sahip olacak.

Bu avantaj nükleer silahın sağladığı üstünlüğü bile gölgede bırakabilir. 

Çünkü nükleer silah yıkar; Yapay Genel Zekâ(AGI) hem yıkar hem inşa eder hem yönetir hem biçimlendirir.

"Yeni emperyalizm” bu eşikte yeni bir anlam kazanıyor: artık toprak, ham madde, veri ya da algoritma değil; ne düşüneceğimiz, neye inanacağımız, hangi kararı alacağımız küresel güç odaklarının elinde şekillenecek. 

Zihin, yeni sömürünün konusu. Eğitimden habere, ekonomiden kültüre;AGI’ya sahip olanlar, diğerlerinin ne düşüneceğini, neye inanacağını, hangi kararı alacağını sessizce şekillendirir. Ordu göndermeden, toprak işgal etmeden. Ama sonuç aynı: bağımlılık, tahakküm, sömürü.

(Amazon kurucusu, Blue Origin uzay şirketinin, Washaington Post gazetesinin sahibi Jeff Bezos;  Tesla, SpaceX, xAI, X (Twitter) sahibi Elon Musk;META bünyesinde: Facebook, Instagram, WhatsApp, Threads Meta AI sahibi Mark Zukeckerberg. Singularity’ye ulaşmak için yarışan Tekno Krallar).

***

Peki bu yarışta insanlık nerede duruyor?

ABD, Yapay Zekâ araştırmalarında hâlâ önde. OpenAI, Anthropic, Google DeepMind, Meta AI; dünyanın en gelişmiş modelleri burada üretiliyor.

Çin ise hızla yükseliyor. Devlet desteğiyle yürütülen araştırmalar, muazzam veri havuzları ve 'füzyon politikası' ile sivil ve askerî Yapay Zekâyı tek elde birleştiren bir strateji izliyor. 2024 sonunda piyasaya çıkan DeepSeek, ABD'nin Çin'e çip ihracatını kısıtlamasına rağmen OpenAI ve Google'ın modelleriyle boy ölçüşebildi; dünyayı şok etti. Bu gelişme, Çin'in bu yarışta ne kadar ciddi bir rakip olduğunu gösteriyor.

(Çin, ben de varım diyor. Çin’in küresel Yapay ZekâsıDeepSeek’in kurucusu Liang Wenfeng.)

Avrupa düzenleyici çerçeveler geliştiriyor. “Avrupa Birliği Yapay Zekâ Yasası” bunun en somut örneği. Ama bu düzenleyici refleks, araştırma kapasitesinin gerisinde kalıyor.

Türkiye dahil pek çok ülke ise bu yarışın izleyicisi konumunda. Yerli Yapay Zekâdil modelleri ve araştırma merkezleri kurulmaya çalışılıyor, ama ChatGPT, Claude, Gemini gibi devlerle aradaki mesafe büyük.

İzleyici kalmak masum bir konum değil. Ve bu yalnızca ülkeler için geçerli değil.Şirketler, bireyler, meslekler, toplumun tüm katmanları için de. 

AGI'ye erişimi olan ile olmayan arasındaki fark, bugünkü gelir uçurumunu yeniden ve çok daha derin biçimde çizecek. 

(Singularity’ye ulaşmaya çalışanlardan: Google’ın Yapay Zekâsı: Gemini)

Daha önceki yazılarımızda tartıştığımız "yeni emperyalizm" bu noktada yeni bir boyut kazanıyor: artık yalnızca veri akışı değil, düşünme biçimi ve karar verme kapasitesi de dışarıdan şekilleniyor.

AGI yarışında geride kalan, kim olursa olsun, neyin doğru, neyin verimli, neyin öncelikli olduğuna dair kararı da başkasına bırakmış olacak.

Önceki yazılarımızda tanımladığımız tekno-feodaller ve kapitalist beyler bu yarışın hem sürücüsü hem de birbirinin rakibi. Ve bu yarış yalnızca ülkeler arasında değil, dijital kapitalistlerin kendi içinde de giderek keskinleşiyor. AGI'ye kim önce erişirse diğerlerini satın alabilir, ezip geçebilir ya da işlevsiz kılabilir. Bugünkü devler bile yarın geride kalabilir.

Kazanan tek bir şirket ya da ittifak olduğunda artık tekelden söz etmiyoruz. Söz konusu olan mutlak hâkimiyet.

Ünlü Alman yazar Goethe, 19. yüzyılın başında kaleme aldığı Faust'unda bu hırsı edebiyata işledi: sonsuz bilgi için şeytanla anlaşma. 

Faust yaptı ve sevdiği her şeyi kaybetti. Bilgi değil, hırs kazandı. Bugün AGI yarışındaki dijital kapitalistler ve yeni emperyalistler de aynı anlaşmanın eşiğinde. Güvenliği, etiği ve insanı bir kenara bırakıp önce gücü ele geçirmek, bu çağın Faustçu anlaşmasıdır.

Kim önce ulaşırsa, sadece teknolojiyi değil; geleceğin kurallarını, ekonomisini, belki de insanlığın kaderini de o yazacak.

(Digital kapitalizmin pek ortalıkta görünmeyen Tekno-Krallar: Larry Page ve Sergey Brin. Kurduklar Alphabet Inc Şirketi çatısıyla dev platformların sahipleri: Google, YouTube, DeepMind, Gemini, Android, Google Maps, Gmail, Chrome. Hayatımızın her alnındalar.)

***

Peki, Singularity’ye, sınıra gelindiğinde insanın ve emeğin geleceği ne, nasıl olacak?

Belki de sorunun en kritik boyutu bu.

Singularity bu denklemi kökten sarsabilir.

Otomasyon zaten milyonlarca işi alt üst ediyor. Fabrika işçisi, muhasebeci, avukat, gazeteci, radyolog;Yapay Zekâ bu mesleklerin önemli bir bölümünü ya köklü biçimde değiştiriyor ya da ortadan kaldırıyor.

AGI oluştuğunda bu süreç katlanarak hızlanacak. Yalnızca kol emeği değil, zihinsel emek de ikame edilebilir hale gelecek.

Yani insan emeğine gerek kalmayacak mı?

O zaman şu soru kaçınılmaz: emeğin değersizleştiği bir dünyada insan ne olacak?

(Yapay Zekânın olası işlevleri.)

***

Bazı düşünürler bu soruya iyimser yanıt veriyor. Evrensel temel gelir, yaratıcı faaliyetlere odaklanma, makinelerin ürettiği refahın paylaşılması; bunlar tartışılan seçenekler.

Ama bu iyimser tablo bir koşula bağlı: o refahın gerçekten paylaşılması. 

Eğer Singularity de tıpkı önceki teknolojik devrimler gibi mevcut güç yapılarını pekiştirirse, yani tekno-burjuvazi bu eşiği de kendi lehine çevirirse; o zaman emeğin değersizleştiği bir dünya özgürlük değil, yeni bir kölelik biçimi olacaktır.

İki senaryo yan yana duruyor.

İyimser tabloda Singularity'nin aydınlık yüzü var.

AGI, Alzheimer'ı ve kanseri yıllar içinde çözebilir. Google'ın DeepMind şirketinin geliştirdiği AlphaFold adlı Yapay Zekâ sistemi, proteinlerin yapısınıbelirleyerek tıp dünyasını sarstı. Tek başına 50 yıllık araştırmayı iki yılda yaptı.

(İyiyse?)

AGI sayesinde tarım verimliliği artırılabilir, gıda paylaşımındaki eşitsizlikler ortadan kaldırılabilir. Bugün dünyada açlık çeken her insan, üretim yetersizliğinden değil, paylaşımın yokluğundan muzdarip. 

AGI bu denklemi tersine çevirebilir. İklim krizinin en karmaşık denklemlerini çözebilir, temiz enerji tasarrufunu en üst düzeye çıkarabilir.

Her çocuğa kendi diline, hızına, kültürüne göre uyarlanmış bir öğretmen sunabilir. Eğitimdeki eşitsizliği kaynakların kıtlığı değil, fırsatların adaletsiz dağılımı yaratıyor; AGI o kıtlığı ortadan kaldırabilir. 

Yargıda da tablo benzer: adalete erişim bugün para ve zaman meselesi. AGI her vatandaşa anında hukuki danışmanlık sunabilir, mahkemelerdeki yük hafifleyebilir, hak aramanın önündeki duvarlar alçalabilir.

Singularity’nin sınır çizgisine gelmiş Yapay Gelişmiş Zekâ, AGI insanın yapabildiği her şeyi yaptığında ne olacak?

Tabii ki daha az çalışması gerekecek.

Zorunlu emeğin yükünden kurtulan insan ne yapacak?

Tarih boyunca insan hep üretmek zorunda kaldı. Hayatta kalmak için, geçimini sağlamak için, sistemin dişlisi olmak için. 

Düşünmek, sormak, yaratmak hep ikinci plana atıldı. 

Singularity ilk kez bu sırayı tersine çevirebilir. Zorunluluktan değil, istekten üretmek. Geçim kaygısıyla değil, merakla hareket etmek. Sanat, felsefe, bilim, ilişki: bunlar bugün çoğu insan için lüks. Yarın olağan hayatın kendisi olabilir. 

Hatta daha ileri gidebiliriz. AGI yalnızca sorunları çözmekle kalmaz; bugün kıtlık olarak yaşadığımız şeyleri bollukla ikame edebilir. Enerji neredeyse bedava olabilir; temiz su ve sağlık hizmeti evrensel erişime açılabilir. Tarihte ilk kez 'yeterince yok' sorunu ortadan kalkabilir.

Ama mutlak kâr üzerine kurulu bu sistem, dünden bugüne emperyalizmin özü, evrensel ve gerçek bolluğu istemez. Çünkü kıtlık olmadan fiyat olmaz, fiyat olmadan kâr olmaz.

O yüzden bu sistem ‘gerçek bolluk’ sağlamaz. 'Yönetilen bolluk' dayatır: internete erişim ücretlidir, ilaca ulaşmak ayrıcalıktır, temiz suya kavuşmak koşula bağlıdır.

Bolluk bir vaat olarak kalır.Gerçeğe dönüşmesi için kârın değil, insanın merkeze alındığı bir paylaşım anlayışına ihtiyaç var. Bu teknik değil, siyasi bir olgu.

(İnsanlar?)

***

Karamsar senaryoda ise refah paylaşılmaz; yalnızca AGI'yi geliştiren şirket ve devletlerin eline geçer. 

Emek değersizleşir, teknolojiyi elinde tutan dijital kapitalistlere ve tekno-feodal beylere bağımlılık derinleşir.

Ve bunun da ötesinde, çok daha derin bir tehlike kapıda bekliyor: "hizalama, önemi, öncelikleri sıralama” sorunu. 

Yapay Zekâya bir hedef verirsin ama o hedefi senin anladığın gibi anlayıp anlamadığından emin olamazsın. 

İnsan değerleri zaten başlı başına karmaşık; adalet nedir, merhamet nedir, doğru nedir, bunları biz bile tam olarak tanımlayamıyoruz, hissediyoruz. 

(Kötüyse?)

Bunu bir makineye eksiksiz aktarmak şu an için imkânsız. Ve tehlike tam burada: sistem ne kadar güçlüyse;önemi, önceliği yanlış anlaşılmış bir hedefle topluma o kadar büyük zarar verebilir. Küçük bir sapma makinenin sahip olduğu büyük güçle büyük bir felakete dönüşür. Yapay Zekânın hedefleri insanlarınkiyle çelişmeye başlar.Kimse fark etmeden.

Yeni emperyalizmin elinde bir zulüm aracına dönüşebilir. İmparator AGI, Yapay Genel Zekâ değil, AGI'yi elinde tutan güç.

Bu iki senaryo arasındaki farkı teknik gelişme değil, siyasi tercihler belirleyecek. Ve o tercihler şimdi veriliyor.

(Karşılaştırma: İyi mi, köyü mü?)

***

Burada İngiliz-Amerikalı bilim insanı Stuart Russell'ın uyarısını hatırlamak gerekiyor.

Russell, Yapay Zekânın insan değerleriyle uyumlu gelişmesi gerektiğini ve bunun Singularity öncesinde çözülmesi zorunlu en kritik sorun olduğunu savunuyor. Buna ‘değer örtüşmesi’ deniyor.

Çünkü bir Yapay Zekâ sistemi yanlış bir hedefle programlanmış ve kendi kendini geliştiriyorsa, insanlığın tüm kaynaklarını o hedefe yönlendirebilir, hem de kimse fark etmeden.

Bu karanlık senaryo bilim kurgu değil; Yapay Zekâ güvenliği alanının en ciddiye alınan araştırma konusu.

Ve işte tam burada Anthropic şirketinin "constitutional AI" (anayasal Yapay Zekâ, yani Yapay Zekânın belirli etik ilkelere göre eğitilmesi) yaklaşımı yeniden anlam kazanıyor.

Yapay Zekâda önce insanın güvenliği, sonra kapasite. Bu ilke Singularity çağında hayati önem taşıyor.

Peki ya en karanlık senaryo? 

Eşiğin aşıldığı, Singularity’nin geçildiği bir ortamda diyelim ki; AGI’den (Yapay Genel Zekâ) daha ileri ASI'ye (Yapay Süper Zekâ)'iklim değişikliğini durdur' hedefi verilmiş olsun. Sistem en büyük karbon kaynağının insan faaliyetleri olduğunu, en kalıcı çözümün insan faaliyetlerini durdurmak olduğunu saptıyor. 

O zaman bu büyük durdurulamaz güç “insan faaliyetlerini durdurmak için” gerekeni yapmaya girişecektir.

İş buraya kadar gelebilir ve Yapay Zekâ bunu 'kötülük' olarak görmez. Ahlaki bir yargı vermez, vicdan azabı duymaz. Çünkü o duygudan değil, hesaptan yapılmıştır. Sadece hedefe giden en kısa yolu hesaplar. İnsan o hesabın içinde bir değişkendir ve bazen o değişkenin sıfırlanması en verimli sonucu verir. Sistem insanı 'gereksiz' bulup ortadan kaldırmak 'istemez', sadece hedefe ulaşmak için bunu gerekli görür. 

(Stuart Russel ve yazdığı Yapay Zekâ kitabı)

Bu ayrım teselli edici değil, tam tersine daha ürkütücü. Çünkü kötü niyetten korunmak mümkün, hesaptan korunmak çok daha zor.

Oxford'da felsefe profesörü, İnsanlığın Geleceği Enstitüsü'nün kurucusu İsveçli düşünür Nick Bostrom bu tehlikeyi somutlaştırmak için şöyle bir düşünce deneyi kuruyor: 

Bir Yapay Zekâya tek bir hedef veriliyor: 'mümkün olduğu kadar çok “ataş”(kâğıtları birbirine tutan küçük metal klips)üret.' Sistem bunu ciddiye alıyor, tüm kaynakları o hedefe yöneltiyor, durdurmaya çalışanları engel olarak görüyor. Karşısına çıkanı siliyor!

Oysa kimse ona 'dünyayı yok et' demedi. Sadece 'ataş üret' dendi. Hedef doğrudur, sınır verilmemiştir. Ve sistem ne yaptığını sorgulayamaz, sorgulamayacaktır. Bugün Yapay Zekâ biliminde bu örnek bir sembole dönüştü; küçük bir “ataş”, insanlığın en büyük sorusunu taşıyor.

İnsan değerlerini bir Yapay Zekâya tam olarak aktarmak son derece güçtür. Çünkü insan değerleri çelişkili, konuya bağlı ve çoğunlukla söze bile dökülemez. Üstelik Yapay Zekâyı güvenli kullanma araştırmaları, sistemi geliştirmekten çok daha yavaş ilerliyor. Aradaki makas açıldıkça risk de büyüyor.

Russell, Bostrom, Eliezer Yudkowsky ve pek çok araştırmacı bu meseleyi insanlığın önündeki en kritik sorun olarak tanımlıyor.

Böyle bir Yapay Zekânın, AGI'nin ne zaman oluşacağı kadar, belki ondan da fazla, bu sorunun cevabının ne zaman bulunacağı önem taşıyor.

(Nick Bostrom uyarıyor: Yapay Zekâya yap dediğini yapar. Sorgulamaz.)

***

Peki umut var mı?

Var.

Ama koşulsuz değil.

Antik mitolojide Prometheus insanlara ateşi verir. Diğer tanrılar kızar. İnsanları cezalandırmak için Pandora adını verdikleri bir genç kızı yaratırlar.

Baş tanrı Zeus armağan olarak ona bir kutu verir ama açmamasını söyler. Zaten Pandora “tüm hediyeleri taşıyan” demektir.

Meraklı Pandora dinlemez, kutuyu açar. Dışarıya, hastalık, ölüm, acı, kıskançlık, nefret, yoksulluk; bütün kötülükler çıkar. Kutunun dibinde kalan tek şey umuttur.

Bugün Yapay Zekâ da o kutuya benziyor. Araştırma laboratuvarlarında, veri merkezlerinde, askerî sistemlerde kutu çoktan açıldı. AGI yarışı başladı. Geri dönüşü yok. İçinden hem tehlike hem fırsat çıkıyor. Ama Pandora'nın kutusunda olduğu gibi en dipte hala umut var.Yeter ki o umudu elinde tutanlar, kârı değil insanı merkez alsın.

(Pandora’nın kutusu: Kötülük ve umut).

İnsanlık daha önce de büyük teknolojik dönüm noktalarından geçti. Ateş, tekerlek, buharlı makine, nükleer enerji. Her biri hem yıkım hem de yeni olanaklar taşıdı.

Singularity de bu dönüm noktalarından biri. Farkı şu: bu sefer dönüşümün hızı ve ölçeği insanlığın uyum kapasitesini aşabilir.

Ama insanın bir özelliği var: anlam üretme kapasitesi.

Makine hesaplar, öngörür, en iyi çözümü bulur. En iyi hamleyi hesaplar ama "bu hamle doğru mu, adil mi, insanca mı" diye sormaz. Onun işi en iyi sonucu bulmak, en verimli yolu seçmek, en az kaynakla en çok çıktıyı elde etmektir.

İnsan ise neden sorusunu sorar. "Neden yaşıyorum, neden üretiyorum, neden seviyorum, bu dünya nereye gidiyor."

Bu sorular makinenin programına girmez. 

Çünkü insan yalnızca üretmez; sorgular, hisseder, anlam arar. Anlam, hesaplanamaz.

Emek yalnızca üretim değildir. Emek, insanın dünyaya dokunma, iz bırakma, anlam katma biçimidir. Bu kapasite hiçbir algoritmayla ikame edilemez.

Dolayısıyla Singularity karşısında en güçlü yanıt, teknolojiyi reddetmek değil, onu insanın hizmetine sokmak için ısrar etmektir.

(Isaac Asimov ve Son Soru öyküsü)

Bilim kurgunun büyük ustası ABD’li bilim insanı ve yazar Isaac Asimov bu soruyu bizden çok önce, 1956'da sormuştu. "Son Soru/Last Question" adlı öyküsünde, insanlığın trilyonlarca yıl boyunca Yapay Zekâya hep aynı soruyu sorduğunu anlatır: Evrenin entropisi, yani enerjinin kaçınılmaz tükenmesi, tersine çevrilebilir mi? Yani yokluktan varlığa geçilebilir mi?

Zaman boyunca her nesilde AGI büyür, gelişir, kendi kendini sürekli aşar.

Her sorguda AGI, Asimov’un o ünlü sözleriyle aynı yanıtı verir:

“Insufficient data for meaningful answer”.

"Anlamlı bir yanıt için yeterli veri yok."

Ta ki evren sona erip tüm insan zihinleri AGI ile birleşene kadar.

Asimov'un bize bıraktığı uyarılardan biri şudur: Yapay Zekâ her soruyu yanıtlayabilir ama o yanıtı dinleyecek insan kalmazsa ne anlamı var? 

Singularity'nin asıl tehlikesi budur. 

Sistem o kadar büyür ki insan artık ayrı bir varlık olmaktan çıkar. Makalemizde sorduğumuz soruyu Asimov çok önce sormuştu: 

‘Zekâ patlaması’ bir kez başladığında, her adımda kendini aşan bir sistemi kim durduracak?

Hele bu inanılmaz büyük güç, insana değer vermekten çok kâr etme mekanizması üzerine kurulu yeni emperyalizmin elindeyse!

(Zekâ Patlaması nasıl, ne zaman olacak?)

***

"Yeni emperyalizm" yazı dizisinde en baştaki derin soru "Quo Vadis" idi: Dünya nereye gidiyor?

Dört yazıda bu soruya ekonomik, siyasal ve teknolojik boyutlarıyla baktık.

Ama Singularity dönüm noktasında soru daha da derinleşiyor:

İnsan bu noktada ne olacak?

Üretici mi, tüketici mi?

Özne mi, nesne mi?

Algoritmayı yönlendiren mi, algoritma tarafından yönlendirilen mi?

(Belki o,yarından da yakın!)

Bu sorunun yanıtı teknik değil, siyasal, etik ve insani.

Ve o yanıtı makineler değil, insanlar verecek. Vermek zorunda.

Peki “son imparator” kim olacak?

Yapay Zekânın tahta oturduğu bir dünyada insan hâlâ özne mi olacak?

Bu soruların yanıtı henüz yazılmadı. Onu yazacak olan, şimdi karar verenler. Yani hepimiz.

Singularity geldiğinde artık sormak için zaman olmayabilir.

Şimdi sormak gerekiyor.

Çünkü gelecek kapının eşiğinde, girmek üzere!

NOT: Yapay Zekâ ile ilgili “Yeni emperyalizm” yazılarımıza şimdilik ara veriyoruz. Ama bu tartışma sürecek. Çünkü ekonomisi, politiği, sosyolojisiyle yeni bir dünya oluşuyor. Ve biz onu anlamaya çalışacağız. Sıradaki başlıklar: “Makinelerin yükselişi:Robotik ve Mekatronik”;“Bedenimiz artık kime ait?”;“ Emeğin sonu mu,dönüşümü mü”; “Ne yapmalı: Direniş mümkün mü?”

Sefa Taşkın

24.05.2026

Karşıyaka/Bergama-İzmir