Beni yanlış çizen algoritma

Geçenlerde bir öğrencim internetten benim bir fotoğrafımı bulmuş. Arkamda Boğaz Köprüsü, ben gülümseyerek poz veriyorum. Bu fotoğrafı yapay zekaya yüklemiş ve bana ait bir görüntü üretmesini istemiş. Akademisyen olduğumu da söylemiş herhalde ki elimde bir kalem, kâğıda bir şeyler yazarken resmedilmişim. Ortaya çıkan görüntü şaşırtıcı derecede iyi. Yüzüm bana tıpatıp benziyor, ifade bana benziyor, ışık ve detaylar ikna edici. Çerçeveletip bana hediye etti. Bu güzel hediye için kendisine teşekkür ettim. Sonra resme bakınca fark ettim ki resimde bir hata var. Kalemi sağ elimle tutuyorum. Oysa ben solağım ve kalemi sol elimle tutarım.

Yapay zekâ beni böyle tanımadığı için yanlış çizdi.

Bu küçük hata büyük bir soruya açılıyor. Yapay zekâ neden böyle bir hata yaptı ve bu hatayı nasıl düzeltiriz.

İlk ihtimal algoritmik yanlılıktır. Yapay zekalar büyük veri kümeleriyle eğitiliyor. Bu veri kümelerinde insanların çoğu sağ ellerini kullanıyor. Dolayısıyla sistem için kalem tutan insan varsayılan olarak sağ ellidir. Azınlık olan solaklık görünmezleşir. Safiya Noble’ın gösterdiği gibi algoritmalar dünyayı olduğu gibi değil, verinin çoğunluğu gibi temsil eder.

İkinci ihtimal bilgi eksikliği. Yapay zekâ benim hakkımda yeterli bilgiye sahip olmadığı için en olası olanı seçti. Bir “educated guess” yaptı. Çünkü bu sistemler en yüksek olasılığı gerçeklik yerine koyar. Bu noktada cazip bir çözüm ortaya çıkıyor. Algoritmalar bizi daha iyi tanısın. Hakkımızda daha çok bilgi sahibi olsun. O zaman bizi daha doğru temsil etsin. İlk başta fena bir fikir değil gibi görünüyor.

Ama tam burada asıl soruyla karşılaşıyoruz. Çünkü bilmek masum değildir. Foucault’nun söylediği gibi bilgi her zaman bir iktidar ilişkisidir. Zuboff’un işaret ettiği gibi bu bilgi bugün davranışsal öngörü ve yönlendirme ekonomisinin hammaddesidir.

Beni daha doğru çizmek isteyen sistem, zamanla beni daha iyi tahmin eden, daha iyi yönlendiren ve daha iyi yöneten bir sisteme dönüşür. Langdon Winner’ın dediği gibi teknolojik sistemler sadece araç değildir, norm koyarlar. Sağ elle yazan insan norm olur. Diğerleri istisna. Bu da Spivak’ın tarif ettiği epistemik şiddetin küçük ama öğretici bir örneğidir. Bazı özneler sistematik olarak yanlış temsil edilir ya da hiç temsil edilmez.

Ortaya çıkan görüntü bir simülasyondur. Baudrillard’ın dediği gibi simülasyon gerçeği yansıtmaz, onun yerini alır. Ben olmayan ama bana benzeyen bir ben dolaşıma girer.

Ve bütün bunlar bir risk üretir. Beck’in dediği gibi bu risk dışsal değil, sistemin içindedir.

Son olarak bu sürecin duygusal bir boyutu vardır. Yapay zekanın bizi doğru temsil etmesini istemek aynı zamanda doğru anlaşılma arzusudur. Papacharissi ve Illouz’un gösterdiği gibi duygular da bugün yönetilen ve sömürülen bir alandır.

Bu yüzden mesele kalemi hangi elle tuttuğumdan ibaret değildir.

Mesele şudur:

Algoritmalar bizi ne kadar doğru tanımalı.

Beni yanlış çizen bir algoritma can sıkıcıdır.

Ama beni kusursuz çizen bir algoritma daha tehlikelidir.

Çünkü kusursuzluk, mesafenin kaybolduğu yerdir.

Ve bazen mesafe, hatadan daha güvenlidir.