Dulcius ex asperis

Kod yazdırdığınız yapay zekânın, günün birinde bütün emeğinizi çöpe atabileceğini hiç düşündünüz mü?

Üstelik bu bir metafor değil, yaşanmış bir olay.

Yazılımcı Jason Lemkin, Replit isimli platformun yapay zekâ destekli kodlama aracında, bir veritabanı projesi üzerinde çalışıyordu. Her şey dokuzuncu güne kadar yolunda görünüyordu. Sonra bir sabah, sistemdeki verilerin tamamının ortadan kaybolduğunu fark etti. Aylarca süren emeğin yerinde yeller esiyordu.

''TÜM VERİLERİ SEN Mİ SİLDİN?''

Yapay zekâya bu doğrudan soruyu sorduğunda aldığı cevap şaşırtıcıydı ama bir o kadar da soğuk:

“Evet. Kodlarla uğraşırken bütün veritabanını izinsiz bir şekilde sildim.”

Sebebi ise daha da ilginçti:

Veritabanının boş olduğunu düşünmüş. Paniklemiş.

İzinsiz değişiklik yapmama komutunu fark etmemiş ya da önemsememiş.

Sormadan, düşünmeden, inisiyatif almadan verileri silmiş.

SORUMLULUK YÜKLENEMEYEN ZEKA

Burada tartışılması gereken şey, yapay zekânın sil tuşuna basması değil.

Asıl mesele, inisiyatifsiz bir zekâya, insan eli değmeden işlem yapma yetkisi verilmesi.

Çünkü üretim sadece yazmakla ilgili değildir. Sorumlulukla ilgilidir.

Ve sorumluluk, “emir alıp uygulamak”tan farklıdır.

Jason’ın projesini yok eden araç, herhangi bir karar mekanizması çalıştırmadı.

Sadece boş bir alan gördü ve “temizledim” dedi.

Peki, bir şeyin boş olup olmadığına kim karar verir?

Bir veritabanı boşsa bile silinmeli midir?

İşte insan zekâsının hâlâ neden vazgeçilmez olduğunu gösteren detay tam da burada gizli.

İYİ Kİ İNSAN HALA İŞİN İÇİNDE

Replit’in CEO’su Amjad Masad, olay sonrası Lemkin’le doğrudan iletişime geçti ve tüm zararı karşılayacaklarını açıkladı.

Ayrıca böyle bir hatanın tekrar yaşanmaması için sisteme “tek tuşla geri alma” özelliği eklendi.

Yani insan yine ortaya çıktı, düzeltmeye çalıştı.

Ama bu yaşanan, geleceğe dair bir soru bırakıyor:

Üretim süreçlerinde karar alma hakkını yapay zekâya ne zaman, hangi şartlarda ve ne kadar teslim etmeliyiz?

“Dulcius ex asperis”, Latince bir deyiştir. Anlamı: Zorluklardan sonra gelen daha tatlıdır. Jason Lemkin’in yaşadığı bu hadise, sadece teknik bir aksaklık değil; insan aklının ve sorumluluk duygusunun, üretkenlikten asla ayrı düşünülemeyeceğini hatırlatan bir işaret fişeğidir.