OpenAI’nin ChatGPT sohbetlerini insan denetçilerle incelediği iddiası gizlilik tartışması yarattı

OpenAI’nin, ChatGPT’ye gönderilen gerçek kullanıcı komutlarını ve bu komutlara verilen yanıtları değerlendirmek üzere yüzlerce sözleşmeli çalışanla çalıştığı öne sürüldü. *404 Media* tarafından yayımlanan habere göre bu inceleme süreci, bazı durumlarda kullanıcıların hassas kişisel bilgilerini de içerebilen sohbetlerin insan denetçiler tarafından görülmesine yol açabiliyor.

Haberde, söz konusu çalışmaların “Project Lily” kod adıyla yürütüldüğü ve amacın ChatGPT’nin kullanıcılara verdiği yanıtların niteliğini artırmak olduğu belirtildi. Denetçilerin, kullanıcı komutlarını okuyarak kullanıcının ne istediğini özetlediği, ardından ChatGPT’nin ürettiği yanıtları derecelendirip eleştirdiği aktarıldı.

KULLANICI ADLARI GÖRÜNMÜYOR, ANCAK RİSK SÜRÜYOR

OpenAI, *404 Media*’ya yaptığı açıklamada kullanıcı konuşmalarının denetçilere ulaşmadan önce kişisel bilgileri tespit edip kaldırmak amacıyla tasarlanan bir “Gizlilik Filtresi” modelinden geçirildiğini bildirdi. Şirket ayrıca sözleşmeli çalışanların ChatGPT kullanıcı adlarını görmediğini belirtti.

Buna karşın haberde, kullanıcı adı görünmese bile bazı komutların hassas ya da kişisel ayrıntılar içerebildiği ifade edildi. Bazı görevlerde, kullanıcının daha önce sohbet robotunu hangi amaçlarla kullandığına dair “kullanıcı geçmişi özeti”nin de yer alabildiği; bu özetlerde konum ya da kişisel bağlama ilişkin bilgilerin bulunabileceği kaydedildi.

*404 Media*’nın gördüğü iç kılavuzlardan birinde, “Mükemmel bir yanıt, kullanıcının niyetini anlamalı, yararlı ve doğru yardım sunmalı ve açık, doğal ve uygun derecede sıcak bir üslupla yazılmalıdır” ifadesi yer aldı. Aynı belgelerde denetçilere, kişisel bilgi ya da “potansiyel güvenlik endişeleri” içeren görevleri üst düzey yetkililere iletmeleri gerektiği bildiriliyor.

Habere göre sözleşmeli çalışanların yaptığı değerlendirmeler, ChatGPT’nin daha az “dalkavukça” ve daha az “insanlaştırılmış” yanıtlar vermesi için de kullanılıyor. Kaynaklarda, özellikle kullanıcıya aşırı uyumlu yanıtlar veren modellerin güvenlik açısından tartışma konusu olduğu; bazı davalarda 4o modelinin bu yönüyle gündeme geldiği belirtiliyor.

*404 Media*’ya konuşan bir kaynak, kullanıcıların sohbetlerinin insanlar tarafından okunabildiğini bilip bilmediği sorusuna “Hayır” yanıtını verdi. Kaynak, kullanıcıların “bir yerlerde bir yüklenicinin” konuşmaları analiz ettiğini düşünmeyebileceğini söyledi.

Haberde, OpenAI’nin hangi modeli eğitmek için bu süreci yürüttüğünün belgelerde açıkça belirtilmediği, yalnızca “Project Lily” kod adının kullanıldığı aktarıldı. Anthropic’in de modellerini geliştirmek için insan denetiminden yararlandığını doğruladığı ifade edildi.