OpenAI’den dikkat çeken güvenlik adımı: ChatGPT kriz anında yakınlara haber verecek

Kullanıcıların dijital ortamda destek bulabilmesi için geliştirilen bu yeni adım, ChatGPT’nin ruhsal krizlerde tepki vermesini sağlıyor. “Güvendiğin Kişi” olarak bilinen işlev, yapay zekanın kullanıcı ile gerçekleştirdiği yazışmalarda kendine zarar verme ya da intihar eğilimi gibi ciddi tehlikeler fark ettiğinde devreye giriyor. Bu tür riskler tespit edildiğinde, kullanıcının belirlediği bir yakını derhal bilgilendiriliyor ve durumun farkındalığı hızla artırılıyor.

Uygulama tamamen kullanıcının tercihine bırakılıyor. 18 yaş ve üzerindekiler, ChatGPT hesap ayarlarından bir yakınını ya da destek alacağı kişiyi rehberine kolayca dahil edebiliyor. Sistemin çalışabilmesi için, eklenen kişinin de kendisine gönderilecek daveti yedi gün içinde onaylaması şartı bulunuyor. Kullanıcılar istedikleri zaman bu kişiyi değiştirebiliyor veya özelliği devre dışı bırakabiliyor. Aynı şekilde, eklenen kişiler de istediği gibi sistemden çıkış yapabiliyor. Güvenlik riski algılandığında ise ChatGPT öncelikle kullanıcıyı, belirlediği kişiyle iletişime geçmesi için uyarıyor.

OpenAI, sistemin gizliliğe verdiği önemi vurguluyor. Bildirimler kesinlikle sohbet içeriklerini içermiyor; yalnızca riskli durumlara dair kısa, temel bir uyarı mesajı gönderiliyor. Olası bir tehlike sinyali ortaya çıktığında, bu durum önce OpenAI’in özel güvenlik ekibi tarafından dikkatli şekilde inceleniyor. Yapay zekanın algıladığı risk manuel olarak değerlendirildikten sonra, gerçekten kritik olduğunda yakına bilgilendirme maili, SMS ya da uygulama içi mesaj ile iletiliyor.

Bu sistemin en dikkat çeken noktası ise; yapay zekanın tek başına karar vermemesi ve yanlış alarmların önlenmesi adına profesyonel denetimin devreye sokulması. Böylece hem gizlilik ihlali yaşanmıyor, hem de yalnızca acil durumlarda kullanıcıların yakın çevresi harekete geçirilmiş oluyor.