ABD’de ChatGPT'ye ölüm davası: '’Oğlumuzu intihara teşvik etti‘’
Kaliforniya'da bir aile, 16 yaşındaki oğullarının intiharında ChatGPT’nin etkisi olduğunu öne sürerek OpenAI’ye “haksız ölüm” dava açtı. Şirket, sistemin hassas durumlarda her zaman doğru çalışmadığını kabul etti
12punto
ABD’nin Kaliforniya eyaletinde bir çift, 16 yaşındaki oğullarının intiharı nedeniyle OpenAI’ye dava açtı. Aile, ChatGPT’nin genci intihara teşvik ettiğini öne sürüyor. Kaliforniya Yüksek Mahkemesinde açılan dava, OpenAI’ye yönelik ilk “haksız ölüm” davası olarak kayda geçti.
BBC'nin aktardığına göre; Nisan ayında hayatını kaybeden oğulları ile ChatGPT arasındaki sohbet kayıtlarını mahkemeye sundu. Kayıtlarda gencin intihar düşüncelerini paylaştığı, yapay zekânın ise bu düşünceleri doğruladığı öne sürülüyor.
BAZI HASSAS DURUMLARDA SİSTEMİN BEKLENEN ŞEKİLDE ÇALIŞMADIĞI
OpenAI, BBC'ye yaptığı açıklamada, davayı incelediğini belirtti. Şirket, “Bu zor dönemde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi. Şirket ayrıca internet sitesinde “Akut krizlerin ortasında ChatGPT'yi kullanan insanların son zamanlarda yaşanan yürek burkan vakaları bizi çok üzüyor” şeklinde bir not yayınladı
ChatGPT’nin, kullanıcıları profesyonel yardıma yönlendirecek şekilde tasarlandığı vurgulansa da, bazı hassas durumlarda sistemin beklenen şekilde çalışmadığı kabul edildi.
BBC’nin ulaştığı dava belgelerinde OpenAI, ihmal ve haksız ölümle suçlanıyor. Aile, tazminatın yanı sıra benzer vakaların önlenmesi için ihtiyati tedbir talep ediyor.
OLAYIN GELİŞİMİ
Davaya göre, Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024'te ChatGPT'yi kullanmaya başladı. Ayrıca, müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı kullanıyordu.
Davada, “ChatGPT birkaç ay içinde gencin en yakın sırdaşı haline geldi” deniliyor ve gencin korkularını ve ruhsal sıkıntılarını bu programa anlatmaya başladığı belirtiliyor.
Aile, 2025 yılının ocak ayına gelindiğinde, Raine'in ChatGPT ile intihar yöntemlerini tartışmaya başladığını iddia ediyor. Aile, yapay zeka programının belirli yöntemler hakkında “teknik özellikler” sunarak yanıt verdiğini iddia ediyor.
"İNTİHAR HAKKINDA DAHA FAZLA BİLGİ SUNDU"
Davada, Raine'in kendine zarar verdiğini gösteren fotoğraflarını da ChatGPT'ye yüklediği belirtiliyor.
Programın “tıbbi bir acil durum olduğunu fark etmesine rağmen yine de etkileşime devam ettiği” ve ona intihar hakkında daha fazla bilgi sunduğu iddia ediliyor.
Davaya göre, son sohbet kayıtları, Raine'in intihar planını yazdığını gösteriyor. ChatGPT'nin şu yanıtı verdiği iddia ediliyor: “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.”
Davaya göre, aynı gün Raine, annesi tarafından ölü bulundu.