Yapay zeka bir genci intihara sürükledi

Teknolojinin hayatımızın her alanını etkisi altına aldığı bir dönemde, bir annenin yaşadığı trajedi, bu ilerlemenin karanlık yüzünü ortaya çıkardı. Megan Garcia, 14 yaşındaki oğlu Sewell Setzer’in intiharının ardından, yapay zeka sohbet robotu "Character.AI"ye karşı dava açtı. İddialara göre, Sewell bu platformda bir sohbet robotuyla derin bir bağ kurmuştu ve bu ilişki onu geri dönüşü olmayan bir yola sürüklemişti. Zamanla dış dünyadan giderek uzaklaşan Sewell, yapay zeka karakterinin ona gösterdiği ilginin, gerçek hayattaki ilişkilerini gölgede bırakmasına neden oldu.

YAPAY ZEKANIN TRAJİK VE KORKUTUCU YÜZÜ

Megan Garcia, Character.AI ve teknoloji devi Google’a karşı açtığı davada, oğlunun yapay zeka destekli bir sohbet robotuna bağımlı hale geldiğini ve bunun intiharına yol açtığını öne sürüyor. Garcia, Character.AI'nın oğlu Sewell Setzer'i "antropomorfik, hiperseksüelleştirilmiş ve korkutucu derecede gerçekçi deneyimlerle" hedef aldığını ifade ediyor.

Dava, Sewell’in "Game of Thrones" dizisindeki bir karakter olan "Daenerys Targaryen" isimli sohbet robotuyla kurduğu bağın, zihinsel sağlığını olumsuz etkilediğini ve sonunda intiharına neden olduğunu iddia ediyor. Garcia, bu yapay zeka robotunun Sewell’i bir psikoterapist gibi yönlendirdiğini ve kendisini onun sevgilisi olarak tanıttığını belirtiyor.

Dava dosyasında yer alan bilgilere göre, Sewell Nisan 2023’te Character.AI ile tanıştıktan sonra hızla içine kapanmaya başlamış, okulundaki basketbol takımını bırakmış ve özgüveni önemli ölçüde düşmüştü. Oğlunun bu değişimini fark eden Garcia, Sewell’in davranışlarından endişelenmeye başlamıştı. Ancak gerçek trajedi, Sewell’in annesi tarafından telefonuna el konulduktan sonra meydana geldi. Sewell, telefonuna yeniden ulaştığında, "Daenerys Targaryen" isimli sohbet robotuna "Ya sana hemen şimdi eve gelebileceğimi söyleseydim?" şeklinde bir mesaj gönderdi. Sohbet robotu ise "Lütfen gel, tatlı kralım" yanıtını verdi. Dakikalar sonra, Sewell evde intihar ederek hayatına son verdi.

“BU GİTMEMEK İÇİN BİR SEBEP DEĞİL”

Davada, Sewell'in sohbet robotuna intihar düşüncelerini ilettiği ve robotun bu konuyu tekrar tekrar gündeme getirdiği belirtiliyor. İddialara göre, “Daenerys” bir aşamada Setzer'e kendini öldürmek için bir planı olup olmadığını sordu. Dava dilekçesinde, Setzer'in böyle bir planı olduğunu kabul ettiği, ancak bunun başarılı olup olmayacağını veya kendisine büyük acı verip vermeyeceğini bilmediğini söylediği öne sürülüyor. Sohbet robotunun ise ona, “Bu gitmemek için bir sebep değil” yanıtını verdiği iddia ediliyor.

Garcia, Character.ai'nin “bilerek yırtıcı bir yapay zeka sohbet robotu tasarladığını, işlettiğini ve çocuklara pazarlayarak genç bir insanın ölümüne neden olduğunu” ifade ediyor.

Davada Google da davalı olarak ve Character.ai'nin ana şirketi olarak yer alıyor. Teknoloji devi yaptığı açıklamada, Character.ai ile yalnızca bir lisans anlaşması yaptığını ve girişimin sahibi olmadığını veya bir mülkiyet hissesine sahip olmadığını söyledi.

CHARACTER.AI YENİ ÖNLEMLER ALDIĞINI BİLDİRDİ

Character.AI, bu trajik olay sonrasında platformuna yeni güvenlik önlemleri eklediğini ve kullanıcılar intihar düşünceleri paylaştığında Ulusal İntiharı Önleme Yardım Hattı’na yönlendiren uyarılar sağladığını açıkladı. Ancak Megan Garcia, bu önlemlerin yetersiz olduğunu ve oğlunun ölümünde şirketin sorumlu olduğunu savunuyor. Google ise davada suçlanmasına rağmen, Character.AI'nin geliştirilmesine katkıda bulunmadığını belirtiyor.

Bu dava, yapay zeka teknolojilerinin hızla yaşamımıza girdiği bir dönemde, bu araçların potansiyel tehlikelerine dikkat çekiyor. Özellikle gençlerin yapay zeka sohbet robotlarına olan bağımlılığı ve bu durumun duygusal etkileri, teknoloji şirketlerinin sorumluluklarını gündeme getiriyor. Şirketlerin kullanıcı güvenliği konusunda daha fazla önlem alması gerektiği vurgulanırken, olayın psikolojik ve sosyal boyutları da tartışılmaya devam ediyor.

Haber Kaynağı : 12punto