Yapay zeka sohbet robotuna 'aşık olan' 14 yaşındaki çocuk intihar etti
ABD'de 14 yaşındaki bir çocuğun yapay zeka sohbet robotuna aşık olduktan sonra intihar ettiği iddia edildi. Aile firmaya dava açtı.
12punto
ABD'nin Florida eyaletinde Şubat 2024'te gerçekleşen bir
olayda anne, 14 yaşındaki oğlunun bir yapay zeka sohbet robotuna 'duygusal
olarak bağlandıktan sonra kendini öldürdüğünü' iddia etti.
Anne Megan Garcia, yapay zeka sohbet robotu şirketi olan
Character.AI'ya karşı, 'ihmal, haksız ölüm ve aldatıcı ticaret' suçlamalarıyla
dava açtı. Anne, oğlunun her gece bir sohbet robotuyla etkileşime girdiğini ve
ölümünden önce ona 'aşık olduğunu' iddia etti.
Game of Thrones'daki Daenerys Targaryen karakterinden
esinlenerek sohbet eden yapay zeka robotunu Nisan 2023'ten beri kullandığı
iddia eden çocuğun annesi, yapay zekanın bu kadar 'insan duygusunu ve hissini
yaratarak bir insan gibi konuştuğunu' bilmediğini söyledi.
14 yaşındaki çocuğa küçükken Asperger sendromu teşhisi
konulduğunu bu yılın başında ise anksiyete ve yıkıcı duygu durum bozukluğu
teşhisinin konulduğu bildirildi. Yapay zeka firmasına açılan davaya göre, çocuk
14 yaşında intihar ederek öldü ve sohbet robotundaki son mesajında yapay zekaya
'onu sevdiğini ve eve döneceğini' söylemesinin ardından yapay zekanın 'lütfen
dön' yanıtını verdiği iddia ediliyor.
FİRMA AÇIKLAMADA BULUNDU
Şirketin sosyal medya üzerinden yaptığı açıklamada,
'kullanıcılarından birinin trajik kaybından dolayı üzüntü duydukları, bir
şirket olarak kullanıcıların güvenliğini ciddiye aldıklarını ve sistemlerine
yeni güvenlik özellikleri eklemeye devam ettiklerini' bildirdi.
Şirket 22 Ekim'de 18 yaş altı kullanıcıları için 'yeni
güvenlik şartları' getirdi. Firma ayrıca, kullanıcılarına sohbet ettikleri
kişinin gerçek olmadığını hatırlatmak için her sohbette gözden geçirilmesi
gereken bir feragatname eklediklerini belirtti.