Grok'la müstehcen görseller üreten kullanıcıya dava

Elon Musk’ın sahibi olduğu yapay zeka şirketi xAI, Grok sisteminin yasa dışı cinsel içerik üretmek için kötüye kullanıldığı iddiasıyla ABD’de bir kullanıcıya dava açtı.

Teksas’taki federal mahkemeye sunulan davada şirket, Terry Harwood adlı kişinin Grok’a yetişkinlerin ve küçüklerin cinsel olmayan görüntülerini yükleyerek bunlardan müstehcen deepfake içerikler üretmeye çalıştığını öne sürdü. Harwood’un bu yılın başlarında Güney Carolina’da küçüklerle ilgili cinsel istismar suçlamasıyla tutuklandığı belirtildi.

xAI, Harwood’un eylemlerinin şirketin hizmet şartlarını ihlal ettiğini savundu. Dava, bir yapay zeka şirketinin, kendi sistemini müstehcen ve yasa dışı materyal üretmek için kullandığı iddia edilen bir kullanıcıya karşı açtığı ilk davalardan biri olarak değerlendiriliyor.

Şirketin başvurusu, Grok’un kullanıcıların rızası olmadan cinselleştirilmiş deepfake görüntüler ya da yapay zeka tarafından üretilmiş gerçekçi videolar oluşturulmasına imkân verdiği yönündeki iddiaların ardından geldi. xAI, dava dilekçesinde kurallarını ihlal eden hesaplara karşı askıya alma, hesap kapatma ve şüpheli çocuk cinsel istismarı materyallerini Kayıp ve İstismara Uğrayan Çocuklar Ulusal Merkezi’ne (NCMEC) bildirme gibi adımlar attığını belirtti.

Dilekçede, xAI’nin 2026 yılında 52 bin 222 hesabı askıya aldığı ve NCMEC’e 73 bin 604 bildirim sunduğu; bu bildirimlerin “en az” 244 kişinin tutuklanmasıyla sonuçlandığı ifade edildi.

Şirket ayrıca Harwood’un yalnızca çocuklara yönelik yasa dışı materyal üretmeye çalışmadığını, yetişkinlere ait görüntülerin de rıza dışı biçimde cinselleştirilmiş içeriklere dönüştürülmeye çalışıldığını iddia etti.

Haber Kaynağı : 12punto