Yapay zekanın karanlık yüzü: Güney Kore 'sahte cinsel içerik' sorunuyla mücadele edecek

Asya ülkesi Güney Kore'de 'sahte cinsel içerik' sorunu ortaya çıktı. Güney Kore'de güvenlik yetkilileri, birçok kişinin mağduriyetine neden olan 'sahte cinsel içerikler' ile mücadele amacıyla tespit sistemi geliştirileceğini duyurdu.

Güney Kore polisince yapılan açıklamada, deepfake içerikleri tespit edebilecek sistem kurmak için yaklaşık 6 milyon dolar yatırım yapılacağı belirtildi.

Yonhap'ın haberine göre, Güney Kore'de yapay zekayla üretilen cinsel içerikli görüntü ve seslerle ilgili suçlardaki artışın önüne geçmek için çalışmalar devam ediyor. Yetkililerin açıklamasında, projenin 2027'ye kadar tamamlanmasının öngörüldüğü ve sistem sayesinde deepfake videoların tespitinin hızlanacağı ifade edildi.

Güney Kore'de 2024'te 1094 deepfake suçuyla ilişkili 573 şüpheli gözaltına alındı.

Güney Kore'de 'deepfake' görüntülerin Telegram üzerinden yayıldığı anlaşılmıştı. Yetkililer, mesajlaşma uygulamasıyla ilgili soruşturma açmıştı

GÜNEY KORE'DEKİ DEEPFAKE OLAYI

Güney Kore'de okul ve üniversitelerle bağlantılı bazı sohbet gruplarında çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun 'deepfake' yöntemi aracılığıyla manipüle edilen ses ve görüntülerini içeren 'cinsel içerikli' görüntülerin yayıldığı tespit edildi.

Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu görüntülerin yayıldığı Telegram'la ilgili 'suça yataklık etme' gerekçesiyle ön soruşturma açıldığını kaydetmişti.

Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileriyle bir araya gelen Telegram yetkilileri, sorunun ciddiyetinin farkında olduklarını belirtmiş, bu tür yasa dışı materyallere karşı sıkı önlemler dahil 'sıfır tolerans politikası' uygulanacağı sözünü vermişti.

Haber Kaynağı : AA