Deepfake ile Taylor Swift'in sahte pornografik içerikleri üretildi

Daha önce deepfaklerin önlenmesine ilişkin bir teklif açıklayan kongre üyesi Joseph Morelle, görüntülerin ve videoların "geri dönüşü olmayan duygusal, mali ve itibarsal zararlara neden olabileceğini"

İnternetin ve teknolojinin kötü insanların ellerinde nasıl farklı emeller için kullanıldığını zaten yıllardır görüyoruz. Ancak deepfake teknolojisiyle pek çok ünlü sanatçı, siyasetçi ya da tanınmış kişilerin asla söylemediği, yapmadığı ya da giymediği şeyleri giydiklerini görüyoruz. Bu teknolojiyle özellikle kadın olan tanınmış kişilerin sahte pornografik içerikleri de hazırlanıyor. Bunların ise son mağduru Taylor Swift oldu.

TAYLOR SWIFT'İN GÖRÜNTÜLERİ KADIN DÜŞMANI TELEGRAM GRUBUNDAN YAYILMIŞ OLABİLİR

Taylor Swift'in olduğu sahte görüntülerinin kaynağı resmi olarak bilinmiyor ancak 45 milyondan fazla görüntülenme aldı. Oluşturulan bu görüntüler X üzerinden paylaşıldı ve Taylor Swift AI adlı etiket dünya gündemine girdi. Bazı bölgelerde bu arama trend oldu. 

404 Media'ya göre Swift, bu olayın peşini bırakmayacak ve konuya ilişkin dava açacak. Medya platformu görüntülerin izini sürerek araştırmaya da girişti. Burada yayınlanan sahte görüntülerin Telegram'daki 'kadınların mühtehcen görüntülerine adanmış bir' topluluktan çıktığını öğrendi. Bu toplulukta Microsoft Designer ile yapay zeka tarafından üretilen müstehcen kadın görüntülerinin paylaşıldığını aktardı.

Deepfake tespit grubu olan Reality Defender'ın büyüme sorumlusu Mason Allen, "Ne yazık ki, bazıları kaldırılana kadar milyonlarca kullanıcıya yayıldılar" dedi.  

YASAL DÜZENLEME ÇAĞRILARI

Görüntülerin ses getirmesinin ardından yasal düzenlemelerin yapılması gerektiği savunulmaya başlandı.Daha önce deepfaklerin önlenmesine ilişkin bir teklif açıklayan kongre üyesi Joseph Morelle, görüntülerin ve videoların "geri dönüşü olmayan duygusal, mali ve itibarsal zararlara neden olabileceğini" düşünüyor.

Konuyla ilgili ünlü sanatçıdan henüz bir açıklama gelmiş bulunmuyor ancak teknolojinin yanlış ellerde nasıl korkunç bir hale dönüştüğünü görüyoruz. Bazı yapay zeka araçlarında +18 ve sahte içeriklerin oluşturulmasının önüne geçiliyor ancak bazı araçlar öyle değil. Bir de bu araçların büyük bir çoğunluğu ücretsiz olarak sunuluyor. Bunun yanı sıra normalde X'in politikilarına aykırı olan bu görüntüler platformda saatlerce dolaşımda kaldı. Bu da X'in başarısızlığı olarak görüldü.

Güncelleme: Beyaz Saray Basın Sözcüsü Karine Jean-Pierre, durumun endişe verici olduğunu ve ABD yönetiminin ‘yasal önlem’ yoluyla çözüm bulma çalışmaları içerisinde olduğunu belirtti. Jean-Pierre, “Taylor Swift'in sahte görüntülerinin sosyal medyada paylaşılması endişe vericidir. Bu tür olayların kadınları ve kız çocuklarını orantısız bir şekilde etkilediğini biliyoruz. Biden yönetimi, yasal önlem yoluyla sahte yapay zeka görüntüleri riskini azaltmamızı sağlamaya kararlıdır. Gerçek çözümler bulmaya yönelik çalışmalar devam edecektir. Bu noktada sosyal medya şirketleri içerik yönetimi konusunda kendi bağımsız kararlarını verirken, yanlış bilgilerin ve gerçek kişilerin rızası olmayan, mahrem görüntülerinin yayılmasını önlemek için kendi kurallarını uygulama konusunda önemli bir rol oynayacaklarına inanıyoruz” dedi.