Yapay zeka ve deepfake: Gerçek ile sahteyi ayırt etmek zorlaşıyor
Yapay zeka artık yalnızca bir kişinin görüntüsünü ve sesini değil, aynı zamanda nabız atışlarını ve cilt tonu değişimlerini de taklit edebiliyor. Bu ilerleme, sahte (deepfake) videoların ayırt edilmesini daha da zorlaştırıyor.
12punto
Son yıllarda yapay zeka destekli deepfake videolar, sadece eğlence amaçlı içeriklerle sınırlı kalmayıp ciddi bir güvenlik tehdidine dönüşmüş durumda. Bu teknolojik gelişmeler, deepfake içeriklerin oluşturabileceği risklerin daha sık gündeme gelmesine yol açıyor.
Deepfake teknolojisi artık yalnızca sosyal medyada kullanılan eğlence amaçlı filtrelerin ötesine geçti. Derin öğrenme algoritmaları sayesinde, gerçek kişilerin mimikleri, yüz ifadeleri ve ses tonları neredeyse kusursuz biçimde kopyalanabiliyor. Bu da teknolojiyi kötü niyetli kişiler için son derece riskli bir araca dönüştürüyor.
UYGULAMALAR NASIL TEHLİKEYE DÖNÜŞÜYOR?
Kullanıcılar, yüzlerini yaşlandıran, hayvanlara dönüştüren ya da çeşitli dijital efektlerle değiştiren sosyal medya uygulamalarını genellikle eğlencelik bir araç olarak görüyor. Ancak bu uygulamaların arka planında çalışan yapay zeka sistemleri, yüz hatlarını, mimikleri ve konuşma tarzını analiz ederek kişiye özel bir dijital model oluşturmayı öğreniyor.
Bu bireysel veriler, gelişmiş yazılımlarla birleştirilerek son derece gerçekçi deepfake videolara dönüştürülebiliyor. Ortaya çıkan bu içerikler ise ilerleyen süreçte şantajdan dolandırıcılığa, hatta siyasi manipülasyona kadar pek çok kötü niyetli amaçla kullanılma potansiyeline sahip.
'GERÇEKÇİ ŞEKİLDE TAKLİT EDİYOR'
Deepfake teknolojisine karşı geliştirilen savunma yöntemlerinden biri, sahte videolarda nabız atışlarının eksik olmasına dayanıyordu. Ancak bu yaklaşım, günümüzde artık geçerliliğini yitiriyor.
Berlin Humboldt Üniversitesi'nden Prof. Dr. Peter Eisert, yakın zamanda yaptığı bir açıklamada, 'Yeni nesil deepfake videoları, kalp atış ritmi ve yüz rengindeki doğal değişimleri oldukça gerçekçi şekilde taklit ediyor. Bu durum, sahte içeriklerin tespit edilmesini daha da zorlaştırıyor' dedi.