TikTok’taki sahte doktorlar tehlike saçıyor: Deepfake doktor uyarısı!

Bir zamanlar araştırma laboratuvarlarıyla sınırlı olan üretken yapay zekâ artık herkesin kullanımına açık; buna kötü niyetli olanlar da dahil. Bu kişiler yapay zekâ araçlarını yaratıcılığı teşvik etmek için değil, aldatmacayı körüklemek için kullanıyor. Son derece gerçekçi videolar, görüntüler ya da sesler oluşturabilen Deepfake teknolojisi, yalnızca ünlü taklidi ya da kamuoyunu etkileme çabaları için değil, aynı zamanda kimlik hırsızlığı ve her türlü dolandırıcılık için de giderek daha fazla başvurulan bir yöntem hâline geliyor. 

BİR TİKTOK ALDATMACASI

TikTok ve Instagram gibi sosyal medya platformlarında, deepfake’lerin erişimi ve zarar verme potansiyelleri özellikle şaşırtıcı boyutlarda olabiliyor. Araştırmacılar Latin Amerika’da yakın zamanda yapay zekâ tarafından oluşturulan avatarların jinekolog, diyetisyen ve diğer sağlık uzmanları gibi davranarak takviye ve sağlıklı yaşam ürünlerini tanıttığı bir kampanyayla karşılaştı. Genellikle son derece gösterişli ve ikna edici olan bu videolar, satış konuşmalarını tıbbi tavsiye kılığına sokarak dikkatsiz kişileri şüpheli ve potansiyel olarak tamamen riskli alışverişler yapmaya yönlendiriyor.

GÜVEN İSTİSMAR EDİLİYOR

Her video benzer bir senaryoyu takip ediyor: Genellikle ekranın bir köşesine sıkışmış konuşan bir avatar, sağlık veya güzellik ipuçları veriyor. Bir otorite havasıyla verilen tavsiyeler izleyicileri satış için belirli ürünlere yönlendiriyor. Bu deepfake’ler, uzman tavsiyesi kisvesine bürünerek satışları artırmak için güveni istismar ediyor ve bu taktik etkili olduğu kadar etik dışı da olabiliyor.  Diğer videolar riskleri daha da artırarak onaylanmamış ilaçları ya da ciddi hastalıklar için sahte tedavileri öne sürüyor hatta bazen gerçek, tanınmış doktorları taklit ediyorlar.

TİTKOK'TA YAPAY ZEKA İLE "KURTARMA" YALANI

Videolar, herkesin kısa görüntüler göndermesine ve bunları gösterişli bir avatara dönüştürmesine olanak tanıyan meşru yapay zekâ araçlarıyla oluşturuluyor. Bu, üretimlerini ölçeklendirmek isteyen influencerlar için bir nimet olsa da aynı teknoloji yanıltıcı iddialar ve aldatma için de kullanılabilir. Bir pazarlama hilesi olarak işe yarayabilecek bir şey hızla yanlış bilgileri yayma mekanizmasına dönüşebilir.

13 YILLIK DENEYİME SAHİP GİBİ...

ESET araştırmacıları ürünlerini tanıtmak için deepfake doktorlar kullanan 20’den fazla TikTok ve Instagram hesabı tespit etti. Bunlardan biri, 13 yıllık deneyime sahip bir jinekolog gibi davranarak doğrudan uygulamanın avatar kütüphanesine kadar izlendi. Bu tür kötüye kullanımlar, yaygın yapay zekâ araçlarının hüküm ve koşullarını ihlal ederken aynı zamanda bunların ne kadar kolay silah hâline getirilebileceğini de vurguluyor. 

TİKTOK TEHLİKELERİNDEN UZAK DURULMASI GEREKİYOR

Yapay zekâ daha erişilebilir oldukça bu sahtekârlıkları tespit etmek de daha zor hâle geliyor ve teknoloji meraklıları için bile daha büyük bir zorluk oluşturuyor.

İşte deepfake videoları tespit etmenize yardımcı olabilecek birkaç işaret: 

- Sesle senkronize olmayan dudak hareketleri veya sert ve doğal olmayan yüz ifadeleri, 

- Bulanık kenarlar veya ani ışık değişimleri gibi görsel aksaklıklar  

- Robotik veya aşırı cilalı bir ses 

- Ayrıca hesabın kendisini de kontrol edin: Az takipçisi olan veya geçmişi olmayan yeni profiller şüphe uyandırır, 

- “Mucize tedaviler”, “garantili̇ sonuçlar” ve “doktorlar bu numaradan nefret ediyor” gibi̇ abartılı iddialara dikkat edin, özellikle de güvenilir kaynaklardan yoksunlarsa, 

- İddiaları her zaman güvenilir tıbbi kaynaklarla doğrulayın, şüpheli videoları paylaşmaktan kaçının ve yanıltıcı içerikleri platforma bildirin.