Deepfake kavramı gelişen teknolojiyle birlikte hayatımıza giren; etkileyeceği olduğu kadar korkutucu da bulunan, dijital dünyanın yeni trendi…
Bir kişinin yüz hareketlerini en ince detaylarına kadar takip edip öğrenen hatta farklı bir kişiye ait videoya o kişinin yüzünü, en ince mimiklerine kadar ekleyerek oldukça inandırıcı sahte videolar üreten yapay zeka yazılımları artık herkes tarafından kolaylıkla kullanabiliyor. Bu teknolojiye Deepfake adı veriliyor.
Kitleleri etki altına almak ve seçmenleri manipüle etmek için sıkça kullanılmaya başlanan Deepfake videoları kimi devletler için ulusal güvenliği ve demokrasiyi tehdit ediyor. Kelime anlamı itibarı ile ‘’derin sahte’’ anlamına gelen bu kavram, uluslararası kamuoyunun başını ağrıtmaya başladı bile. Teknolojinin nimetlerinden faydalandığımız 21.y.y.’da dijital yazılımlar insanların işlerini kolaylaştırdığı gibi devletlerin başlarını da belaya sokabiliyor. Yeni yazılan bir bilgisayar programı sayesinde bu sahte videolar kolaylıkla gerçekmiş gibi üretilebiliyor. Sosyal medyaya yüklediğiniz fotoğraflar, öğrenebilen makineler ya da yapay zekaya sahip yazılımlar sayesinde kolayca işlenip uyarlanabiliyor.
Bu nedenle tüm büyük sosyal medya platformları, dijital olarak değiştirilen videoları yayılmadan önce tespit edebilmek için sistemler geliştirmeye başladılar. Twitter ‘’Manipulated Media’’ politikasını bu amaçla şubat ayında başlattığını açıkladı.
Facebook ise kendi algılama modellerini geliştirmenin yollarını arıyor. Buna paralel olarak sosyal medya devi; eylül ayında akademik çevrelere bu videoları ayıklamak için kullanılabilecek en verimli tespit modelleri konusunda bir çağrıda bulunduğunu açıkladı.
Bu mücadelenin sonuçları geçtiğimiz günlerde Facebook tarafından paylaşıldı:
‘’Facebook olarak geçen aralık ayında 2114 kişinin katıldığı bir yarışma düzenledik ve yarışmanın sonunda 35.000’den fazla model geliştirildi. Bu modeller arasında en iyi performansa sahip olanların kod yazımına yardımcı olmak için kazananlarla birlikte çalışıyoruz.’’
Burası çok önemli!
Facebook, bu ekiplerle çalışırken her bir kazanan model için kod tabanını paylaşmakla kalmadı. Deepfake hakkında daha kapsamlı bir araştırma yapılması için kullanılan veri kümelerini açık kaynak olarak da yayınlayacağını duyurdu!
Peki Bu Kazanan Modeller Ne Kadar İyi?
Gönderilen binlerce modelden en iyi performans gösterenlerin, tespit oranlarının %82’nin üzerinde olduğunu ifade ediliyor. Bu oran oldukça etkileyici! Ancak bunun şu ana kadar üzerinde çalışan eğitim setlerinden elde edilmiş bilgiler olduğunu unutmamak gerekir!
Facebook çalışan modellerin doğruluk oranlarını belirlemek için, katılımcıların daha önce görmediği ve kodsuz erişilemeyen 10.000 videonun da veri setindeki modellerini test ettirdi. Ulaşılan sonuçların önemli ölçüde fark içerdiği görüldü. En yüksek performans gösteren model, katılımcı Selim Seferbekov tarafından geliştirilen oldu. Seferbekov’un geliştirdiği model, veri setinde ortalama %65,18 hassasiyet oranına sahip. Elde edilen oranlar umut vaad ediyor olsa da görünen o ki; daha başarılı bir tespit sistemi kurulması için daha önümüzde uzun bir süreç var. Sisteme yüklendikten sonra test edilebilen görüntüler yüzünden tespit modelleri meydana gelebilecek hasarı engelleyebilmek için henüz tam anlamıyla istenilen performansı sergiliyemiyor.
Yaklaşmakta olan ABD Başkanlık Seçimleri öncesi Deepfake videolarının başkanlık yarışında seçmen davranışlarını olumlu ya da olumsuz etkilemesinin önüne geçmek için bu önlemlerin alınması şirketler için büyük önem taşıyor.
Dilerseniz bir diğer Facebook makalemizi okuyabilirsiniz.
