Hem gerçek anlamı hem de mecazi olarak kullanılan bir kelime olarak Sentetik kelimesi Türk Dil Kurumu için, ‘Yapay,’ sözcüğü ile karşılık bulunmaktadır. Aynı zamanda bileşimli sözcüğü üzerinden de ele alınarak ifade edilebilir. Pek çok farklı sektör için üretimi gerçekleştirilen değişik ürünler konusunda kelime olarak kullanılmaktadır.
Sentetik Ne Demek?
İngilizce açısından ele alındığında Türk Dil Kurumu sentetik kelimesini, ‘Mevcut olmayan sentez yoluyla elde edilmiş/üretilmiş’ şeklinde ifade ediyor. Aynı zamanda bu kelime Fransızca olarak bakıldığında ise, ‘yapay’ kelime anlamıyla karşımıza çıkmaktadır. Her iki anlamı üzerinden de ortak şekilde bir ifade taşıdığını dile getirmek mümkün.
Deepfake nedir?
İngilizce deep learning (derin öğrenme) ve fake (sahte) kelimelerinin birleşimiyle oluşan deepfake, yani yapay zeka sahteciliği, insanların yüzlerini, hareketlerini ve seslerini gerçekçi bir şekilde taklit veya değiştirmek için yapay zeka teknikleri kullanılarak oluşturulan fotoğraf, video veya sesleri tanımlamak için kullanılıyor.
Deepfake teknolojisi temelde GAN (Generative Adversarial Network/GAN) isimli makine öğrenmesi tekniğine dayanıyor. GAN, bir görseli tanımak üzere kendini eğitmek için bir dizi algoritma kullanıyor. Bu eğitim sahte görüntüler üretebilmek için gerçek özellikleri öğrenmesine yardımcı oluyor.
Geçmişten Bugüne
Erken bir dönüm noktası olan proje, 1997’de yayınlanan ve konuşan bir kişinin mevcut video görüntülerini, o kişiyi farklı bir ses parçasında yer alan kelimeleri ağzından çıkarırken göstermek için değiştiren Video Yeniden Yazma programıydı. Bu tür yüz canlandırmasını tamamen otomatikleştiren ilk sistemdi ve bunu, bir videonun öznesi tarafından üretilen sesler ile öznenin yüzünün şekli arasında bağlantı kurmak için makine öğrenimi tekniklerini kullanarak yaptı.
Çağdaş akademik projeler, daha gerçekçi videolar oluşturmaya ve teknikleri geliştirmeye odaklandılar. 2017’de yayınlanan “Sentezleme Obama” programı, eski başkan Barack Obama’nın video görüntülerini, ayrı bir ses parçasında yer alan kelimeleri ağzından çıkarırken tasvir edecek şekilde değiştiriyor. Proje, sesten ağız şekillerini sentezlemeye yönelik fotogerçekçi tekniğini ana araştırma katkısı olarak gösterildi
2016’da yayınlanan Face2Face programı, bir kişinin yüzünün video görüntülerini gerçek zamanlı olarak başka bir kişinin yüz ifadelerini taklit ettiğini gösterecek şekilde değiştirdi. Proje, ana araştırma katkısı olarak, derinliği yakalamayan bir kamera kullanarak yüz ifadelerini gerçek zamanlı olarak yeniden canlandırmaya yönelik ilk yöntemdi ve tekniğin yaygın tüketici kameraları kullanılarak gerçekleştirilmesini mümkün kıldı.
Deepfakes terimi, 2017 yılının sonlarında “deepfakes” adlı bir Reddit kullanıcısından kaynaklandı.O ve Reddit topluluğundaki diğer kişiler oluşturdukları deepfake’leri paylaştı.
Ağustos 2018’de, Berkeley Kaliforniya Üniversitesi’ndeki araştırmacılar, yapay zeka kullanarak ustaca dans etme yeteneği izlenimi yaratabilecek sahte bir dans uygulamasını tanıtan bir makale yayınladılar. Bu proje, deepfake uygulamasının tüm vücuda uygulanabileceğini gösterdi.
Ticari geliştirme
Ocak 2018’de FakeApp adlı tescilli bir masaüstü uygulaması başlatıldı.Bu uygulama, kullanıcıların yüzleri birbiriyle değiştirilerek kolayca videolar oluşturup paylaşmasına olanak tanır. 2019 itibariyle FakeApp’in yerini Faceswap, komut satırı tabanlı DeepFaceLab gibi açık kaynaklı alternatifler ve DeepfakesWeb.com gibi web tabanlı uygulamalar aldı.
Daha büyük şirketler de deepfake kullanmaya başlıyor. Mobil uygulama devi Momo , kullanıcıların yüzlerini televizyon ve film kliplerinde tek bir fotoğrafla üst üste bindirmelerini sağlayan Zao uygulamasını yarattı. Japon yapay zeka şirketi DataGrid, sıfırdan bir insan yaratabilen tam vücut deepfake yaptı Bunları moda ve giyim için kullanmayı düşünüyorlar.
Deepfake’leri algılayabilen ve 5 saniyelik dinleme süresinden sonra insan seslerini klonlayabilen ses deepfake ve yapay zeka yazılımı da mevcuttur. Bir Türk girişimci tarafından pazara sunulan Impressions adlı bir mobil deepfake uygulaması Mart 2020’de piyasaya sürüldü. Bu, cep telefonlarından ünlülerin derin sahte videolarının oluşturulmasına yönelik ilk uygulamaydı.
Farklı İçerikler
29 Ekim 2020’de Kim Kardashianın rahmetli babası Robert Kardashian’ın bir deepfake videosuyayınlandı ; Robert Kardashian’ın videosundaki yüz deepfake teknolojisi ile oluşturuldu. ve oluşturulan deepface hologram yöntemi ile gösterldi.
Yüz değiştirme, dudak senkronizasyonu, gerçek zamanlı yüz hareketi yakalama, ses sentezi ve film ve dizilerde gördüğümüz görsel performanslar, karşılaşmış olma ihtimalinizin yüksek olduğu deepfake örnekleri.
Görsel ya da işitsel içeriklerin gelişmiş yöntemlerle manipüle edilmesine dayanan deepfake tabiri, benzer manipülasyonların hepsini kapsamaya yetmiyor. Bu manipülasyonları bir spektrum olarak düşündüğümüzde, diğer uçta yer alan ve hatırlanması gereken bir tür daha var: Cheapfake.
Cheapfake nedir?
Yaygın olarak bilinen deepfake içeriklere kıyasla cheapfake’ler, daha ucuz ve erişilebilir araçlarla oluşturuluyor. Deapfake teriminin ardından, cheap (ucuz) ve fake (sahte) kelimelerinin birleşmesiyle oluşan cheapfake yerine, shallowfake (sığlık) ya da dumbfake (aptallık) terimleri de kullanılabiliyor.
Herhangi bir yazılım kullanmadan üretilen cheapfake örneklerine rastlamak da mümkün. Cheapfake içerikler, genellikle Photoshop gibi bilgisayar programlarının yardımı, mevcut çekimlerin kırpılarak veya birleştirilerek bağlamından koparılması veya video içeriğinin hızının değiştirilmesi gibi çeşitli yöntemlerle üretiliyor.
Birçokları için gülünç olan bu içeriklerin, kimseye zarar verip vermeyeceği ise (Dolandırıcılık, sahtecilik, dezenformasyon vb.) gelecekteki kullanım biçimleriyle ortaya çıkacak. Bu yüzden dikkatli olmakta yarar görüyoruz.
Deepfake Tespit için dikkat edilebilecek birçok nokta var
Teknoloji geliştikçe tespit etmesi zorlaşsa da, bir içeriğin deepfake olduğunu saptamak için her zaman kullanabileceğiniz bazı ipuçları var.
Gözler: Videodaki kişinin doğal olmayan göz hareketleri varsa veya hiç göz kırpmıyorsa, bu bir deepfake ipucu olabilir. 2018’de araştırmacılar deepfake içeriklerin göz kırpma eylemini doğal görünen bir şekilde üretemediğini keşfetti. O zarfta göz kırpabilen deepfake içerikleri geliştirmek için biraz yol alınsa da, buraya dikkat etmekte hala fayda var. Göz bebeklerindeki anormal yansımalar da bir diğer ipucu.
Yüz: Deepfake teknolojisiyle üretilmiş içeriklerde cilt pürüzsüz veya çok kırışık görünebilir ya da yüzdeki bir ben gerçekçi durmuyor olabilir.
Gözlükler: Herhangi bir parlama var mı? Kişi hareket ettiğinde parlamanın açısı değişiyor mu? Deepfake içerikler aydınlatmanın ve yansımanın doğal fiziğini müthiş bir isabetle temsil etmekte başarısız olabiliyor.
Doğal olmayan yüz ifadeleri: Bir yüzle ilgili detayların doğru ve doğal görünmediği durumlar yüz değiştirme tekniğine işaret edebilir. Görüntüdeki kişinin yüzü, söylediği şeyle birlikte gitmesi gereken duyguyu sergilemiyorsa, bu durum eklemeleri ve değişimleri fark etmenize yarayabilir.
Garip görünen vücut veya duruş: Bir kişinin vücut şeklinin doğal görünmemesi veya baş ve vücudun garip veya tutarsız konumlandırılması önemli ipuçlarından. Bu, tespit edilmesi daha kolay tutarsızlıklardan biri olabilir, çünkü deepfake teknolojisi genellikle tüm vücut yerine yüze odaklanır.
Doğal olmayan vücut hareketi: Bir kişi döndüğünde veya başını hareket ettirdiğinde bir kare diğerine göre sarsıntılı veya bağlantısızsa, şüphe kasınız çalışabilir.
Doğal olmayan renklendirme: Anormal cilt tonu, renk değişikliği, garip aydınlatma ve göz ve kaşların etrafına yanlış yerleştirilmiş gölgeler, gördüğünüz şeyin sahte olduğunun işaretleri olabilir.
Saçlar: Deepfake ile üretilmiş içeriklerdeki saçlar genellikle donuk, tutamlar birbiriyle uyumsuz görünebilir. Saçların beyazlaması ile yüz ve gözdeki yaşlanma ve kırışıklık birbiriyle uyumsuz da olabilir. Aynı şekilde sakallar da yeterinde gerçek görünmüyor olabilir.
Doğal olmayan dişler: Algoritmalar tek tek diş üzerine çalışamayabilir, bu nedenle tek tek tüm dişlerin ana hatlarının olmaması bir ipucu olabilir.
Bulanıklık veya yanlış hizalama: Görüntülerin kenarları bulanıksa veya görseller yanlış hizalanmışsa – örneğin, birinin yüzü ve boynu vücuduyla buluştuğunda – bir şeylerin yanlış olabileceğini düşünebilirsiniz.
Tutarsız gürültü veya ses: Zayıf dudak senkronizasyonu, robotik sesler, garip kelime telaffuzları, arka plan gürültüsü ve hatta sesin yokluğu sahte içerikleri ayırt etmek için kullanılabilir.
Yavaşlatıldığında doğal olmayan görüntüler: Akıllı telefon ekranından daha büyük bir ekranda video izlerseniz veya bir videoyu normal oynatma hızından daha yavaş izlerseniz, görüntülere yaklaşabilir ve inceleyebilirsiniz. Örneğin kişinin dudaklarına yakından bakmak, gerçekten konuşup konuşmadığını veya dudak senkronizasyonunun kötü olup olmadığını görmenize yardımcı olabilir.
Tersine görsel arama: Bir fotoğrafın veya videonun herhangi bir şekilde değiştirilip değiştirilmediğini belirlemeye yardımcı olmak için benzer videoları çevrimiçi olarak arama yöntemi kullanılabilir. Tersine video arama teknolojisi henüz çok gelişmiş olmasa da videodan bir kare seçilerek tersine görsel arama yapılabilir.
Dijital parmak izleri: Kusursuz olmasa da, blok zincir tabanlı doğrulama sistemi bir videonun orijinalliğini belirlemeye yardımcı olabilir. Basitçe, bir video oluşturulduğunda, içerik değiştirilemeyen bir deftere kaydedilir ve videonun orijinalliğini kanıtlamaya bu sistem yardımcı olabilir.
Kullanılabilecek araçlar
Farklı ekipler geliştirdikleri yazılımlarla yapay zeka şeffaflığı sağlamanın ve kullanıcıları deepfake’e karşı güçlendirmenin yollarını çeşitlendiriyor. Sensity AI, DeepFake-o-meter, Deepware AI gibi araçlar kullanarak, şüphelendiğiniz videoyu incelemeyi deneyebilirsiniz.
İçeriklerin deepfake olup olmadığını anlamada kullanılan algoritmaların yaratıcıları, en yeni deepfake‘lere kendi yeni teknolojileriyle yanıt verirken deepfake teknolojisi de öğrenmeye ve gelişmeye devam ediyor. Şüpheli bir içeriği incelerken dikkat edilmesi gereken noktalar da zamanla değişiyor.
Yararlanılan Kaynaklar: