Deepfake'leri Kim Daha İyi Tespit Ediyor: İnsan mı, Makine mi?

Temel Çıkarımlar

• Deepfake'ler, dezenformasyon yaymak, kimliğe bürünme yoluyla itibara zarar vermek ve ulusal güvenlik için çatışmayı kışkırtmak da dahil olmak üzere toplum için önemli tehditler oluşturmaktadır.
• Yapay zeka teknolojisi, deepfake tespitine yönelik araçlar sunsa da, bunlar mükemmel değildir ve deepfake'lerin tespitinde insan takdiri hayati önem taşımaya devam etmektedir.
• İnsanlar ve yapay zeka tespit araçlarının deepfake'leri tespit etme konusunda farklı güçlü ve zayıf yönleri vardır. yeteneklerini birleştirmek, deepfake tehlikelerini tespit etme ve azaltma konusundaki başarı oranlarını artırabilir teknoloji.

Deepfake'ler toplumun her yönünü tehdit ediyor. Sahte içeriği tespit etme becerimiz, dezenformasyonu ortadan kaldırmak için çok önemlidir, ancak yapay zeka teknolojisi geliştikçe, derin sahte içerikleri tespit etme konusunda kime güvenebiliriz: insana mı yoksa makineye mi?

Deepfake'in Tehlikeleri

Yapay zeka teknolojisi ilerledikçe deepfake'in tehlikeleri hepimiz için giderek artan bir tehdit oluşturuyor. Deepfake'lerin ortaya çıkardığı en acil sorunlardan bazılarının kısa bir özetini burada bulabilirsiniz:

• Dezenformasyon: Deepfake videolar ve ses kayıtları sahte haberler gibi dezenformasyonların yayılmasına neden olabilir.
• Kimliğe bürünme: Deepfake'ler, bireylerin kimliğine bürünerek insanların itibarına zarar verebilir veya tanıdıkları herkesi aldatabilir.
• Ulusal Güvenlik: Deepfake'lerle ilgili bariz kıyamet senaryosu, çatışmayı kışkırtan küresel bir liderin uydurma görüntüleri veya sesleridir.
• Sivil huzursuzluk: Yanıltıcı görüntüler ve sesler, taraflarca belirli gruplar arasında öfkeyi ve toplumsal huzursuzluğu körüklemek için de kullanılabilir.
• Siber güvenlik: Siber suçlular, tanıdıklarından gelen ikna edici mesajlarla bireyleri hedeflemek için halihazırda yapay zeka ses klonlama araçlarını kullanıyor.
• Gizlilik ve onay: Deepfake'lerin kötü niyetli kullanımı, kişilerin rızaları olmadan benzerliklerini alır.
• Güven ve güven: Eğer gerçek ile aldatmayı birbirinden ayıramazsanız, doğru bilgi de aynı derecede güvenilmez hale gelir.

Deepfake'ler daha da inandırıcı hale gelecek, dolayısıyla onları tespit etmek için sağlam araçlara ve süreçlere ihtiyacımız var. Yapay zeka, deepfake tespit modelleri şeklinde böyle bir araç sağlıyor. Ancak, gibi Yapay zeka tarafından oluşturulan yazıyı tanımlamak için tasarlanmış algoritmalarDeepfake tespit araçları mükemmel değil.

Şu anda güvenebileceğimiz diğer tek araç insanın takdiridir. Peki, deepfake'leri tespit etme konusunda algoritmalardan daha mı iyiyiz?

Algoritmalar Deepfake'leri İnsanlardan Daha İyi Tespit Edebilir mi?

Deepfake'ler, teknoloji devlerinin ve araştırma gruplarının araştırma ve geliştirmeye büyük kaynaklar ayırmasına neden olacak kadar ciddi bir tehdittir. 2019'da Meta, Microsoft ve Amazon gibi şirketler bir etkinlikte 1.000.000 ABD Doları ödül teklif etti. Deepfake Tespit Mücadelesi En doğru tespit modeli için.

En iyi performansı gösteren model, halka açık videolardan oluşan bir veri kümesine karşı %82,56 oranında doğru sonuç verdi. Bununla birlikte, aynı modeller 10.000 görülmemiş videodan oluşan bir "kara kutu veri seti" ile test edildiğinde, en iyi performansı gösteren model yalnızca %65,18 oranında doğruydu.

Ayrıca AI deepfake tespit araçlarının insanlara karşı performansını analiz eden çok sayıda çalışmamız var. Elbette sonuçlar bir çalışmadan diğerine farklılık gösteriyor ancak genel olarak insanlar, deepfake tespit araçlarının başarı oranına eşit ya da ondan daha iyi performans gösteriyor.

2021'de yayınlanan bir çalışma PNAS "sıradan insan gözlemcilerin" önde gelen deepfake tespit araçlarından biraz daha yüksek bir doğruluk oranına ulaştığını buldu. Ancak çalışma aynı zamanda insan katılımcıların ve yapay zeka modellerinin farklı türde hatalara karşı duyarlı olduğunu da buldu.

İlginçtir ki, tarafından yürütülen araştırma Sidney Üniversitesi insan beyninin, bilinçsizce, derin sahtekarlıkları tespit etmede bilinçli çabalarımızdan daha etkili olduğunu buldu.

Deepfakes'te Görsel İpuçlarını Tespit Etme

Deepfake tespit bilimi karmaşıktır ve gerekli analiz, görüntünün doğasına bağlı olarak değişiklik gösterir. Örneğin, Kuzey Kore lideri Kim Jong-un'un 2020'deki meşhur deepfake videosu temelde konuşan bir kafa videosudur. Bu durumda en etkili deepfake tespit yöntemi, vizemlerin (ağız hareketleri) ve fonemlerin (fonetik sesler) tutarsızlıklarını analiz etmek olabilir.

Sonuçlar farklılık gösterse bile uzmanlar, sıradan izleyiciler ve algoritmalar bu tür analizleri gerçekleştirebilir. MİT yardımcı olacak sekiz soruyu tanımlar Deepfake videoları tanımlama:

• Yüze dikkat edin. Üst düzey DeepFake manipülasyonları neredeyse her zaman yüz dönüşümleridir.
• Yanaklara ve alnına dikkat edin. Cildiniz çok pürüzsüz veya çok kırışık mı görünüyor? Cildin yaşlılığı saç ve gözlerin yaşlılığına benzer mi? DeepFakes bazı boyutlarda uyumsuz olabilir.
• Gözlere ve kaşlara dikkat edin. Beklediğiniz yerlerde gölgeler mi beliriyor? DeepFakes, bir sahnenin doğal fiziğini tam olarak temsil etmekte başarısız olabilir.
• Gözlüklere dikkat edin. Herhangi bir parlama var mı? Çok fazla parlama var mı? Kişi hareket ettikçe parlamanın açısı değişiyor mu? DeepFakes bir kez daha aydınlatmanın doğal fiziğini tam olarak temsil etmekte başarısız olabilir.
• Yüzdeki kıllara veya eksikliğine dikkat edin. Bu sakal gerçek görünüyor mu? DeepFakes bıyık, favori veya sakal ekleyebilir veya çıkarabilir. Ancak DeepFakes sakal dönüşümlerini tamamen doğal hale getirmede başarısız olabilir.
• Yüzdeki benlere dikkat edin. Köstebek gerçek görünüyor mu?
• Göz kırpmaya dikkat edin. Kişi yeterince veya çok fazla göz kırpıyor mu?
• Dudak hareketlerine dikkat edin. Bazı deepfake'ler dudak senkronizasyonuna dayanır. Dudak hareketleri doğal görünüyor mu?

En yeni AI deepfake tespit araçları, yine aynı faktörleri değişen başarı dereceleriyle analiz edebilir. Veri bilimcileri, ekrandaki hoparlörlerin yüzlerindeki doğal kan akışını tespit etmek gibi sürekli olarak yeni yöntemler de geliştiriyorlar. Yeni yaklaşımlar ve mevcut yaklaşımlardaki iyileştirmeler, yapay zeka derin sahte tespit araçlarının gelecekte sürekli olarak insanlardan daha iyi performans göstermesine neden olabilir.

Deepfakes'te Ses İpuçlarını Tespit Etme

Deepfake sesi tespit etmek tamamen farklı bir zorluktur. Videonun görsel ipuçları ve görsel-işitsel tutarsızlıkları belirleme fırsatı olmadan, deepfake algılama büyük ölçüde ses analizine dayanır (meta veri doğrulama gibi diğer yöntemler de bazı durumlarda yardımcı olabilir) durumlarda).

Tarafından yayınlanan bir çalışma Londra Üniversite Koleji 2023'te insanların derin sahte konuşmayı %73 oranında (İngilizce ve Mandarin) tespit edebildiği bulundu. Deepfake videolarda olduğu gibi, insan dinleyiciler, neyin yanlış göründüğünü belirleyemeseler bile, yapay zeka tarafından oluşturulan konuşmadaki doğal olmayan konuşma kalıplarını sıklıkla sezgisel olarak algılarlar.

Yaygın belirtiler şunları içerir:

• geveleyerek
• İfade eksikliği
• Arka plan veya parazit gürültüsü
• Vokal veya konuşma tutarsızlıkları
• Seslerde "doluluk" eksikliği
• Aşırı komut dosyası içeren teslimat
• Kusurların olmaması (yanlış başlangıçlar, düzeltmeler, boğaz temizleme vb.)

Bir kez daha, algoritmalar aynı derin sahte sinyaller için konuşmayı da analiz edebiliyor ancak yeni yöntemler, araçları daha etkili hale getiriyor. Araştırmayı yapan: USENIX Yapay zekanın ses yolu rekonstrüksiyonunda doğal konuşmayı taklit edemeyen tanımlanmış modeller. Yapay zeka ses üreteçlerinin, insan konuşmasının doğal hareketleri olmadan, dar ses yolları (kabaca bir pipet büyüklüğünde) ile eşleşen ses ürettiğini özetlemektedir.

Daha önce yapılan araştırmalar Horst Görtz Enstitüsü İngilizce ve Japonca orijinal ve derin sahte sesleri analiz ederek, gerçek konuşma ile derin sahte seslerin yüksek frekansları arasındaki ince farkları ortaya çıkardı.

Hem ses yolu hem de yüksek frekans tutarsızlıkları insan dinleyiciler ve yapay zeka algılama modelleri tarafından algılanabilir. Yüksek frekans farklılıkları durumunda, yapay zeka modelleri teorik olarak giderek daha doğru hale gelebilir; ancak aynı şey yapay zeka derin sahtekarlıkları için de söylenebilir.

Hem İnsanlar hem de Algoritmalar Deepfake'lerle Kandırılıyor, Ama Farklı Şekillerde

Çalışmalar, insanların ve en yeni yapay zeka tespit araçlarının benzer şekilde derin sahtekarlıkları tespit etme yeteneğine sahip olduğunu gösteriyor. Başarı oranları test parametrelerine bağlı olarak %50 ila %90+ arasında değişebilir.

Buna ek olarak, insanlar ve makineler de deepfake'ler tarafından benzer ölçüde kandırılıyor. Ancak en önemlisi, farklı şekillerde duyarlıyız ve bu, deepfake teknolojisinin tehlikeleriyle mücadelede en büyük varlığımız olabilir. İnsanların güçlü yönleriyle deepfake tespit araçlarının birleştirilmesi, her birinin zayıf yönlerini azaltacak ve başarı oranlarını artıracaktır.

Örneğin, MİT Araştırma, insanların dünya liderlerinin ve ünlü kişilerin deepfake'lerini tespit etmede yapay zeka modellerinden daha iyi olduğunu ortaya çıkardı. Ayrıca yapay zeka modellerinin birden fazla kişinin yer aldığı görüntülerde sorun yaşadığını da ortaya çıkardı; ancak bunun, algoritmaların tek konuşmacılı görüntüler üzerinde eğitilmesinden kaynaklanabileceğini öne sürdü.

Tersine, aynı çalışma, yapay zeka modellerinin, insan izleyicileri kandırmak için kasıtlı olarak kullanılabilecek düşük kaliteli görüntülerde (bulanık, grenli, karanlık vb.) insanlardan daha iyi performans gösterdiğini buldu. Benzer şekilde, belirli yüz bölgelerindeki kan akışının izlenmesi gibi yeni AI tespit yöntemleri, insanların yapamayacağı analizleri içerir.

Daha fazla yöntem geliştirildikçe, yapay zekanın yalnızca bizim yapamayacağımız işaretleri tespit etme yeteneği değil, aynı zamanda aldatma yeteneği de gelişecek. Asıl soru, deepfake tespit teknolojisinin deepfake'leri geride bırakmaya devam edip etmeyeceğidir.

Deepfakes Çağında Olaylara Farklı Bakmak

AI deepfake tespit araçları ve deepfake içeriğinin kalitesi gelişmeye devam edecek. Yapay zekanın aldatma yeteneği, tespit etme yeteneğini geride bırakırsa (yapay zeka tarafından oluşturulan metinlerde olduğu gibi), derin sahtekarlıklarla savaşmak için elimizde kalan tek araç insanın takdir yetkisi olabilir.

Deepfake'in işaretlerini ve bunların nasıl tespit edileceğini öğrenmek herkesin sorumluluğundadır. Kendimizi dolandırıcılıklardan ve güvenlik tehditlerinden korumanın yanı sıra, çevrimiçi ortamda tartıştığımız ve paylaştığımız her şey, gerçekliği kavrayamadığımız takdirde dezenformasyona karşı savunmasız hale gelir.