Deepfake Yüz Tanıma Aptal Olabilir mi? Yeni Bir Çalışma Evet Diyor!

Deepfakes ve AI tarafından oluşturulan videolar burada kalacak. Ancak son birkaç yılda nitelik ve nicelik olarak büyüdüler ve birçok insanı ulusal güvenlik ve kişisel mahremiyet konusunda endişelendirdiler.

Yine de, anonim çevrimiçi kullanıcılar sahte videolarını gerçekçi kılmak için ne kadar uğraşırlarsa uğraşsınlar, gelişmiş yüz tanıma yazılımını asla aşamadılar. Şimdiye kadar.

Yüz Tanıma API'lerini Kandırmak

Güney Kore, Suwon'daki Sungkyunkwan Üniversitesi'ndeki araştırmacılar, mevcut deepfake teknolojisinin kalitesini test etti. Ne kadar iyi performans gösterdiklerini görmek için açık kaynaklı ve yaygın olarak kullanılan derin sahte video oluşturma yazılımlarını kullanarak hem Amazon hem de Microsoft API'lerini test ettiler.

Araştırmacılar Hollywood ünlülerinin yüzlerini kullandılar. Sağlam derin sahtekarlıklar oluşturmak için yazılımın farklı kaynaklardan çok sayıda yüksek kaliteli görüntüye ihtiyacı vardır. sıradan yerine ünlülerin elde etmesi çok daha kolay olan aynı kişilerin açıları insanlar.

Araştırmacılar ayrıca, her iki şirket de ünlü yüz tanıma hizmetleri sunduğundan, çalışmalarında karşılaştırma ölçütü olarak Microsoft ve Amazon'un API'sini kullanmaya karar verdiler. Herkese açık veri kümelerini kullandılar ve 8.000'den fazla derin sahte oluşturdular. Her deepfake videodan, birden fazla yüz görüntüsü çıkardılar ve API'lere gönderdiler.

Microsoft'un Azure Bilişsel Hizmetleri ile araştırmacılar, derin sahtekarlıkları kullanarak sistemi zamanın yüzde 78'inde kandırmayı başardılar. Amazon'un sonuçları biraz daha iyiydi ve gönderilen yüzlerin yüzde 68'i gerçek olarak tanımlandı.

Deepfake Dedektörleri Hakkında?

Deepfake dedektörleri aşağı yukarı deepfake'in yaptığı gibi çalışır. Dedektörler, derin sahte videoların nasıl algılanacağı konusunda makine öğrenimi modelleri kullanılarak eğitilmiş yazılımlardır.

Ancak, dedektörleri kandırmak için hiper gerçekçi bir video oluşturmaya odaklanmak yerine, derin sahtekarlıklar artık AI sistemini şaşırtmak için her karede rakip örnekler içerebilir. Aslında, bu tür derin sahte saldırıların başarı oranları değişiyor. yüzde 78'den yüzde 99'a.

Kötüye gidiyor

Deepfakes bir makine öğrenimi uygulamasıdır.. Uzaktan bile inandırıcı bir görüntü oluşturmak için aynı kişinin yüzünün farklı açılardan ve çeşitli duygular sergileyen yüzlerce görüntüsüne ihtiyacınız var.

Büyük miktarda veriye duyulan ihtiyaç nedeniyle, ünlüler ve politikacılar gibi yalnızca çevrimiçi varlığı büyük olan kişilerin risk altında olduğu düşünülebilir. Ama artık durum böyle değil.

Deeptrace'e göre, çevrimiçi deepfake sayısı bir yıldan kısa bir süre içinde yüzde 330 arttı - Ekim 2019'dan Haziran 2020'ye kadar. Deepfake üreticilerinin kullandığı yazılımlar ve algoritmalar giderek güçleniyor, daha kolay erişilebilir ve erişilebilir hale geliyor.

Deepfakes Kimler Risk Altında?

Deepfakes ilk ana akım haline geldiğinde, birincil endişeler mahremiyet ve ulusal güvenlik içindi. İnsanlar, politikacıların ve resmi hükümet çalışanlarının video görüntülerine artık güvenilemeyeceğinden korkuyordu.

Ancak Deepfake'in güvenlik riskini göz ardı etmek sorumsuzluk olsa da, çok sayıda anket, deepfake yapımcılarının henüz siyaseti rahatsız etmekle o kadar ilgilenmediğini ortaya koydu. Deepfakes çevrimiçi videolarının çoğu iki kategoriye ayrılabilir: ünlü röportajların komik videoları ve filmler ve pornografik materyaller.

Son çalışma, API'leri kandırmak için deepfake'lerin yüksek kalitede olmasını sağlamak için ünlü yüzler kullanılarak yürütülmüş olsa da bu, daha az veriyle deepfake yapamayacağınız anlamına gelmiyor. Elbette, gelişmiş yüz tanıma sistemlerini kandırma şansları olmayabilir, ancak diğer insanları kandırmaya yetecek kadar ikna edici olabilirler.

Günümüzde, sosyal varlığı olan herkesin derin sahtekarlıkları inandırıcı bir şekilde yapılabilmektedir. Tek ihtiyaçları olan birkaç fotoğrafınız ve belki de içinde göründüğünüz bir video. Ortaya çıkan derin sahte kalite düşük olabilir, ancak yine de yapılabilir ve zarar verebilir.

Gelecek Hala Bilinmiyor

Deepfake'lerin durumuyla ilgili birçok çelişkili tahmin var, çünkü yakın zamanda ortadan kalkmayacaklar.

Bazıları, çevrimiçi olarak karşılaştığınız hiçbir görüntüye güvenemeyeceğiniz, apokaliptik bir siber gelecek bekliyor. Diğerleri daha iyimser, derin sahtekarlıkları animasyonla karşılaştırıyor ve içerik üretiminde bir geleceği olabileceğini söylüyor.

Deepfake Videolardan Kendinizi Nasıl Korursunuz?

Deepfake'ler giderek yaygınlaşıyor. Çevrimiçi gizliliğinizi nasıl tehdit edebilecekleri ve içeri alınmaktan nasıl kaçınabilecekleri aşağıda açıklanmıştır.

Sonrakini Oku

Yazar hakkında