Yapay Zeka Ses Üreteçleri Bir Sonraki Büyük Güvenlik Tehdidi mi?

Yapay Zeka (AI), hayatımızı dönüştürmeyi vaat eden güçlü bir teknolojidir. İnternet bağlantısı olan herkesin güçlü araçlara erişebildiği günümüzde bu hiç bu kadar net olmamıştı.

Buna yapay zeka ses üreteçleri, insan konuşmasını o kadar yetkin bir şekilde taklit edebilen gelişmiş yazılımlar ki ikisi arasında ayrım yapmak imkansız olabilir. Bu siber güvenlik için ne anlama geliyor?

AI Ses Üreteçleri Nasıl Çalışır?

İnsan konuşmasını yapay olarak üretme süreci olan konuşma sentezi onlarca yıldır kullanılmaktadır. Ve tüm teknolojiler gibi, yıllar içinde derin değişikliklere uğradı.

Windows 2000 ve XP kullananlar, işletim sisteminin varsayılan metinden konuşmaya erkek sesi olan Microsoft Sam'i hatırlayabilir. Microsoft Sam işi yaptı, ancak ürettiği sesler robotik, sert ve doğal değildi. Bugün elimizde bulunan araçlar, büyük ölçüde derin öğrenme sayesinde çok daha gelişmiş durumda.

Derin öğrenme bir makine öğrenimi yöntemi yapay sinir ağlarına dayalıdır. Bu sinir ağları nedeniyle, modern yapay zeka, verileri neredeyse insan beynindeki nöronların bilgiyi yorumlaması gibi işleyebilir. Yani, yapay zeka ne kadar insana benzer hale gelirse, insan davranışını taklit etmede o kadar iyi olur.

Özetle, modern AI ses üreteçlerinin çalışma şekli budur. Ne kadar çok konuşma verisine maruz kalırlarsa, insan konuşmasını taklit etmede o kadar ustalaşırlar. Bu teknolojideki nispeten yeni gelişmeler nedeniyle, son teknoloji metin okuma yazılımı, beslendiği sesleri esasen kopyalayabilir.

Tehdit Aktörleri Yapay Zeka Ses Üreticilerini Nasıl Kullanır?

Şaşırtıcı olmayan bir şekilde, bu teknoloji tehdit aktörleri tarafından kötüye kullanılıyor. Ve sadece kelimenin tipik anlamıyla siber suçlular tarafından değil, aynı zamanda dezenformasyon ajanları, dolandırıcılar, siyah şapkalı pazarlamacılar ve troller tarafından da.

ElevenLabs, Ocak 2023'te metin okuma yazılımının beta sürümünü yayınladığı anda, 4chan mesaj panosundaki aşırı sağcı troller onu kötüye kullanmaya başladı. Gelişmiş yapay zekayı kullanarak, David Attenborough ve Emma Watson gibi kişilerin seslerini yeniden üreterek, ünlülerin aşağılık, nefret dolu tiradlar yapıyormuş gibi görünmesini sağladılar.

Gibi yardımcısı O sırada bildirilen ElevenLabs, insanların yazılımını, özellikle de ses klonlamayı kötüye kullandığını kabul etti. Bu özellik, herkesin başka bir kişinin sesini "klonlamasına" olanak tanır; tek yapmanız gereken bir dakikalık bir kayıt yüklemek ve gerisini yapay zekaya bırakmak. Muhtemelen, bir kayıt ne kadar uzunsa, çıktı o kadar iyi olur.

Mart 2023'te viral bir TikTok videosu dikkat çekti. New York Times. Videoda, ünlü podcast sunucusu Joe Rogan ve The Joe Rogan Experience'ın sık sık konuğu olan Dr. Andrew Huberman'ın "libido artırıcı" bir kafein içeceğinden bahsettikleri duyuldu. Video, hem Rogan hem de Huberman'ın ürünü kesin olarak onaylıyormuş gibi görünmesini sağladı. Gerçekte, sesleri AI kullanılarak klonlandı.

Aynı sıralarda Santa Clara, California merkezli Silicon Valley Bank, risk yönetimi hataları ve diğer sorunlar nedeniyle çöktü ve eyalet hükümeti tarafından devralındı. Bu, 2008 Mali Krizinden bu yana Amerika Birleşik Devletleri'ndeki en büyük banka iflasıydı, dolayısıyla küresel piyasalarda şok dalgaları gönderdi.

Paniğe katkıda bulunan şey, ABD Başkanı Joe Biden'ın sahte bir ses kaydıydı. Kayıtta, görünüşe göre Biden'ın yakın bir "çöküş" uyarısı duyuldu ve yönetimine "halkı sakinleştirmek için medyanın tüm gücünü kullanması" talimatı verildi. Doğrulayıcılar gibi Politik Gerçek klibi çürütmek için hızlı davrandılar, ancak muhtemelen o zamana kadar milyonlarca kişi duymuştur.

Yapay zeka ses üreteçleri ünlülerin kimliğine bürünmek için kullanılabiliyorsa, sıradan insanların kimliğine bürünmek için de kullanılabilirler ve siber suçluların yaptığı da tam olarak budur. Buna göre ZDNetolarak bilinen dolandırıcılığa binlerce Amerikalı düşüyor. Vishing veya sesli kimlik avı her yıl. 2023'te yaşlı bir çift, hapiste olduğunu iddia eden ve para isteyen "torunlarından" bir telefon aldıklarında ulusal manşetlere taşındı.

Daha önce bir YouTube videosu yüklediyseniz (veya bir videoda yer aldıysanız), tanımadığınız kişilerle büyük bir grup görüşmesine katıldıysanız Bildiğiniz veya sesinizi internete yüklediğiniz bir kapasitede, siz veya sevdikleriniz teorik olarak tehlikede olabilir. Bir dolandırıcının sesinizi bir yapay zeka üretecine yüklemesini, klonlamasını ve ailenizle iletişim kurmasını ne engeller?

Yapay Zeka Ses Üreteçleri Siber Güvenlik Manzarasını Bozuyor

Yapay zekanın yanlış ellerde ne kadar tehlikeli olabileceğini anlamak için bir siber güvenlik uzmanı olmaya gerek yok. Aynı şeyin tüm teknolojiler için söylenebileceği doğru olsa da, yapay zeka birkaç nedenden dolayı benzersiz bir tehdittir.

Birincisi, nispeten yeni, bu da ondan ne bekleyeceğimizi gerçekten bilmediğimiz anlamına geliyor. Modern yapay zeka araçları, siber suçluların operasyonlarını benzeri görülmemiş bir şekilde ölçeklendirmesine ve otomatikleştirmesine olanak tanırken, bu konuyla ilgili olarak halkın görece cehaletinden de yararlanıyor. Ayrıca üretken yapay zeka, çok az bilgi ve beceriye sahip tehdit aktörlerinin kötü amaçlı kod oluştur, dolandırıcılık siteleri oluşturun, spam yayın, kimlik avı e-postaları yazın, gerçekçi görüntüler oluşturve sonsuz saatlerce sahte ses ve video içeriği üretin.

En önemlisi, bu her iki şekilde de çalışır: AI, sistemleri korumak için de kullanılır ve muhtemelen on yıllarca sürecek. Bizi bekleyen şeyin siber suçlular arasında bir tür yapay zeka silahlanma yarışı olduğunu varsaymak mantıksız olmaz. ve siber güvenlik endüstrisi, çünkü bu araçların savunma ve saldırı kapasiteleri doğası gereği eşit.

Ortalama bir insan için, yaygın üretken yapay zekanın ortaya çıkışı, radikal bir çağrıda bulunuyor. güvenlik uygulamalarının yeniden düşünülmesi. Yapay zeka ne kadar heyecan verici ve yararlı olursa olsun, en azından gerçek ile gerçek arasındaki çizgiyi bulanıklaştırabilir. değildir ve en kötü ihtimalle mevcut güvenlik sorunlarını şiddetlendirir ve tehdit aktörlerinin manevra yapması için yeni alan yaratır içinde.

Ses Üreticileri, Yapay Zekanın Yıkıcı Potansiyelini Gösteriyor

ChatGPT piyasaya çıkar çıkmaz yapay zekayı düzenleme konuşmaları hız kazandı. Bu teknolojiyi sınırlamaya yönelik herhangi bir girişim, muhtemelen onlarca yıldır görmediğimiz bir dereceye kadar uluslararası işbirliği gerektirecek ve bu da pek olası değil.

Cin şişeden çıktı ve yapabileceğimiz en iyi şey buna alışmak. Bu ve umarım siber güvenlik sektörü buna göre ayarlanır.