Yapay zeka (AI), toplumumuzun doğasını değiştirme potansiyeline sahiptir. Ve şu anda elimizde bulunan yapay zeka araçları, geleceğin bir göstergesiyse, sabırsızlıkla bekleyecek çok şeyimiz var.
Ayrıca dikkat etmemiz gereken çok şey var. Yani, yapay zekanın siber suçlular ve diğer tehdit aktörleri tarafından silah haline getirilmesi. Bu teorik bir endişe değildir ve AI görüntü oluşturucular bile kötüye kullanıma karşı bağışık değildir.
Yapay Zeka Görüntü Oluşturucuları Nedir? Nasıl Çalışırlar?
Şimdiye kadar bir AI görüntü oluşturucu kullandıysanız, bunların ne hakkında olduğu konusunda oldukça iyi bir fikriniz vardır. Hiç kullanmamış olsanız bile, büyük olasılıkla sosyal medyada ve başka yerlerde yapay zeka tarafından oluşturulmuş görüntülerle karşılaşmışsınızdır. Günümüzde popüler olan yazılım çok basit bir prensiple çalışır: kullanıcı metni yazar ve yapay zeka bu metne dayalı olarak bir görüntü oluşturur.
Kaputun altında olup bitenler çok daha karmaşık. AI son yıllarda çok daha iyi hale geldi ve çoğu metinden görüntüye oluşturucular günümüzde sözde difüzyon modelleri. Bu, çok sayıda metin ve resim üzerinde uzun bir süre boyunca "eğitildikleri" anlamına gelir; bu da yarattıklarını bu kadar etkileyici ve şaşırtıcı derecede gerçekçi kılan şeydir.
Bu AI araçlarını daha da etkileyici kılan şey, yalnızca mevcut görüntüleri değiştirmemeleri veya binlerce görüntüyü bir araya getirmemeleri, aynı zamanda sıfırdan yeni, orijinal görüntüler oluşturmalarıdır. Bu metinden görüntüye oluşturucuları ne kadar çok kişi kullanırsa, o kadar çok bilgi beslenir ve yaratımları o kadar iyi hale gelir.
En iyi bilinenlerden bazıları AI görüntü üreteçleri Dream by WOMBO'dur, DALL-E, Kararlı Difüzyon, Midjourney, DeepAI, Fotor ve Craiyon. Sağda ve solda yenileri çıkıyor ve Google da dahil olmak üzere teknoloji devleri kendi teknolojilerini piyasaya sürüyor, bu nedenle geleceğin ne getireceği konusunda yalnızca spekülasyon yapabiliriz.
Tehdit Aktörlerinin Yapay Zeka Görüntü Oluşturucularını Silahlandırmasının 4 Yolu
Hemen hemen tüm teknolojilerde olduğu gibi, AI görüntü üreteçleri de kötü niyetli aktörler tarafından kötüye kullanılabilir. Aslında, zaten her türlü hain amaç için kullanılıyorlar. Ancak bir suçlu, yapay zeka görüntü oluşturucuların yardımıyla tam olarak ne tür dolandırıcılık ve siber saldırılar gerçekleştirebilir?
1. Sosyal mühendislik
Tehdit aktörlerinin yapay zeka görüntü oluşturucularla yapabileceği bariz şeylerden biri, toplum mühendisliği yapmak; örneğin, sahte sosyal medya profilleri oluşturun. Bu programlardan bazıları, gerçek insanların gerçek fotoğraflarına benzeyen inanılmaz derecede gerçekçi görüntüler oluşturabilir ve bir dolandırıcı, bu sahte sosyal medya profillerini kedi balıkçılığı için kullanabilir.
Gerçek kişilerin fotoğraflarından farklı olarak, yapay zeka tarafından oluşturulan fotoğraflar ters görüntü arama yoluyla keşfedilemez ve siber suçlunun bir bilgisayarla çalışması gerekmez. hedeflerini kandırmak için sınırlı sayıda fotoğraf — yapay zekayı kullanarak istedikleri kadar fotoğraf çekebilirler ve çizik.
Ancak, insanları dolandırmak için AI görüntü oluşturucuları kullanan tehdit aktörlerinin gerçek hayattan örnekleri var. Nisan 2022'de Teknik Konuşmalar blog yazarı Ben Dickinson, bir hukuk firmasından bir görseli izinsiz kullandığını iddia eden bir e-posta aldı. Avukatlar, bir DMCA Telif Hakkı İhlali Bildirimi göndererek, Dickinson'a bir müvekkilleriyle bağlantı kurması veya resmi kaldırması gerektiğini bildirdi.
Dickinson hukuk firmasını Google'da arattı ve resmi web sitesini buldu. Her şey tamamen meşru görünüyordu; sitede 18 avukatın biyografileri ve kimlik bilgileriyle birlikte fotoğrafları bile vardı. Ama hiçbiri gerçek değildi. Fotoğrafların tümü yapay zeka tarafından oluşturuldu ve sözde telif hakkı ihlali bildirimleri gönderildi. etik olmayan, siyahi bir girişimin parçası olarak, şüphelenmeyen blog yazarlarından zorla geri bağlantı almak isteyen biri tarafından şapka SEO (Arama Motoru Optimizasyonu) strateji.
2. Yardım Dolandırıcılığı
Şubat 2023'te yıkıcı depremler Türkiye ve Suriye'yi vurduğunda, dünyanın dört bir yanından milyonlarca insan kıyafet, yiyecek ve para bağışlayarak kurbanlarla dayanışma içinde olduklarını ifade etti.
gelen bir rapora göre BBC, dolandırıcılar gerçekçi görüntüler oluşturmak ve bağış toplamak için yapay zekayı kullanarak bundan yararlandı. Bir dolandırıcı, TikTok Live'da yapay zeka tarafından oluşturulan harabe görüntülerini göstererek izleyicilerinden bağış istedi. Bir diğeri, yaralı bir çocuğu harabelerden kurtaran bir Yunan itfaiyecinin AI tarafından oluşturulmuş bir görüntüsünü yayınladı ve takipçilerinden Bitcoin cinsinden bağış istedi.
Suçluların gelecekte yapay zekanın yardımıyla ne tür bir hayır kurumu dolandırıcılığı yürüteceğini ancak hayal edebiliriz, ancak yalnızca bu yazılımı kötüye kullanma konusunda daha iyi olacaklarını varsaymak güvenlidir.
3. Deepfakes ve Dezenformasyon
Hükümetler, aktivist gruplar ve düşünce kuruluşları uzun süredir bu konuda uyarılarda bulunuyor. deepfake tehlikeleri. AI görüntü üreteçleri, yaratımlarının ne kadar gerçekçi olduğu göz önüne alındığında, bu soruna başka bir bileşen ekler. Hatta Birleşik Krallık'ta, beklenmedik ünlü eşleşmelerinde mizah bulan Deep Fake Neighbor Wars adlı bir komedi programı bile var. Bir dezenformasyon ajanının sahte bir imaj yaratmasını ve bunu robotların yardımıyla sosyal medyada tanıtmasını ne engelleyebilir?
Mart 2022'de Ukrayna Devlet Başkanı Volodymyr Zelensky'nin Ukraynalılara teslim olmalarını söylediğini gösteren sahte bir video internette dolaştığında olduğu gibi, bunun gerçek hayatta sonuçları olabilir. Nepal Rupisi. Ama bu sadece bir örnek, çünkü olasılıklar neredeyse sonsuz ve sayısız yol var. Tehdit aktörü, birinin itibarına zarar verebilir, yanlış bir anlatıyı teşvik edebilir veya yardımıyla sahte haberler yayabilir. AI'nın.
4. Reklam Sahtekarlığı
TrendMikro araştırmacılar, 2022'de dolandırıcıların yanıltıcı reklamlar oluşturmak ve gölgeli ürünleri tanıtmak için yapay zeka tarafından oluşturulan içeriği kullandıklarını keşfetti. Popüler ünlülerin belirli ürünleri kullanmasını öneren görseller oluşturdular ve bu görsellere dayalı reklam kampanyaları yürüttüler.
Örneğin, bir "mali danışmanlık fırsatı" reklamında Tesla'nın kurucusu ve CEO'su milyarder Elon Musk yer alıyordu. Elbette Musk, söz konusu ürünü hiçbir zaman onaylamadı, ancak öne çıkan yapay zeka tarafından oluşturulan görüntüler, muhtemelen şüphelenmeyen izleyicileri reklamları tıklamaya çekerek ürünün öyle görünmesini sağladı.
Yapay Zeka ve Siber Güvenlik: Ele Almamız Gereken Karmaşık Bir Sorun
İleriye dönük olarak, devlet düzenleyicileri ve siber güvenlik uzmanları, ortaya çıkan yapay zeka destekli siber suç tehdidini ele almak için muhtemelen birlikte çalışmak zorunda kalacak. Ancak inovasyonu engellemeden ve dijital özgürlükleri kısıtlamadan yapay zekayı nasıl düzenleyebilir ve sıradan insanları nasıl koruyabiliriz? Bu soru önümüzdeki yıllarda büyük önem taşıyacak.
Bir cevap bulunana kadar kendinizi korumak için elinizden geleni yapın: çevrimiçi gördüğünüz tüm bilgileri dikkatlice inceleyin, gölgeli web siteleri, güvenli yazılımlar kullanın, cihazlarınızı güncel tutun ve yapay zekayı sizin için kullanmayı öğrenin. avantaj.