Yapay Zeka İçerik Algılayıcıları Çalışmıyor ve Bu Büyük Bir Sorun

Yapay Zeka (AI), beğensek de beğenmesek de toplumumuzun tüm kesimlerini dönüştürecek ve buna World Wide Web de dahil.

İnternet bağlantısı olan herkesin kullanabileceği ChatGPT gibi yazılımlarla, yapay zeka tarafından oluşturulan içeriği bir insan tarafından oluşturulandan ayırmak giderek daha zor hale geliyor. Yapay zeka içerik algılayıcılarımızın olması iyi bir şey, değil mi?

AI İçerik Dedektörleri Çalışıyor mu?

AI içerik dedektörleri, bir şeyin bir bilgisayar programı tarafından mı yoksa bir insan tarafından mı yazıldığını belirleyen özel araçlardır. Google'da "AI içerik dedektörü" kelimesini ararsanız, görürsünüz onlarca dedektör var orada, hepsi insan ve insan olmayan metin arasında güvenilir bir şekilde ayrım yapabildiklerini iddia ediyor.

Çalışma biçimleri oldukça basittir: bir yazı yapıştırırsınız ve araç size bunun yapay zeka tarafından oluşturulup oluşturulmadığını söyler. Daha teknik bir ifadeyle, doğal dil işleme teknikleri ve makine kombinasyonunun kullanılması öğrenme algoritmaları, yapay zeka içerik algılayıcıları kalıpları ve öngörülebilirliği arar ve şuna dayalı aramalar yapar: O.

Bu, kağıt üzerinde kulağa harika geliyor, ancak daha önce bir AI algılama aracı kullandıysanız, en hafif deyimiyle, isabetli ve ıskalı olduklarını çok iyi bilirsiniz. Çoğu zaman, insanlar tarafından yazılan içeriği yapay zeka olarak veya insanlar tarafından oluşturulan metni yapay zeka tarafından oluşturulmuş olarak algılarlar. Aslında, bazıları yapmaları gereken şeyde utanç verici derecede kötü.

AI İçerik Dedektörleri Ne Kadar Doğru?

Amerika Birleşik Devletleri'ndeyseniz, "AI içerik dedektörü" için ilk Google arama sonucu, write.com'dur (eski adıyla Qordoba; bu, kendi algılayıcısına da sahip olan bir AI içerik platformudur). Ancak bu rastgele bir bölümü yapıştırdığınızda İlişkili basın araca eklenen makale, yapay zeka tarafından oluşturulmuş olma ihtimalinin çok yüksek olduğunu iddia ediyor.

Yani, writer.com yanlış anladı.

Adil olmak gerekirse, diğer AI içerik algılayıcıları neredeyse hiç daha iyi değil. Yalnızca yanlış pozitifler üretmekle kalmaz, aynı zamanda AI içeriğini insan olarak işaretlerler. Ve yapmadıklarında bile, yapay zeka tarafından oluşturulan metinde küçük değişiklikler yapmak, başarılı bir şekilde geçmek için yeterlidir.

Şubat 2023'te, Wollongong Üniversitesi Öğretim Görevlisi Armin Alimardani ve UNSW Sidney'de Doçent Emma A. Jane, bir dizi popüler AI içerik algılayıcısını test etti ve hiçbirinin güvenilir olmadığını belirledi. dergisinde yayınlanan analizlerinde, Konuşma, Alimardani ve Jane, metin oluşturucular ve algılayıcılar arasındaki bu AI "silahlanma yarışının" gelecekte, özellikle eğitimciler için önemli bir zorluk teşkil edeceği sonucuna vardılar.

Ancak endişelenmek için nedenleri olan sadece eğitimciler ve öğretmenler değil: herkesin var. Yapay zeka tarafından üretilen metin her yerde bulunur hale geldikçe, neyin "gerçek" olduğunu ve neyin olmadığını ayırt edebilmek, yani, yapay zeka tarafından bir şey yazıldığında gerçekten tespit etmek, daha zor hale gelecektir. Bunun, kişisel ilişkiler dahil olmak üzere toplumun hemen hemen tüm endüstrileri ve alanları üzerinde büyük bir etkisi olacaktır.

Yapay Zekanın Siber Güvenlik ve Gizlilik İçin Etkileri

Bir şeyin yazılım tarafından mı yoksa bir insan tarafından mı yaratıldığını belirleyecek güvenilir mekanizmaların olmaması, siber güvenlik ve mahremiyet açısından ciddi sonuçlar doğuruyor.

Tehdit aktörleri zaten kötü amaçlı yazılım yazmak için ChatGPT kullanma, kimlik avı e-postaları oluşturun, spam yazın, dolandırıcılık siteleri oluşturun ve daha fazlasını yapın. Buna karşı korunmanın yolları olsa da, organik ve bot içeriği arasında güvenilir bir şekilde ayrım yapabilen hiçbir yazılımın olmaması kesinlikle endişe verici.

Sahte haberler de zaten büyük bir sorun. Resimdeki üretken AI ile dezenformasyon ajanları, operasyonlarını benzeri görülmemiş bir şekilde ölçeklendirebilir. Bu arada sıradan bir kişinin, çevrimiçi okudukları bir şeyin yazılım tarafından mı yoksa bir insan tarafından mı yaratıldığını bilmesinin hiçbir yolu yoktur.

Gizlilik tamamen farklı bir konudur. Örneğin, ChatGPT'yi ele alalım. Oldu 300 milyardan fazla kelime beslendi lansmanından önce. Bu içerik kitaplardan, blog ve forum gönderilerinden, makalelerden ve sosyal medyadan alınmıştır. Kimsenin izni olmadan toplandı ve görünüşe göre gizlilik ve telif hakkı korumaları tamamen hiçe sayıldı.

Sonra yanlış pozitifler sorunu da var. İçerik yanlışlıkla yapay zeka tarafından oluşturulmuş olarak işaretlenirse, bu zaten çok büyük bir sorun olan sansüre yol açmaz mı? Yapay zeka tarafından oluşturulan metni kullanmakla suçlanmanın hem çevrimiçi hem de gerçek hayatta kişinin itibarına verebileceği zarardan bahsetmiyorum bile.

Üretken yapay zeka ile içerik algılayıcılar arasında gerçekten bir silahlanma yarışı varsa, birincisi kazanıyor. Daha da kötüsü, hiçbir çözüm yok gibi görünüyor. Elimizde yarısı bile çalışmayan ya da çok kolay kandırılabilen yarı pişmiş ürünlerimiz var.

AI İçeriği Nasıl Tespit Edilir: Potansiyel Çözümler

Şu anda bu soruna gerçek yanıtlarımızın olmaması, gelecekte de olmayacağı anlamına gelmez. Aslında, işe yarayabilecek birkaç ciddi teklif zaten var. Filigran birdir.

Yapay zeka ve derin dil modelleri söz konusu olduğunda, filigranlama, yapay zeka tarafından oluşturulan metne (ör. Böyle bir filigran çıplak gözle görülemez ve bu nedenle kaldırılması neredeyse imkansızdır, ancak özel bir yazılım onu ​​algılayabilir.

Aslında, 2022'de, Maryland Üniversitesi araştırmacılar yapay sinir ağları için yeni bir damgalama yöntemi geliştirdiler. Baş araştırmacı Tom Goldstein o sırada ekibinin filigranlarının tamamen kaldırılamayacağını "matematiksel olarak kanıtlamayı" başardığını söyledi.

Şimdilik sıradan bir insanın yapabileceği şey içgüdülerine ve sağduyusuna güvenmek. Okuduğunuz içerikte bir anormallik varsa -doğal olmayan, tekrarlanan, hayal gücünden uzak, banal geliyorsa- yazılım tarafından oluşturulmuş olabilir. Elbette çevrimiçi olarak gördüğünüz bilgileri de doğrulamalı, kaynağı iki kez kontrol etmeli ve gölgeli web sitelerinden uzak durmalısınız.

AI Devrimi Devam Ediyor

Bazıları, yapay zekanın dijital ve fizikselin birleşmesi olarak tanımlanan şeyin merkezinde yer alması nedeniyle beşinci sanayi devriminin çoktan burada olduğunu iddia ediyor. Durum gerçekten böyle olsun ya da olmasın, yapabileceğimiz tek şey uyum sağlamak.

İyi haber şu ki, siber güvenlik endüstrisi bu yeni gerçekliğe uyum sağlıyor ve ön planda yapay zeka ve makine öğrenimi ile yeni savunma stratejileri uyguluyor.