AI Rogue Gone: 6 Kez AI Çok İleri Gitti

AI, ses tanıma cihazlarından akıllı sohbet robotlarına kadar hayatımızı değiştirdi. Ancak her iyi şeyin bir dezavantajı da vardır ve AI bu kuralın bir istisnası değildir. Önde gelen teknoloji figürleri, bunun "uygarlığımızın tarihindeki en kötü olay" olabileceğini söyleyen Stephen Hawking de dahil olmak üzere, yapay zekanın yaklaşan tehlikeleri konusunda uyardı.

İşte altı kez AI biraz fazla ileri gitti ve bizi başımızı kaşıdı.

1. Suçluluğu Tahmin Etmek İçin Yapay Zekayı Kullanan Akademik Çalışma

Akademik araştırma, bilimsel ilerlemelerin ve bilginin bel kemiğidir. Bununla birlikte, bazıları, akademik bir çalışma, suçları yüzlerden tahmin etmek için AI kullandığında araştırmacıların bir adım ileri gittiğini söylüyor.

Harrisburg Üniversitesi'nden araştırmacılar 2020'de açıklandı birinin suçlu olup olmayacağını tahmin edebilecek bir yüz tanıma yazılımı geliştirdiklerini söyledi. Yazılımın, bir yüzün tek bir fotoğrafından, %80 doğruluk oranıyla ve ırksal önyargı olmaksızın tahminde bulunabileceği iddia ediliyor.

Azınlık Raporu'nu hatırlatan bir sahnede, yazılımın kolluk kuvvetlerine yardımcı olmak için geliştirildiği açıklandı.

Bu duyuruya yanıt olarak, 2425 uzman mektup imzaladı dergiyi gelecekte bu çalışmayı veya benzer araştırmaları yayınlamamaya çağırıyor çünkü bu tür teknoloji adaletsizlikleri yeniden üretebilir ve topluma gerçek zarar verebilir. Buna karşılık, Springer Nature araştırmayı yayınlamayacaklarını açıkladı ve Harrisburg Üniversitesi, çalışmayı özetleyen basın bültenini kaldırdı.

2. Skiin Akıllı İç Giyim

Yapay zekayı entegre eden tekstil yenilikleri, akıllı telefonunuzun akıllı hale gelen tek şey olmadığı anlamına geliyor.

Skiin'in akıllı iç çamaşırı, kalp atış hızı, duruş, çekirdek vücut ısısı, konum ve adımları içeren biyometriyi yakalarken en sevdiğiniz iç çamaşırını giyiyormuş gibi hissetmenizi vaat ediyor.

İlgili: Akıllı Kumaşlar Nelerdir ve Hayatınızı Nasıl Daha Akıllı Hale Getirebilirler?

İç çamaşırının içine yerleştirilmiş sensörler, Skiin'in ilgili akıllı telefon uygulamasından sağlanan bilgilerle biyometrik verilerinizi sürekli olarak toplar ve analiz eder.

Her akşam iç çamaşırınızı şarj etmeyi hatırlamanız biraz zaman alabilirken, tasarımcıların sensörleri vücudun herhangi bir yerine yerleştirmesi mümkün müydü?

3. DeepNude uygulamaları

Deepfake teknolojisi favori filmlerinden bir sahnede rol almak isteyen ortalama bir kullanıcı için zararsız bir eğlence gibi görünüyor. Bununla birlikte, Deeptrace'in 2019'da bildirdiği gibi, bu eğilimin daha karanlık bir yanı var, deepfake'lerin %96'sının müstehcen içerik olduğunu.

DeepNude, tek bir tıklamayla çıplak kadınların gerçekçi görüntülerini oluşturan yapay zeka destekli bir uygulamaydı. Kullanıcıların sadece hedefin giyinik bir görüntüsünü yüklemeleri gerekecek ve uygulama onların sahte çıplak bir görüntüsünü oluşturacaktı.

Uygulama yayınlandıktan kısa bir süre sonra yaratıcı, viral tepkiler nedeniyle uygulamayı internetten kaldıracağını duyurdu.

Bu, dünya çapındaki kadınlar için bir zafer olsa da, benzer uygulamalar hala internette dolaşıyor. Örneğin, Sensity'nin raporu Deepfake botlar üzerinde, kadınların sahte çıplak fotoğraflarını oluşturmak için kullanılan Telegram'daki yeraltı deepfake botlarını araştırdı.

Bu arada, yasa derin sahtekarlık teknolojisini yakalayana kadar, derin sahtekarlık müstehcen içeriğin kurbanı olan kişiler için çok az yasal koruma vardır.

4. Tay, Microsoft'un Nazi Chatbot'u

2016 yılında Microsoft, Twitter'da Tay adlı bir AI sohbet robotu yayınladı. Tay, tweetler ve fotoğraflar aracılığıyla Twitter kullanıcılarıyla etkileşim kurarak öğrenmek için tasarlandı.

24 saatten kısa bir süre içinde Tay'ın kişiliği bin yıllık meraklı bir kızdan ırkçı, ateşli bir canavara dönüştü.

Başlangıçta Tay, genç bir Amerikalı kızın iletişim tarzını kopyalamak için tasarlandı. Ancak, popülaritesi arttıkça, bazı kullanıcılar tartışmalı konularla ilgili kışkırtıcı mesajları Tay'a tweetlemeye başladı.

Bir örnekte, bir kullanıcı tweet attı, "Holokost oldu mu?" Tay yanıtladı, "Uyumluydu." 16 içinde Microsoft, yayınlanmasından saatler sonra, koordineli bir soruşturmaya konu olduğunu öne sürerek Tay'ın hesabını askıya aldı. saldırı.

İlgili: Sizi Eğlendirecek En İyi Android Sohbet Robotları

5. "İnsanları Yok Edeceğim"

Hanson Robotics, Mart 2016'da SXSW konferansında Sophia'yı piyasaya sürdüklerinde birkaç yıldır insansı robotlar geliştirmekle meşguldü.

Sophia ile eğitildi makine öğrenimi algoritmaları konuşma becerilerini öğrenmek için ve birkaç televizyon röportajına katıldı.

Sophia, ilk kez kamuoyu önüne çıktığında, Hanson şoka girdiğinde teknoloji profesyonelleriyle dolu bir odayı terk etti. Robotik CEO'su David Hanson, ona insanları yok etmek isteyip istemediğini sorduğunda, "Tamam. Yok edeceğim. insanlar".

Yüz ifadeleri ve iletişim becerileri etkileyici olsa da, bu canice itirafı geri almak mümkün değil.

6. Seebotschat

Google Home cihazları, hayatınızı kolaylaştırmaya yardımcı olan mükemmel sanal asistanlardır.

Seebotschat Twitch hesabının arkasındaki ekibin parlak bir fikri vardı: iki Google Home cihazını yan yana koyun, konuşmaları için bırakın ve sonucu çevrimiçi olarak yayınlayın.

60.000'den fazla takipçi ve çevrimiçi milyonlarca görüntülemeden oluşan bir kitleyi bir araya getiren sonuç büyüleyici ve bazen biraz ürkütücüydü.

Vladimir ve Estragon adlı otonom cihazlar, sıradan şeyleri tartışmaktan hayatın anlamı gibi derin varoluşsal soruları keşfetmeye gitti. Bir noktada hararetli bir tartışmaya girdiler ve birbirlerini robot olmakla suçladılar, daha sonra yeniden tartışmaya başlamadan önce aşkı tartışmaya başladılar.

İki sanal yardımcı robot hızla birbirlerine hakaret ve tehditler atmaya başlarsa, yapay zeka ve insan söyleminin geleceği için herhangi bir umut var mı?

Rogue AI: En İyi Savunmamız Nedir?

Yapay zekanın hayatımızı iyileştirebileceğine şüphe yok. Ama aynı şekilde yapay zeka da bize büyük zarar verebilir.

Yapay zekanın nasıl uygulandığına dikkat etmek, topluma zarar vermemesini sağlamak için önemlidir. Örneğin, uzman geri bildirimi, suçluluğu tahmin edebileceği iddia edilen AI yazılımının asla serbest bırakılmamasını sağladı. Aynı şekilde, DeepNude'un yaratıcısı, viral internet tepkisi aldıktan sonra uygulamayı web'den kaldırdı.

AI uygulamalarını sürekli olarak izlemek, topluma yarardan daha fazla zarar vermemesini sağlamanın anahtarıdır.

AI Tehlikeli mi? 5 Yapay Zekanın Acil Riskleri

AI'nın pek çok faydası var, peki ya insanlığa getirdiği acil riskler?

Sonrakini Oku

Yazar hakkında