Yapay zeka tabanlı teknolojiyle ilgili en son yenilikler, bir zamanlar yapay zeka ile mümkün olduğunu düşündüğümüz şeylerin sınırlarını zorluyor. Ancak, ChatGPT ve Bing Chat gibi sohbet robotları birçok konuda neredeyse insanlar kadar iyi hale gelirken, bir süreliğine frene basmanın zamanı geldi mi?
Elon Musk ve birkaç AI araştırmacısı, böyle düşünen (bu yazıyı yazdığı sırada) 1.188 kişi arasında yer alıyor. Kâr amacı gütmeyen Future of Life enstitüsü tarafından yayınlanan bir mektup, GPT 4'ten daha iyi AI teknolojilerinin eğitimi için altı aylık bir duraklama çağrısında bulunuyor, ancak bir duraklama gerçekten gerekli mi?
Hayatın Geleceği Açık Mektup Nedir?
bu Future of Life enstitüsü tarafından yayınlanan mektup AI laboratuvarlarının daha fazlasını geliştirmek ve dağıtmak için "kontrolden çıkmış bir yarışta kilitlendiğine" işaret ediyor ve yaratıcıları dahil hiç kimsenin "anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol".
Ayrıca, çağdaş yapay zeka sistemlerinin artık genel görevlerde insanlarla rekabet edebilir hale geldiğine işaret ediyor ve şunu soruyor: "Nihayetinde sayıca üstün olabilecek, zekice üstün gelebilecek, modası geçmiş ve yerini alabilecek insan olmayan zihinler" geliştirip geliştirmememiz gerekip gerekmediği. biz".
Mektup sonunda tüm yapay zeka laboratuvarlarını GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimini en az altı ay süreyle derhal durdurmaya çağırıyor. Duraklama herkese açık olmalı ve tüm kilit aktörler arasında da doğrulanabilir olmalıdır. Ayrıca, böyle bir duraklama hızlı bir şekilde uygulanamazsa, hükümetlerin AI model eğitimini geçici olarak yasaklamak için adım atması gerektiğini belirtir.
Duraklatma aktif hale geldiğinde, yapay zeka laboratuvarlarından ve bağımsız uzmanlardan ortaklaşa bir geliştirme ve uygulama için bunu kullanmaları istenir. Bu kurallara uyan sistemlerin "makul bir standardın ötesinde güvenli" olmasını sağlamak için "paylaşılan güvenlik protokolleri seti" şüphe".
Bu mektup, aralarında Elon Musk, Steve Wozniak ve yapay zeka araştırmacıları ve yazarlarının da bulunduğu pek çok isim tarafından imzalandı. Aslında, imza listesi şu anda yüksek talep nedeniyle duraklatılmıştır.
Musk'ın Gelişmiş Yapay Zeka Teknolojisi ve OpenAI İle İlgili Endişeleri Nelerdir?
Future of Life'ın mektubunu imzalamak, Musk'ın bu tür gelişmiş AI sistemlerinin oluşturduğu güvenlik risklerinden endişe duyduğunu gösteriyor olabilir, asıl sebep başka bir şey olabilir.
Musk, 2015 yılında kar amacı gütmeyen bir kuruluş olarak OpenAI'yi şu anki CEO Sam Altman ile birlikte kurdu. Ancak, şirketin ilerlemesinden memnun olmadığını fark ettikten sonra 2018'de Altman ile kafa kafaya geldi. Musk'ın geliştirmeyi hızlandırmak için görevi devralmak istediği bildirildi, ancak Altman ve OpenAI yönetim kurulu bu fikri reddetti.
Musk kısa bir süre sonra OpenAI'den ayrıldı ve 1 milyar fon sağlama sözünü bozarak ve ayrılmadan önce sadece 100 milyon vererek parasını da yanına aldı. Bu, OpenAI'yi araştırmasına devam etmek için fon toplamak amacıyla Mart 2019'dan kısa bir süre sonra özel bir şirket olmaya zorladı.
Musk'ın ayrılmasının bir diğer nedeni de Tesla'daki yapay zeka gelişiminin gelecekte bir çıkar çatışmasına yol açacak olmasıydı. Tesla'nın güç sağlamak için gelişmiş AI sistemlerine ihtiyaç duyduğu açık bir bilgidir. Eksiksiz Sürücüsüz Sürüş özellikleri. Musk, OpenAI'den ayrıldığından beri şirket, AI modellerini piyasaya sürmeye başladı. GPT3.5 destekli ChatGPT 2022'de ve daha sonra Mart 2023'te GPT-4 ile devam edecek.
Musk'ın AI ekibinin OpenAI'ye yakın olmadığı gerçeği, modern AI modellerinin risk oluşturabileceğini her söylediğinde hesaba katılması gerekiyor. O da sorun yaşamadı Tesla Tam Kendi Kendine Sürüş beta sürümünü halka açık yollarda kullanıma sunuyor, esasen normal Tesla sürücülerini beta test cihazlarına dönüştürmek.
Bu da burada bitmiyor. Musk ayrıca Twitter'da OpenAI'yi oldukça eleştirdi, Altman son zamanlarda "On with Kara Swisher" podcast'inde görünürken onlara saldırdığını söyleyecek kadar ileri gitti.
Şu anda Musk, OpenAI'deki ve diğer tüm firmalardaki geliştirmeyi durdurmak için Future of Life mektubunu kullanıyor gibi görünüyor. Bu AI modellerinin potansiyel tehlikeleri hakkında gerçekten endişelenmek yerine şirketlerine yetişme şansı vermek için GPT-4'e geçti. poz. Mektubun ayrıca yapay zeka sistemlerinin "eğitimini" altı ay boyunca duraklatmayı istediğini unutmayın; bu arada onları geliştirmeye devam etmek için nispeten kolayca kaçınılabilir.
Bir Duraklama Gerçekten Gerekli mi?
Bir duraklama gerekliliği, ileriye dönük AI modellerinin durumuna bağlıdır. Mektubun tonu kesinlikle biraz dramatik ve açıkça belirtildiği gibi medeniyetimizin kontrolünü yapay zekaya kaptırma riskini almıyoruz. Bahsedilen, AI teknolojileri birkaç tehdit oluşturuyor.
OpenAI ve diğer AI laboratuvarlarının yerinde daha iyi güvenlik kontrolleri bulabileceği göz önüne alındığında, bir duraklamanın yarardan çok zararı olacaktır. Bununla birlikte, mektubun "bağımsız dış uzmanlar tarafından titizlikle denetlenen ve denetlenen" bir dizi paylaşılan güvenlik protokolü önerisi kulağa iyi bir fikir gibi geliyor.
Google ve Microsoft gibi teknoloji devlerinin yapay zeka geliştirmeye ve ürünlerine entegre etmeye milyarlar akıtmasıyla, mektubun yapay zeka gelişiminin mevcut hızını etkilemesi pek olası değil.
Yapay Zeka Kalmak İçin Burada
Teknoloji devlerinin ürünlerinde AI entegrasyonunu daha da ileriye götürmesi ve araştırma ve geliştirmeye milyarlarca dolar yatırmasıyla, muhalefet ne derse desin AI burada kalacak.
Ancak bu teknolojilerin raydan çıkmasını ve potansiyel olarak zarar verme araçlarına dönüşmesini önlemek için güvenlik önlemleri uygulamak kötü bir fikir değildir.
