Uzmanlar, yapay zekanın bildiğimiz şekliyle insanlığın sonunu getireceğini düşünüyor, peki bunun olmasını engellemek için ne yapılıyor?
Yine bir grup önde gelen AI araştırmacısı ve teknoloji firması, yapay zekanın mevcut hızlı gelişiminin insanlık için felaket anlamına gelebileceği konusunda uyardı.
Riskler, nükleer çatışmalar, hastalıklar, yanlış bilgilendirme ve gözetimden yoksun yapay zekayı kapsıyor ve bunların tümü insanın hayatta kalması için acil bir tehdit oluşturuyor.
Ancak bu uyarıların birçoğunun yapay zeka geliştirmeye öncülük eden ve kendi şirketlerinde yapay zeka araçlarını ve programlarını zorlayan aynı kişilerden geldiği unutulmayacak.
Teknoloji Şirketleri ve Yapay Zeka Bilim Adamları Neden Yapay Zeka Riski Konusunda Uyarıyor?
30 Mayıs 2023'te 350'den fazla AI araştırmacısı, geliştiricisi ve mühendisi, AI'nın insanlığa yönelik tehdidine karşı ortak imzalı bir uyarı yayınladı.
Yapay zeka kaynaklı yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.
İmzacılar Safe.ai bildirimi Turing ile birlikte OpenAI'den Sam Altman, Google DeepMind'dan Demis Hassabis ve Anthropic'ten Dario Amodei dahil Ödül sahipleri Geoffrey Hinton ve Yoshua Bengio (aynı ödülü kazanan Yann LeCun imza atmayı ihmal etse de). Liste, yapay zeka geliştirme dünyasında neredeyse bir kim kimdir - yapay zekaya öncülük eden insanlar - yine de hepsi burada, yapay zekanın insanlık için felaket anlamına gelebileceği konusunda uyarıda bulunuyor.
Bildiğimiz şekliyle dünyayı tehlikeye atabilecek iki kilit alana özellikle atıfta bulunarak tehditleri netleştiren kısa bir açıklama: nükleer savaş ve küresel sağlık sorunları. Nükleer çatışma tehdidi bir endişe kaynağı olsa da, bir salgın riski çoğu kişi için daha somut bir tehdit.
Ancak, AI ile ilgili sağlık sorunlarına neden olabilecek yalnızca küresel bir salgın değildir. Gardiyan yaygın kullanımdan önce kontrol edilmezse insanları etkileyebilecek diğer birkaç yapay zeka sağlık sorununu bildirir. Bir örnek, "koyu tenli hastalarda kan oksijen seviyelerini olduğundan fazla tahmin ederek hipoksilerinin yeterince tedavi edilmemesine neden olan" yapay zeka destekli oksimetrelerin kullanılmasıyla ilgili.
Ayrıca, bir grup teknoloji liderinin AI gelişiminin duraklatılması veya ciddi şekilde yeniden değerlendirilmesi çağrısı yaptığı ilk sefer değil. Mart 2023'te, Elon Musk ve diğer AI araştırmacıları benzer bir harekete geçirici mesaj imzaladı sürece rehberlik etmeye yardımcı olmak için daha fazla düzenleme uygulanana kadar yapay zeka geliştirme konusunda bir moratoryum talep etmek.
AI Riski Nedir?
Yapay zeka ile ilişkili risklerin çoğu, en azından bu bağlamda, kontrolden çıkmış yapay zeka teknolojisinin geliştirilmesiyle ilgilidir. sonunda yaratıcısına sırt çevirdiği ve bildiğimiz gibi yaşamı yok ettiği insanların yeteneklerini aşan BT. Bu, bilimkurgu yazılarında sayısız kez işlenen bir hikaye ama gerçek artık düşündüğümüzden daha yakın.
Büyük dil modellerinin (ChatGPT gibi araçların temelini oluşturan) yetenekleri büyük ölçüde artıyor. Fakat, ChatGPT gibi araçların birçok sorunu vardoğal önyargı, mahremiyet endişeleri ve yapay zeka halüsinasyonu gibi;
Büyük dil modelleri arttıkça ve çağrılacak daha fazla veri noktasının yanı sıra internet erişimi ve daha büyük Güncel olayları anlayan AI araştırmacıları, OpenAI CEO'su Sam Altman'ın sözleriyle, bir gün bunun olabileceğinden korkuyor, "oldukça yanlış."
Hükümetler Riskleri Durdurmak İçin Yapay Zeka Geliştirmeyi Nasıl Düzenliyor?
AI düzenlemesi, riskleri önlemenin anahtarıdır. Mayıs 2023'ün başlarında, Sam Altman daha fazla AI düzenlemesi için çağrıda bulundu, "hükümetlerin düzenleyici müdahalesinin, giderek daha güçlü hale gelen modellerin risklerini azaltmak için kritik öneme sahip olacağını" belirterek.
Sonra Avrupa Birliği AI Yasasını açıkladı, AB genelinde yapay zeka gelişimi için çok daha güçlü bir çerçeve sağlamak üzere tasarlanmış bir düzenlemedir (birçok düzenleme diğer yargı bölgelerine yayılmıştır). Altman başlangıçta OpenAI'yi AB'den çıkarmakla tehdit etti, ancak daha sonra tehdidini geri çekti ve şirketin daha önce istediği AI yönetmeliğine uyacağını kabul etti.
Ne olursa olsun, AI geliştirme ve kullanımlarının düzenlenmesinin önemli olduğu açıktır.
AI İnsanlığı Bitirecek mi?
Bu konudaki tartışmaların çoğu, AI'nın gelecekteki sürümlerinin gücü hakkındaki varsayımlara dayandığından, herhangi bir AI düzenlemesinin sahip olabileceği uzun ömür ve güç hakkında sorunlar var. Dakikada bin mil hızla hareket eden ve gelişmede her gün büyük ilerlemeler kaydeden bir endüstriyi en iyi nasıl düzenleyebiliriz?
Ayrıca, genel olarak AI'nın yetenekleri ve nereye varacağı konusunda hala bazı şüpheler var. En kötüsünden korkanlar, yapay genel zekanın bir insan derebeyine dönüşmesine işaret ederken, diğerleri AI'nın mevcut sürümlerinin temel matematik sorularını bile yapamadığı ve tam sürücüsüz arabaların hala bir yol olduğu gerçeği kapalı.
Geleceğe bakanlara katılmamak elde değil. AI'nın ortaya çıkarabileceği sorunlar hakkında en yüksek sesle bağıran insanların çoğu, sürücü koltuğunda nereye gidiyor olabileceğimize bakıyor. Bizi potansiyel olarak korkunç bir gelecekten korumak için AI düzenlemesi talep edenler onlarsa, dinlemenin zamanı gelmiş olabilir.
