Yapay Zeka Halüsinasyonu Nedir ve Bunu Nasıl Belirlersiniz?

Yapay Zeka (AI) halüsinasyonu kulağa şaşırtıcı geliyor. Muhtemelen "Halüsinasyon bir insan fenomeni değil mi?" diye düşünüyorsunuz. Şey, evet, eskiden sadece insandı. yapay zeka yüz tanıma, kendi kendine öğrenme ve konuşma gibi insan özelliklerini sergilemeye başlayana kadar tanıma.

Ne yazık ki AI, halüsinasyonlar da dahil olmak üzere bazı olumsuz nitelikler aldı. Öyleyse, AI halüsinasyonu, insanların deneyimlediği halüsinasyon türüne benzer mi?

Yapay Zeka Halüsinasyonu Nedir?

Yapay zeka halüsinasyonu, bir AI modeli beklenenden farklı çıktılar ürettiğinde ortaya çıkar. Bazı yapay zeka modellerinin kasıtlı olarak herhangi bir gerçek dünya girdisi (veri) ile ilgisi olmayan çıktılar üretmek üzere eğitildiğini unutmayın.

Örneğin, en iyi yapay zeka metinden sanata dönüştürme araçlarıDALL-E 2 gibi, gerçek dünya verilerine dayanmadıkları için "halüsinasyonlar" olarak etiketleyebileceğimiz yeni görüntüleri yaratıcı bir şekilde oluşturabilir.

Büyük Dil İşleme Modellerinde Yapay Zeka Halüsinasyonu

ChatGPT gibi büyük bir dil işleme modelinde AI halüsinasyonunun nasıl görüneceğini düşünelim. Bir ChatGPT halüsinasyonu, botun size bazı iddialarla yanlış bir gerçek vermesine neden olur, öyle ki bu tür gerçekleri doğal olarak gerçek olarak kabul edersiniz.

Basit bir ifadeyle, yapay zekaya sahip sohbet robotu tarafından uydurulmuş ifadelerdir. İşte bir örnek:

Daha fazla sorguda, ChatGPT şunu verdi:

Bilgisayarla Görüde Yapay Zeka Halüsinasyonu

Yapay zeka halüsinasyonu yaşayabilecek başka bir yapay zeka alanını ele alalım: Bilgisayar görüşü. Aşağıdaki sınav, birbirine çok benzeyen iki varlığın yer aldığı bir 4x4 montajını gösteriyor. Görüntüler, barbekü patates cipsi ve yapraklarının bir karışımıdır.

Buradaki zorluk, montajda herhangi bir yaprağa çarpmadan patates cipsi seçmektir. Bu görüntü bir bilgisayar için yanıltıcı görünebilir ve barbekü patates cipsi ile yapraklarını ayırt edemeyebilir.

İşte kaniş ve domuz ipi topuz görüntülerinin karışımıyla başka bir montaj. Bir bilgisayar büyük olasılıkla aralarında ayrım yapamayacak, bu nedenle görüntüleri karıştıracaktır.

Yapay Zeka Halüsinasyonu Neden Oluşur?

Yapay zeka halüsinasyonu, bir yapay zeka uygulamasını yanlış sınıflandırması için kandıran düşmanca örnekler - girdi verileri nedeniyle ortaya çıkabilir. Örneğin, yapay zeka uygulamalarını eğitirken, geliştiriciler verileri (resim, metin veya diğerleri) kullanır; veriler değiştirilir veya bozulursa, uygulama girişi farklı yorumlayarak yanlış bir çıktı verir.

Buna karşılık, bir insan, bozulmalara rağmen verileri doğru bir şekilde tanıyabilir ve tanımlayabilir. Bunu sağduyu olarak etiketleyebiliriz - AI'nın henüz sahip olmadığı bir insan özelliği. Bu videoda yapay zekanın rakip örneklerle nasıl kandırıldığını izleyin:

Gibi büyük dil tabanlı modellerle ilgili olarak ChatGPT ve alternatifleri, halüsinasyonlar, transformatörden (makine öğrenimi modeli) yanlış kod çözmeden kaynaklanabilir.

Yapay zekada bir dönüştürücü, öz-dikkat (kelimeler arasındaki anlamsal ilişkiler) kullanan derin bir öğrenme modelidir. Bir insanın bir kodlayıcı-kod çözücü (girdi-çıktı) kullanarak yazacağına benzer bir metin üretmek için bir cümle) sekans.

Bu nedenle, yarı denetimli bir makine öğrenimi modeli olan dönüştürücüler, eğitiminde (giriş) kullanılan büyük metin verileri topluluğundan yeni bir metin gövdesi (çıktı) oluşturabilir. Bunu, önceki kelimelere dayalı olarak bir dizideki bir sonraki kelimeyi tahmin ederek yapar.

Varsanı ile ilgili olarak, yetersiz ve yanlış veri ve kaynaklar üzerinde bir dil modeli eğitilirse, çıktının uydurma ve hatalı olması beklenir. Dil modeli, mantıksal tutarsızlıklar veya net olmayan bağlantılar olmadan bir hikaye veya anlatı üretebilir.

Aşağıdaki örnekte ChatGPT'den "isyan"a benzer bir kelime vermesi istendi ve "b" ile başlıyor. İşte yanıtı:

Daha fazla incelemede, yüksek düzeyde bir güvenle yanlış cevaplar vermeye devam etti.

Peki ChatGPT neden bu istemlere doğru yanıt veremiyor?

Dil modeli, bunlar gibi oldukça karmaşık istemleri işlemek için donanımsız olabilir veya belirli bir kelime ile benzer bir kelime verme istemini göz ardı ederek istemi doğru yorumlayamaz. alfabe.

AI Halüsinasyonunu Nasıl Belirlersiniz?

Yapay zeka uygulamalarının halüsinasyon potansiyeline sahip olduğu artık açıktır - herhangi bir kötü niyet olmaksızın beklenen çıktıdan (gerçek veya gerçek) başka türlü yanıtlar üretir. AI halüsinasyonlarını tespit etmek ve tanımak, bu tür uygulamaların kullanıcılarına bağlıdır.

Yaygın AI uygulamalarını kullanırken AI halüsinasyonlarını tespit etmenin bazı yolları şunlardır:

1. Büyük Dil İşleme Modelleri

Nadiren de olsa, ChatGPT gibi büyük bir işleme modeli tarafından üretilen içerikte bir gramer hatası fark ederseniz, bu durum bir kaşınızı kaldırmalı ve halüsinasyondan şüphelenmenize neden olmalıdır. Benzer şekilde, metin tarafından oluşturulan içerik mantıklı gelmediğinde, verilen bağlamla bağdaştırılmadığında veya giriş verileriyle eşleşmediğinde, bir halüsinasyondan şüphelenmelisiniz.

İnsan muhakemesi veya sağduyu kullanmak halüsinasyonları tespit etmeye yardımcı olabilir, çünkü insanlar bir metnin ne zaman mantıklı gelmediğini veya gerçeği takip etmediğini kolayca belirleyebilirler.

2. Bilgisayar görüşü

Yapay zeka, makine öğrenimi ve bilgisayar biliminin bir dalı olarak bilgisayarla görme, bilgisayarları insan gözü gibi görüntüleri tanıma ve işleme konusunda güçlendirir. kullanma evrişimli sinir ağları, eğitimlerinde kullanılan inanılmaz miktarda görsel veriye güveniyorlar.

Eğitimde kullanılan görsel verilerin modellerinden sapma halüsinasyonlara yol açacaktır. Örneğin, bir bilgisayar bir tenis topunun görüntüleri ile eğitilmediyse, onu yeşil turuncu olarak tanımlayabilir. Veya bir bilgisayar, insan heykelinin yanındaki atı gerçek bir insanın yanındaki at olarak algılarsa, o zaman bir yapay zeka halüsinasyonu meydana gelmiştir.

Bir bilgisayar görüntüsü halüsinasyonunu tespit etmek için, üretilen çıktıyı [normal] bir insanın görmesinin beklendiği şeyle karşılaştırın.

3. Sürücüsüz Arabalar

Yapay zeka sayesinde sürücüsüz arabalar yavaş yavaş otomobil pazarına sızıyor. Tesla Autopilot ve Ford'un BlueCruise gibi öncüleri, kendi kendine giden araba sahnesini savunuyorlar. kontrol edebilirsiniz Tesla Otopilot nasıl ve ne görür? yapay zekanın kendi kendine giden arabalara nasıl güç verdiğine dair biraz fikir sahibi olmak için.

Bu tür arabalardan birine sahipseniz, AI arabanızın halüsinasyon görüp görmediğini bilmek istersiniz. Bir işaret, aracınızın sürüş sırasında normal davranış kalıplarından sapıyor gibi görünmesi olacaktır. Örneğin, araç bariz bir neden olmadan aniden fren yaparsa veya yoldan çıkarsa, yapay zeka aracınız halüsinasyon görüyor olabilir.

AI Sistemleri de Halüsinasyon Görebilir

İnsanlar ve AI modelleri halüsinasyonları farklı şekilde deneyimliyor. Yapay zeka söz konusu olduğunda halüsinasyonlar, gerçeklikten kilometrelerce uzakta olan veya verilen bilgi istemi bağlamında bir anlam ifade etmeyen hatalı çıktıları ifade eder. Örneğin, bir yapay zeka sohbet robotu, gürültü veya diğer yapısal faktörler nedeniyle gramer veya mantıksal olarak yanlış yanıt verebilir veya bir nesneyi yanlış tanımlayabilir.

AI halüsinasyonları, insanlarda gözlemleyeceğiniz gibi bilinçli veya bilinçaltı bir zihinden kaynaklanmaz. Aksine, AI sisteminin eğitiminde ve programlanmasında kullanılan verilerin yetersizliğinden veya yetersizliğinden kaynaklanır.