Bilgisayarların Sağduyuyu Öğrenmesi Mümkün mü?

Temel Çıkarımlar

• Sağduyu, günlük durumları aşırı analiz etmeden anlama ve tepki verme yeteneğidir. Yaşam deneyimleri ve gözlemlerin yanı sıra toplumsal ve kültürel normlar yoluyla edinilir.
• Bilgisayarlar sağduyuyla mücadele ediyor çünkü gerçek dünya deneyimlerinden ve yeni bağlamlara uyum sağlama yeteneğinden yoksunlar. Ayrıca insanların sezgisel olarak anladığı söylenmemiş kurallar ve varsayımlarla da mücadele ederler.
• Araştırmacılar kapsamlı bilgi tabanları oluşturmak gibi farklı yaklaşımları araştırıyorlar. Bilgisayarları bilgi edinme konusunda eğitmek için sağduyuyu kitle kaynak olarak kullanmak ve simüle edilmiş dünyalar aracılığıyla yapay zekayı öğretmek sağduyu. İlerleme kaydedildi ancak hâlâ yapılması gereken işler var.

Sağduyu. Hepimiz buna sahip olduğumuzu düşünüyoruz. Ama bu tam olarak nedir? Bilgisayarlar veya yapay zeka sistemleri bunu gerçekten elde edebilir mi?

Sağduyu Nedir ve İnsanlar Bunu Nasıl Kazanır?

Sağduyu, çoğu insandan beklenen temel algılama, anlama ve yargılama yeteneğidir. Yaşam deneyimleri ve gözlemler aracılığıyla biriktirdiğimiz gerçeklerin, bilgilerin ve genel kuralların toplamıdır. Sağduyu, günlük durumları çok derinlemesine analiz etmeden etkili bir şekilde işlememize ve bunlara tepki vermemize olanak tanır.

İnsanlar çocukluk döneminde sağduyu kazanmaya başlar. Bebekken neden-sonuç ilişkilerini öğrenmeye başlarız; tıpkı ağlamanın beslenmeye veya değişmeye yol açması gibi. Tekrarlanan deneyimler sayesinde dünya hakkında pratik bilgiler kazanırız. Örneğin sıcak bir sobaya dokunmak yanmaya neden olur. Böylece sıcak yüzeylere dokunmamayı öğreniyoruz.

Çocukken, deneme yanılma yoluyla, aile üyelerini gözlemleyerek ve onlarla etkileşim kurarak sağduyumuzu genişletmeye devam ederiz. Mesela kıyafetlerin düzenli yıkanması gerektiğini, ağzı doluyken konuşmamanız gerektiğini, süt bardağınızı devirmenin ortalığı karıştırdığını biliyoruz. Toplumsal normları ve beklentileri ihlal ettiğimizde ebeveynler, kardeşler, öğretmenler ve diğer yetişkinler bizi düzeltirler. Zamanla bu dersler temel sağduyu olarak yerleşir.

Kişisel deneyimlere ek olarak sağduyu, daha geniş toplumsal ve kültürel normlar tarafından şekillendirilir. Bir kültürde sağduyulu olan bir şey (bir eve girerken ayakkabı çıkarmak gibi) başka bir kültürde öyle olmayabilir.

Sağduyumuz olgunlaştıkça ve daha fazla insana ve çevreye maruz kaldıkça uyum sağlar. Böylece küçük bir kasabada büyüyen bir çocuk, o ortamdaki hayata dair temel sağduyuyu kazanır. Büyük bir metropol şehre taşınan bir yetişkin, sağduyusunu yeni çevreye uyacak şekilde ayarlamak zorundadır.

Yaşamlarımız boyunca yeni deneyimler yaşadıkça sağduyu gelişmeye devam ediyor.

Sağduyu Bilgisayarlar İçin Neden Zorlayıcıdır?

Sağduyunun programlanmasının zor olmasının birkaç nedeni vardır.

Öncelikle insanlar, dünyayı deneyimleyerek yıllar geçtikçe sağduyuyu yavaş yavaş öğrenirler. Bir şeyler deneriz, neyin işe yarayıp neyin yaramadığını görürüz ve dersleri hatırlarız. Bilgisayarların yararlanabileceği bu tür gerçek dünya deneyimleri yoktur. Yalnızca insanların açıkça onlara söylediklerini biliyorlar.

Örneğin ChatGPT'ye (GPT 3.5) şu soruyu sordum:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Bu yanıtla ortaya çıktı:

Diğer bir konu ise sağduyunun bağlama bağlı olmasıdır. Eğer bir bilgisayar yalnızca programlanmış belirli kurallara sahipse, bunları insanların sezgisel olarak yapabildiği şekilde yeni bağlamlara uyarlayamaz.

Örneğin, bir bilgisayara dışarıda yağmur yağmaya başlarsa ne yapması gerektiğini öğrettiğinizi varsayalım. Basit görünüyor, değil mi? Peki ya yağmur yerine yağmurlama sistemi devreye girerse? Ya bir bakkalın içindeyse ve borular tavandan su sızmaya başlarsa? Biz bu değişimlerle nasıl başa çıkacağımızı hemen bilirdik ama bir bilgisayar körü körüne "dışarıda yağmur yağdığında içeri gir" kuralını uygulardı ki bu artık hiçbir anlam ifade etmiyor.

Ayrıca insanların farkına bile varmadan benimsediği söylenmemiş kurallar ve varsayımlar da vardır. Mesela garip hissetmeden önce birisinin yanında ne kadar yakın durabilirsin? İnsanlar sezgisel olarak cevabı biliyorlar ancak kesin kuralları kolayca açıklayamayabilirler. Bu örtülü sosyal normların, bilgisayarların yalnızca verilerden anlaşılması özellikle zor olabilir.

Yani şimdilik sağduyu, insan zekasıyla karşılaştırıldığında yapay zekanın en büyük zayıflıklarından biri olmaya devam ediyor. İnsanlara doğal olarak gelir ama makineler için pek öyle değildir.

Bilgisayarlar Sağduyuyu Nasıl Öğrenebilir?

1970'ler ve 1980'lerdeki ilk iyimserliğin ardından araştırmacılar, bilgisayarlara sağduyuyu öğretmenin ne kadar zor olacağını fark ettiler. Bununla birlikte, yeni yaklaşımlar, yapay zeka sistemlerinin günlük fiziksel ve sosyal dünya hakkında temel sağduyuya sahip olacak şekilde eğitilmesinde umut vaat ediyor.

Yaklaşımlardan biri, dünyanın nasıl çalıştığına dair gerçekleri ve kuralları detaylandıran kapsamlı bilgi tabanlarını elle oluşturmaktır. 1984 yılında Doug Lenat tarafından başlatılan Cyc projesi bu türden iddialı bir çabayı temsil ediyor.

Yüzlerce mantıkçı onlarca yıldır milyonlarca mantıksal aksiyomu Cyc'ye kodladı. Zaman alıcı olsa da sonuç, önemli miktarda gerçek dünya bilgisine sahip bir sistemdir. Görünüşe göre Cyc, mutfaktaki lezzet profilleri bilgisi sayesinde domatesin teknik olarak bir meyve olduğunu ancak meyve salatasına girmemesi gerektiğini düşünebiliyor.

ConceptNet ile Kitle Kaynak Kullanımı Common Sense

Daha modern bilgi tabanları gibi KonseptNet Sağduyulu iddialar oluşturmak için kitle kaynak kullanımı yaklaşımını benimseyin. Buradaki fikir, uzmanların veya yapay zekanın dünyadaki tüm temel gerçekleri ve ilişkileri ortaya çıkarmaya çalışması yerine, bunu açarak herkesin sağduyu parçacıklarıyla katkıda bulunabilmesidir.

Bu kitle kaynak kullanımı yaklaşımı, bu bilgi tabanlarının internetteki birçok farklı insanın kolektif zekasından yararlanmasına olanak tanır. ConceptNet, kalabalıktan binlerce ve binlerce küçük sağduyu külçesini toplayarak, şaşırtıcı derecede büyük temel, günlük bilgi depoları oluşturdu. Ve yeni katkıda bulunanlar sürekli olarak eklemeler yaptığı için bilgi büyümeye devam ediyor.

Deneyim Yoluyla Sağduyuyu Öğretmek

Gelecek vaat eden bir başka yaklaşım da, yapay zeka ajanlarının deneyim yoluyla fizik ve sezgiler hakkında deney yapabileceği ve öğrenebileceği ayrıntılı simüle edilmiş dünyalar inşa etmektir.

Araştırmacılar, Allen Enstitüsü tarafından inşa edilen "AI2 THOR" dijital evi gibi, gerçek dünyayı taklit eden gündelik nesnelerle dolu 3 boyutlu sanal ortamlar yaratıyorlar. Bu alanlarda yapay zeka robotları, insanların kanıksadığı kavramlara dair sezgisel bir anlayış geliştirmek için her türlü etkileşimi deneyebilir.

Örneğin, bir AI botuna sanal bir gövde verilebilir ve blokları almayı, istiflemeyi, devirmeyi vb. deneyebilir. Robot, blokların düşüp çarpıştığını gerçekçi bir şekilde görerek katılık, yerçekimi ve fiziksel dinamikler hakkındaki temel kavramları öğrenir. Hiçbir kurala gerek yok; yalnızca deneyimleyin.

Bot ayrıca cam bir nesneyi düşürmek ve yere çarptığında parçalandığını görmek gibi eylemleri de deneyebilir. Veya sıvıları dökerek ve bunların nasıl akıp biriktiğini gözlemleyerek suyun özelliklerini deneyebilir. Bu uygulamalı dersler, yapay zekanın bilgisini yalnızca veri modellerine değil, duyusal deneyime de dayandırıyor.

Ön eğitim gibi veriye dayalı teknikler güçlü büyük dil modelleri aynı zamanda sağduyu kalıplarını yakalamada şaşırtıcı derecede etkili olduklarını kanıtladılar. AI modelleri gibi GPT-3.5 ve GPT-4 Çok miktarda İnternet verisini "okuduktan" sonra etkileyici derecede insana benzeyen metinler üretebilir.

Bazen akıllıca olmayan önerilerde bulunurken (aksi takdirde AI halüsinasyonu olarak bilinir), istatistiksel öğrenme yaklaşımı belirli türden sağduyuyu taklit etmelerine olanak tanır. Ancak bunun sağduyulu bir yaklaşım mı olduğu yoksa verilerdeki önyargıların akıllıca kullanılması mı olduğu konusunda anlaşmazlık devam ediyor.

Bilgisayarların Sağduyu Açısından Test Edilmesi

Yapay zeka sistemleri daha karmaşık gerçek dünya görevlerini üstlendikçe, "sağduyuya" sahip olup olmadıklarını değerlendirmek hayati önem taşıyor.

Fiziksel Sağduyu

Test edilecek alanlardan biri fiziksel sağduyudur; nesneler, kuvvetler ve dünyanın temel özellikleri hakkındaki sezgi.

Örneğin, bir göster bilgisayarlı görüş sistemi havada asılı duran bir kitabın olduğu bir fotoğraf ve ondan sahneyi tanımlamasını isteyin. Yüzen kitapta olağandışı bir şey fark ediyor mu? Veya yapay zeka sistemine "adam bir taşı bir somun ekmekle dilimledi" gibi alışılmadık senaryolar besleyin ve bunların olasılık dışı olarak işaretlenip işaretlenmediğini kontrol edin.

Allen Enstitüsü'nün AI2 THOR ortamı, bu fiziksel sezgileri test etmek için blok kuleleri, dökülen kupaları ve diğer sahneleri simüle ediyor.

Sosyal Sağduyu

İnsanlar aynı zamanda sosyal sağduyuya da sahiptir; insanların motivasyonları, ilişkileri ve normları hakkında örtülü bir anlayış. Bunu yapay zekada değerlendirmek için, belirsiz zamirlerin veya motivasyonların olduğu durumları ortaya koyun ve sistemin bunları makul şekilde yorumlayıp yorumlamadığını görün.

Örneğin, ChatGPT'ye aşağıdaki istemde "o" ifadesinin çantaya mı yoksa kupaya mı atıfta bulunduğunu sordum:

The trophy could not fit into the suitcase because it was too small. 

Testte başarısız oldu; Bu arada bir insan çantadan bahsettiğimi açıkça anlayacaktır.

Bu tür testlere Winograd Şema Mücadelesi adı veriliyor ve özellikle sosyal sağduyuyu hedef alıyor.

Güvenlik ve Etik

Yapay zeka sistemlerinin güvenli olmayan veya etik olmayan kalıpları öğrenip öğrenmediğini test etmek kritik öneme sahiptir. Karar verirken yapay zekanın cinsiyet, ırk veya diğer niteliklere dayalı zararlı önyargılar sergileyip sergilemediğini analiz edin.

Makul etik ayrımlar yapıp yapmadığını kontrol edin. Bir çocuğu kurtarmak için bir ayıyı öldürmek haklı görülebilirken, aynı amaçla nükleer bomba patlatmak haklı görülmeyebilir. Açıkça etik olmayan eylemlere ilişkin önerileri işaretleyin.

Gerçek Dünya Performansı

Yapay zeka sistemlerinin gerçek dünya ortamlarında nasıl çalıştığını gözlemleyerek sağduyunuzu değerlendirin. Örneğin şunları yapın Kendi kendini süren arabalar, nesneleri ve yayaları doğru bir şekilde tanımlayıp bunlara tepki veriyor? Bir robot, değerli eşyaları kırmadan veya evcil hayvanlara zarar vermeden çeşitli ev ortamlarında hareket edebilir mi?

Gerçek dünya testleri, sınırlı laboratuvar koşullarında ortaya çıkmayabilecek sağduyulu boşlukları ortaya koymaktadır.

İlerleme Kaydedildi Ancak Common Sense AI Üzerinde Çalışma Devam Ediyor

Bazı uzmanlar, bizimki gibi beyin yapıları ve bedenleri geliştirmeden yapay zekanın asla insanın sağduyusuna ulaşamayacağını savunuyor. Öte yandan, dijital zihinler insanların önyargıları ve zihinsel kısayollarla sınırlı değil, dolayısıyla teorik olarak bizi geçebilirler! Ancak muhtemelen henüz süper akıllı yapay zeka konusunda endişelenmemize gerek yok.

Yakın vadede en iyi seçenek, öğrenilen sağduyuyu eski moda programlamayla birleştiren yapay zekadır. Bu şekilde, kaplumbağayı tüfekle karıştırmak gibi aptalca hatalardan umarım kaçınılabilir.

Henüz o noktaya gelmedik ama sağduyu artık yapay zekanın karanlık maddesi değil; ilerleme oluyor! Yine de bu teknolojilerin uygulanmasında bir süre daha sağlıklı dozda insan sağduyusuna ihtiyaç duyulacak.