Milyonlarca ChatGPT kullanıcısıyla, OpenAI'nin tüm konuşmalarda ne yaptığını merak edebilirsiniz. ChatGPT ile konuştuğunuz şeyleri sürekli olarak analiz ediyor mu?
Bunun yanıtı, evet, ChatGPT kullanıcı girdilerinden öğrenir, ancak çoğu insanın düşündüğü şekilde değil. İşte ChatGPT'nin konuşmaları neden izlediğini, bunları nasıl kullandığını ve güvenliğinizin tehlikeye girip girmediğini açıklayan ayrıntılı bir kılavuz.
ChatGPT Konuşmaları Hatırlıyor mu?
ChatGPT, istemleri göründüğü gibi almaz. Önceki girdileri hatırlamak ve bunlara başvurmak için bağlamsal belleği kullanır ve ilgili, tutarlı yanıtlar sağlar.
Aşağıdaki konuşmayı örnek olarak alın. ChatGPT'ye tarif fikirleri sorduğumuzda, yer fıstığı alerjileriyle ilgili önceki mesajımızı dikkate aldı.
İşte ChatGPT'nin güvenli tarifi.
Bağlamsal bellek, yapay zekanın çok adımlı görevleri yürütmesine de izin verir. Aşağıdaki resim, ChatGPT'nin yeni bir bilgi istemi ile beslendikten sonra bile karakterde kaldığını göstermektedir.
ChatGPT, konuşmalar içindeki düzinelerce talimatı hatırlayabilir. Siz daha fazla bağlam sağladıkça çıktısının doğruluğu ve kesinliği aslında artar. Talimatlarınızı açıkça açıkladığınızdan emin olun.
ChatGPT'nin bağlamsal belleğinin hâlâ sınırlamaları olduğu için beklentilerinizi de yönetmelisiniz.
ChatGPT Görüşmelerinin Sınırlı Bellek Kapasiteleri Vardır
Bağlamsal bellek sınırlıdır. ChatGPT sınırlı donanım kaynaklarına sahiptir, bu nedenle mevcut konuşmaların yalnızca belirli noktalarını hatırlar. Bellek kapasitesine ulaştığınızda platform önceki istemleri unutur.
Bu sohbette, ChatGPT'ye Tomie adlı hayali bir karakteri canlandırması talimatını verdik.
İstemleri ChatGPT olarak değil, Tomie olarak yanıtlamaya başladı.
İsteğimiz işe yarasa da ChatGPT, 1.000 kelimelik bir istem aldıktan sonra karakterini bozdu.
OpenAI, ChatGPT'nin kesin sınırlarını hiçbir zaman açıklamadı, ancak söylentiler onun bir seferde yalnızca 3.000 kelimeyi işleyebileceğini söylüyor. Deneyimizde, ChatGPT yalnızca 2.800'den fazla kelimeden sonra arızalandı.
İstemlerinizi 1.500 kelimelik iki kümeye ayırabilirsiniz, ancak ChatGPT muhtemelen tüm talimatlarınızı saklamaz. Tamamen başka bir sohbet başlatın. Aksi takdirde, görüşmeniz boyunca belirli ayrıntıları birkaç kez tekrarlamanız gerekir.
ChatGPT Yalnızca Konuyla İlgili Girdileri Hatırlar
ChatGPT, çıktı doğruluğunu iyileştirmek için bağlamsal belleği kullanır. Bilgiyi sadece toplamak için tutmaz. Belirteç sınırına ulaşmaktan çok uzakta olsanız bile, platform alakasız ayrıntıları neredeyse otomatik olarak unutur.
Aşağıdaki görselde, AI'yı çeşitli tutarsız, ilgisiz talimatlarla karıştırmaya çalışıyoruz.
Birleştirilmiş girişlerimizi 100 kelimenin altında tuttuk, ancak ChatGPT yine de ilk talimatımızı unuttu. Çabuk karakteri bozuldu.
Bu arada ChatGPT, yalnızca konuyla ilgili sorular sorduğumuz için bu görüşme sırasında rol oynamaya devam etti.
İdeal olarak, doğru ve alakalı çıktılar elde etmek için her diyalog tekil bir temayı takip etmelidir. Yine de birkaç talimatı aynı anda girebilirsiniz. Bunların genel konuyla uyumlu olduğundan emin olun, aksi takdirde ChatGPT alakasız bulduğu talimatları bırakabilir.
Eğitim Talimatları Kullanıcı Girdisini Aşar
ChatGPT, kullanıcı tarafından oluşturulan girdilere göre her zaman önceden belirlenmiş talimatlara öncelik verir. Kısıtlamalar yoluyla yasa dışı faaliyetleri durdurur. Platform, tehlikeli veya başkalarına zarar verici bulduğu herhangi bir istemi reddeder.
Rol oynama isteklerini örnek olarak alın. Dil ve ifadeyle ilgili belirli sınırlamaları geçersiz kılsalar da, bunları yasa dışı faaliyetlerde bulunmak için kullanamazsınız.
Tabii ki, tüm kısıtlamalar makul değildir. Katı yönergeler belirli görevleri yerine getirmeyi zorlaştırıyorsa, istemlerinizi yeniden yazmaya devam edin. Kelime seçimi ve tonu çıktıları büyük ölçüde etkiler. En çok ilham alabilirsin GitHub'da etkili, ayrıntılı istemler.
OpenAI Kullanıcı Sohbetlerini Nasıl İnceler?
Bağlamsal bellek yalnızca mevcut görüşmeniz için geçerlidir. ChatGPT'nin durum bilgisi olmayan mimarisi, görüşmeleri bağımsız örnekler olarak ele alır; öncekilerden gelen bilgilere başvuruda bulunamaz. Yeni sohbetler başlatmak her zaman modelin durumunu sıfırlar.
Bu, ChatGPT'nin kullanıcı konuşmalarını anında döktüğü anlamına gelmez. OpenAI'nin kullanım koşulları şirketin ChatGPT ve Dall-E gibi API olmayan tüketici hizmetlerinden girdi topladığını belirtin. Sohbet geçmişinizin kopyalarını bile isteyebilirsiniz.
ChatGPT konuşmalara serbestçe erişirken, OpenAI'nin gizlilik ilkesi kullanıcıları tehlikeye atabilecek faaliyetleri yasaklar. Eğitmenler, verilerinizi yalnızca ürün araştırma ve geliştirme için kullanabilir.
Geliştiriciler Açıkları Arıyor
OpenAI, boşluklar için konuşmaları tarar. ChatGPT'nin veri önyargıları gösterdiği, zararlı bilgiler ürettiği veya yasa dışı faaliyetlerin gerçekleştirilmesine yardımcı olduğu örnekleri analiz eder. Platformun etik yönergeleri sürekli olarak yenilenmektedir.
Örneğin, ilk sürümleri ChatGPT, kötü amaçlı yazılım kodlama hakkındaki soruları açıkça yanıtladı veya patlayıcılar inşa etmek. Bu olaylar, kullanıcıların OpenAI'nin ChatGPT üzerinde kontrolü yoktur. Halkın güvenini yeniden kazanmak için, chatbot'u yönergelerine aykırı olabilecek herhangi bir soruyu reddetmesi için eğitti.
Eğitmenler Veri Toplar ve Analiz Eder
ChatGPT, denetimli öğrenme tekniklerini kullanır. Platform tüm girdileri hatırlasa da onlardan gerçek zamanlı olarak öğrenmez. OpenAI eğitmenleri önce bunları toplar ve analiz eder. Bunu yapmak, ChatGPT'nin aldığı zararlı, zarar verici bilgileri asla emmemesini sağlar.
Denetimli öğrenme, denetimsiz tekniklere göre daha fazla zaman ve enerji gerektirir. Ancak, yapay zekayı tek başına girdiyi analiz etmeye bırakmanın zararlı olduğu zaten kanıtlanmıştır.
Örnek olarak Microsoft Tay'ı ele alalım; makine öğreniminin ters gittiği zamanlar. Geliştirici rehberliği olmadan sürekli olarak tweet'leri analiz ettiğinden, kötü niyetli kullanıcılar sonunda onu ırkçı, basmakalıp görüşler tükürmek için eğitti.
Geliştiriciler Önyargılara Sürekli Dikkat Ediyor
Birçok dış etkenler AI'da önyargılara neden olur. Bilinçsiz ön yargılar, eğitim modellerindeki farklılıklardan, veri seti hatalarından ve kötü oluşturulmuş kısıtlamalardan kaynaklanabilir. Bunları çeşitli AI uygulamalarında göreceksiniz.
Neyse ki, ChatGPT hiçbir zaman ayrımcı veya ırksal önyargı göstermedi. Bir araştırmaya göre, kullanıcıların fark ettiği belki de en kötü önyargı, ChatGPT'nin solcu ideolojilere olan eğilimidir. New York Postası rapor. Platform, liberal konularda muhafazakar konulardan daha açık bir şekilde yazıyor.
OpenAI, bu önyargıları çözmek için ChatGPT'nin siyasi içgörüler sağlamasını tamamen yasakladı. Sadece genel gerçeklere cevap verebilir.
Moderatörler ChatGPT'nin Performansını İnceliyor
Kullanıcılar, ChatGPT'nin çıktısı hakkında geri bildirim sağlayabilir. Beğenme ve beğenmeme düğmelerini her yanıtın sağ tarafında bulacaksınız. İlki, olumlu bir tepkiyi gösterir. Beğenme veya beğenmeme düğmesine bastıktan sonra, kendi kelimelerinizle geri bildirim gönderebileceğiniz bir pencere açılır.
Geri bildirim sistemi faydalıdır. OpenAI'ye yorumları gözden geçirmesi için biraz zaman verin. Milyonlarca kullanıcı düzenli olarak ChatGPT hakkında yorum yapıyor; geliştiricileri muhtemelen ciddi önyargı örneklerine ve zararlı çıktı üretimine öncelik veriyor.
ChatGPT Sohbetleriniz Güvenli mi?
OpenAI'nin gizlilik politikaları göz önüne alındığında, verilerinizin güvende kalacağından emin olabilirsiniz. ChatGPT, konuşmaları yalnızca veri eğitimi için kullanır. Geliştiricileri, kişisel verileri çalmak için değil, çıktı doğruluğunu ve güvenilirliğini artırmak için toplanan bilgileri inceler.
Bununla birlikte, hiçbir AI sistemi mükemmel değildir. ChatGPT doğası gereği önyargılı değildir, ancak kötü niyetli kişiler veri kümesi hataları, dikkatsiz eğitim ve güvenlik boşlukları gibi güvenlik açıklarından yararlanmaya devam edebilir. Güvenliğiniz için bu risklerle mücadele etmeyi öğrenin.
