ChatGPT, etkilemesi hızlı olan güçlü, yeni bir yapay zeka sohbet robotudur, ancak pek çok kişi onun bazı ciddi tuzakları olduğuna dikkat çekmiştir. Ne istersen sor ve bir insan tarafından yazılmış gibi görünen bir cevap alacaksın. bilgisini ve yazma becerilerini internetteki yığınla bilgiden öğrenmiş olmak.
Ancak tıpkı internet gibi, gerçekler ve gerçekler her zaman verili değildir ve ChatGPT yanlış anlamanın suçlusudur. ChatGPT'nin geleceğimizi değiştirmeye hazır olmasıyla birlikte, işte en büyük endişelerden bazıları.
ChatGPT Nedir?
ChatGPT, insan konuşmasını taklit etmek için tasarlanmış büyük bir dil öğrenme modelidir. Geçmişte ona söylediğiniz şeyleri hatırlayabilir ve yanlış olduğunda kendini düzeltebilir.
İnsan benzeri bir şekilde yazar ve Vikipedi, blog yazıları, kitaplar ve akademik makaleler gibi internetten gelen her türlü metin üzerinde eğitildiğinden zengin bir bilgi birikimine sahiptir.
öğrenmesi kolay ChatGPT nasıl kullanılır?, ancak daha zor olan, en büyük sorunlarının ne olduğunu bulmaktır. İşte bilmeye değer bazı şeyler.
1. ChatGPT Her Zaman Doğru Değildir
Temel matematikte başarısız olur, basit mantık sorularına cevap veremez ve hatta tamamen yanlış gerçekleri tartışacak kadar ileri gider. Sosyal medya kullanıcılarının da onaylayabileceği gibi, ChatGPT birden fazla durumda yanlış anlayabilir.
OpenAI bu sınırlamayı biliyor ve şöyle yazıyor: "ChatGPT bazen akla yatkın görünen ancak yanlış veya anlamsız cevaplar yazıyor." Bu Bazı bilim adamlarının adlandırdığı şekliyle gerçek ve kurgu "halüsinasyonu", tıbbi gibi bir şey söz konusu olduğunda özellikle tehlikelidir. tavsiye.
Siri veya Alexa gibi diğer yapay zeka yardımcılarının aksine Chat GPT, yanıtları bulmak için interneti kullanmaz. Bunun yerine, eğitimine göre bir sonraki gelmesi gereken en olası "belirteci" seçerek kelime kelime bir cümle oluşturur.
Başka bir deyişle, ChatGPT bir dizi tahminde bulunarak bir cevaba ulaşır; bu, yanlış cevapları tamamen doğruymuş gibi tartışabilmesinin bir nedenidir.
Karmaşık kavramları açıklamakta harika olsa ve onu öğrenme için güçlü bir araç haline getirse de, söylediği her şeye inanmamak önemlidir. ChatGPT her zaman doğru değildir - en azından henüz değil.
2. Önyargı Sisteme Pişirildi
ChatGPT, geçmişteki ve günümüzdeki dünyanın dört bir yanındaki insanların toplu yazımı üzerine eğitildi. Bu, verilerde var olan aynı önyargıların modelde de görünebileceği anlamına gelir.
Aslında, kullanıcılar ChatGPT'nin nasıl bazı korkunç cevaplar verebildiğini, örneğin kadınlara karşı ayrımcılık yapabildiğini gösterdiler. Ama bu buzdağının sadece görünen kısmı; bir dizi azınlık grubu için son derece zararlı cevaplar üretebilir.
Suç sadece verilerde de yatmıyor. OpenAI araştırmacıları ve geliştiricileri, ChatGPT'yi eğitmek için kullanılan verileri seçer. OpenAI'nin "taraflı davranış" olarak adlandırdığı durumu ele almaya yardımcı olmak için, kullanıcılardan kötü çıktılar hakkında geri bildirimde bulunmalarını istiyor.
İnsanlara zarar verme potansiyeli ile, ChatGPT'nin bu sorunlar incelenip çözülmeden halka açıklanmaması gerektiğini savunabilirsiniz.
Sparrow (Google'ın ana şirketi Alphabet'e ait) adlı benzer bir yapay zeka sohbet robotu Eylül 2022'de piyasaya sürüldü. Ancak zarar verebileceğine dair benzer endişeler nedeniyle kapalı kapılar ardında tutuldu.
Belki de Meta da uyarıya yönelmeliydi. Akademik makaleler üzerinde eğitilmiş bir AI dil modeli olan Galactica'yı piyasaya sürdüğünde, birçok kişinin onu yanlış ve önyargılı sonuçlar vermekle eleştirmesinden sonra hızla geri çağrıldı.
3. Lise İngilizcesine Bir Meydan Okuma
ChatGPT'den yazınızı yeniden okumasını veya bir paragrafın nasıl iyileştirileceğini belirtmesini isteyebilirsiniz. Alternatif olarak, kendinizi denklemden tamamen çıkarabilir ve ChatGPT'den sizin için bir şeyler yazmasını isteyebilirsiniz.
Öğretmenler, İngilizce ödevlerini ChatGPT'ye aktarmayı denediler ve öğrencilerinin çoğunun yapabileceğinden daha iyi yanıtlar aldılar. ChatGPT, kapak mektupları yazmaktan ünlü bir edebiyat eserindeki ana temaları açıklamaya kadar her şeyi tereddüt etmeden yapabilir.
Bu şu soruyu akla getiriyor: ChatGPT bizim için yazabiliyorsa, öğrencilerin gelecekte yazmayı öğrenmesi gerekecek mi? Bu varoluşsal bir soru gibi görünebilir, ancak öğrenciler makalelerini yazmalarına yardımcı olması için ChatGPT'yi kullanmaya başladıklarında, okulların hemen bir yanıt bulması gerekecektir. Yapay zekanın son yıllarda hızla yaygınlaşması birçok sektörü şok edecek ve eğitim bunlardan sadece biri.
4. Gerçek Dünyada Zarar Verebilir
Daha önce, ChatGPT tarafından sağlanan yanlış bilgilerin gerçek dünyada nasıl zarara yol açabileceğinden bahsetmiştik, bunun en bariz örneği yanlış tıbbi tavsiyedir.
Başka kaygılar da var. Sahte sosyal medya hesapları internette büyük bir sorun teşkil ediyor ve yapay zeka sohbet robotlarının kullanıma girmesiyle internet dolandırıcılıklarının gerçekleştirilmesi daha kolay hale gelecek. Sahte bilgilerin yayılması, özellikle ChatGPT yanlış cevapları bile inandırıcı bir şekilde doğru yaptığında başka bir endişe kaynağıdır.
ChatGPT'nin her zaman doğru olmayan yanıtlar üretme hızı, kullanıcıların soru gönderip yanıt alabileceği bir web sitesi olan Stack Exchange için şimdiden sorunlara neden oldu.
Yayınlandıktan kısa bir süre sonra, ChatGPT tarafından verilen yanıtların büyük bir kısmının yanlış olması nedeniyle siteden yasaklandı. Birikmiş işleri sıralamak için yeterli insan gönüllü olmadan, yüksek düzeyde kaliteli yanıtlar elde etmek imkansız olur ve bu da web sitesine zarar verir.
5. OpenAI'nin Tüm Gücü Var
Büyük güç, büyük sorumluluk getirir ve OpenAI çok fazla güce sahiptir. Dall-E 2, GPT-3 ve şimdi de ChatGPT dahil olmak üzere birden çok yapay zeka modeliyle dünyayı gerçekten sarsan ilk yapay zeka şirketlerinden biridir.
OpenAI, ChatGPT'yi eğitmek için hangi verilerin kullanılacağını ve bunun olumsuz sonuçlarla nasıl başa çıkacağını seçer. Yöntemlere katılsak da katılmasak da kendi amaçları doğrultusunda bu teknolojiyi geliştirmeye devam edecektir.
OpenAI, güvenliği yüksek bir öncelik olarak görse de, modellerin nasıl oluşturulduğu hakkında bilmediğimiz çok şey var. Kodun açık kaynak yapılması gerektiğini düşünüyor ya da bazı kısımlarını gizli tutması gerektiğini kabul ediyor olun, bu konuda yapabileceğimiz fazla bir şey yok.
Günün sonunda yapabileceğimiz tek şey, OpenAI'nin ChatGPT'yi sorumlu bir şekilde araştıracağı, geliştireceği ve kullanacağı konusunda güvenmektir. Alternatif olarak, AI'nın gücünü onu kullanacak insanlarla paylaşarak, daha fazla insanın AI'nın hangi yöne gitmesi gerektiği konusunda söz sahibi olmasını savunabiliriz.
OpenAI'nin geliştirdiği diğer şeylerle ilgileniyorsanız, şu konudaki makalelerimize göz atın: Dall-E 2 nasıl kullanılır Ve GPT-3 nasıl kullanılır?.
Yapay Zekanın En Büyük Sorunlarıyla Mücadele
OpenAI'nin en son geliştirmesi olan ChatGPT ile heyecanlanacak çok şey var. Ancak acil kullanımlarının ötesinde, anlaşılmaya değer bazı ciddi sorunlar da vardır.
OpenAI, ChatGPT'nin zararlı ve önyargılı cevaplar üretebileceğini kabul ediyor, gerçekle kurguyu karıştırma yeteneğinden bahsetmiyorum bile. Böylesine yeni bir teknolojiyle, başka hangi sorunların ortaya çıkacağını tahmin etmek zor. O zamana kadar ChatGPT'yi keşfetmenin tadını çıkarın ve söylediği her şeye inanmamaya dikkat edin.