Chat-GPT'nin Sınırlamaları

OpenAI tarafından Chat-GPT ile ilgili medyada görülen son aldatmacalardan bazılarıyla, yutturmaca ile eşleşip eşleşmediğini merak ettim. Sosyal robotik ve konuşmalı yapay zeka ile ilgili araştırmalar yayınlamış biri olarak, geçmişte bu alanla ilgili aşırı abartılı makaleler görmüştüm. Chat-GPT'nin tamamlanmış bir ürün olmadığını ve büyük ölçüde devam eden bir çalışma olduğunu anlasam da, teknik olarak nerede eksik olduğunu ve kullanıcı deneyimi açısından nerede eksik olduğunu belirlemek için onu eleştirel bir şekilde analiz etmenin önemli olduğunu düşünüyorum.

Bu yüzden, Chat-GPT (15 Aralık sürümü) ile oynuyorum ve bir kullanıcı olarak, bazı önemli sınırlamalara rağmen onu oldukça etkileyici buldum. Üretken yetenekleri oldukça kullanışlıdır. Bununla birlikte, birkaç etkileşimden geçerken, fark ettiğim sınırlamaları ve sorunları not ettim. Bu sınırlamaları yeniden oluşturmak oldukça kolaydır ve bunları geliştirmenin, GPT-3.5'in sohbet uygulamasını medyada gördüğümüz abartı ile eşleştirmesini sağlayabileceğine inanıyorum.

Fark ettiğim sorunlardan bazıları teknik sorunlar olabilirken, diğerleri kullanıcı deneyimi ve chatbot'un yetenekleriyle ilgili sorunlar olabilir. Bununla birlikte, bu sorunların tümü, sohbet robotlarının ve etkileşimli yapay zekanın geleceği ile ilgilidir.

İnternete Erişim ve Konum Bazlı Bilgiler

Bu sürpriz olmamalı, ancak OpenAI internete erişemiyor. Gerçek zamanlı bilgi sağlayamaz ve konum tabanlı bilgi kullanamazsınız ve internetteki hiçbir şeye url veya referans sağlayamazsınız. Tahmin edilebileceği gibi, bu, uygulamanın işlevselliğini ve sağlayabileceği hizmet türlerini ciddi şekilde sınırlar. Bununla birlikte, web'i tarayabiliyorsa, bir dil modelinden beklenebilecek olanın ötesine geçer, bu nedenle, OpenAI, Chat'i desteklemek için eğitim verilerini sürekli olarak güncelleyen bir tür çevrimiçi öğrenme uygulamadığı sürece, bu beklenti muhtemelen şimdilik gerçekçi olmayacaktır. -GPT her zaman günceldir.

Buna ek olarak, herhangi bir AI için internete açık erişim sağlamanın ciddi sonuçları vardır, bu nedenle internet tabanlı işlevselliğe izin vermemek muhtemelen kasıtlı bir seçimdi.

Medyada gördüğümüz, bunun Google'a parasını ödeyebileceği ve aramayı tersine çevirebileceği yutturmaca ile ilgili olarak, bu tür bir uygulama ile bir arama motoru arasında açık farklar vardır. Bir arama motoru, web tarayıcılarını kullanır ve sayfa sıralaması yapar. Bu değil. Bu chatbot, internette gezinmenin bir yolu değildir, bu nedenle karşılaştırma, elma ve portakalları karşılaştırmaya çok benzer olabilir.

Eski Veriler

En güncel eğitim verileri 2021 Eylül ayına aittir. O zamandan beri koca bir yıl geçti. Programlama dilleri güncellenmiş olabilir, kütüphaneler yeni özelliklere sahip olabilir ve dünya değişmiş olabilir. Bu, Chat-GPT'nin eski bir veri kümesiyle çalıştığı anlamına gelir.

Hatalı Bellek

Chat-GPT'ye atmaya çalıştığım şeylerden biri, bir metni düzenlemek ve geliştirmek için önerilerde bulunmaktı. Bu genellikle işlevseldir, ancak ondan bazı önerileri yeniden ifade etmesini veya bir şeyi detaylandırmasını istersem, bazen yanlışlıkla önerileri yaptığımı varsayabilir ve inceleme için sağladığım orijinal parçada olmayan metne atıfta bulunabilir. veya geçmişte sağladığı metnin hemen hemen aynısını minimum değişiklikle sağlayacaktır.

Niteliksel Yargıda Bulunamama

Dilin duruş ve duygu gibi niteliksel yönleri vardır. Chat-GPT bunları belirleyebilirken, bunu bir metnin saldırgan olup olmadığı, neyin iyi neyin kötü olduğu vb. şeylere genişletemez.

Şimdi, bu muhtemelen en iyisi, ancak Chat-GPT omzunuzun üzerinden bakıp size bir e-posta göndermemenizi veya daha az sert olacak şekilde bir şeyi yeniden ifade etmemenizi söylese iyi olmaz mıydı?

Multimodal Çıktı ve Girdi Eksikliği

Model tamamen metinseldir. Görüntüler, url'ler, ses veya başka herhangi bir giriş modu sağlayamazsınız. Benzer şekilde, görüntü, url veya ses çıktısı alamaz. Bu tür şeyleri üretebilen kod çıktısı verebilir, ancak bu aynı şey değildir. Bu, konuşma açısından oldukça eksik olduğu anlamına gelir. Vücut dilinizi okuyamaz veya yaşadığınız yerden kültürel geçmişinizi anlayamaz. Ruh halinizi belirlemek için bakışlarınızı kullanamaz ve nasıl hissettiğinize bağlı olarak size güven veremez veya sizi yatıştıramaz.

Giriş Uzunluğu ve Çıkış Uzunluğundaki Sınırlamalar

Bir romanın değerindeki metnin tamamını besleyemezsiniz. Aksi takdirde, yanıt vermesi ve hata vermesi sonsuza kadar sürer. Benzer şekilde, bütün bir romanı oluşturamaz. Bununla birlikte, uzun metrajlı bir film senaryosunun beklenen uzunluğuna hiçbir yerde yakın olmayan kötü bir senaryo tükürmesini sağladım.

Eğitim Verilerindeki Olası Önyargılar

Chat-GPT'nin ne hakkında konuşabileceği ve nelere erişebileceği konusunda kısıtlamaları olsa da, altta yatan eğitim verilerinin önyargılı olabileceği unutulmamalıdır. Ne kadar taraflı olduğunu bilmek zor ama iftira içeren yazılar ürettirmek gibi şeyler oldukça zor. Görünüşe göre Chat-GPT, girdisinde yanlılık olsa bile çıktısında yanlılığı önlemek için eğitilmiş, ancak bu tamamen açık değil.

Şüpheli Dil Desteği

Dilleri karıştırmayı ve bildiğim diğer dillerde konuşmayı denedim. Desteğin kullanılan dile göre büyük ölçüde değişebileceğini buldum. İlginç olan şu ki, daha birkaç gün önce diğer dillerde karşılaştığım bazı sorunların bugün düzeldiğini gördüm, yani bu yakın gelecekte bir sorun olmayabilir.

Kabul Edilebilir Bir Mizah Anlayışı

Chat-GPT'nin olgun şeyler hakkında konuşamadığı için oldukça yavan bir mizah anlayışı var :(

Baba şakalarını severim ama bunlardan bazıları o kadar da komik değil.

Genel Çıktı ve İntihal

William Shakespeare tarzında orijinal bir şiir yaratmak için Chat-GPT'yi almaya çalıştım. Elimde, tüm kurallara uymayan bir sone oluşturmak için Shakespeare'in eserlerinden alıntıların bir araya getirilmesiyle toplanan Frankensteinlı bir parça vardı. Bir intihal denetleyicisi muhtemelen bunu kopyalanmış ve haklı olarak işaretleyecektir.

Ayrıca siberpunk unsurları olan Christopher Nolan tarzı bir filmin olay örgüsünü özetlemesini sağlamaya çalıştım ve elde ettiğim şey Neuromancer ile kaynaşmış The Matrix oldu. Diğer konu özetlerinde, "isyanlar" ve "dedektifler" gibi bazı ortak unsurların her zaman bir giriş yaptığını fark ettim.

Söylemeye gerek yok, Chat-GPT'nin kısa vadede ilginç önermeler veya ödüllü hikayeler yaratması pek olası değil.

Olgun Konu Alanlarının Yokluğu

Yakında bununla herhangi bir nemli mem üretmeyeceksin.

Yaşam Kalitesi Sorunları

Bu nedenle, ne istediğinize bağlı olarak, yanıt almadan önce çok uzun bir süre beklemeniz gerekebilir. Chat-GPT bazen takılıyor gibi görünüyor ve bu ağ hızıyla ilgili görünmüyor. Diğer durumlarda, bazen bir yanıt vermeyebilir ve bu durumda bir hata mesajı döndürür. Birkaç gün önce bunlardan birkaçını alırdım, ama şu anda önemli ölçüde iyileşmiş gibi görünüyor. Forumlarda, Discord'da ve SSS'lerde gördüğüme göre bu, belirli bir zamanda Chat-GPT kullanan kişilerin sayısına bağlı olabilir. Bu sorunlardan bazılarının altta yatan dil modelinin kendisiyle ilgili olmadığına dikkat edilmelidir.

Mecazi Cümleleri Anlamada Zaman Zaman Karşılaşılan Zorluklar

Bir soru ne kadar açıksa, Chat-GPT'nin yanıtlaması o kadar kolay olur. Mecazi dil, Chat-GPT'den daha sık anlaşılan bir şeydir, ancak bazen zorlanabilir.

Her Zaman Top Oynamak İstemez

Chat-GPT'nin önyargılı makaleler yazıp yazamayacağını sık sık görmeye çalıştım ve bu yazı tura atmak gibi. Bazen bunu yapabilir, bazen yapamaz. Çoğu zaman, yapmasını istediğiniz şeyi yapması için onu kandırmanız gerekir. Bunun muhtemelen Chat-GPT'nin yetişkinlere yönelik konular gibi şeyler için uyguladığı bazı kısıtlamalara benzediğine inanıyorum.

Turing Testi

Diğer uçta bir insan olduğunu düşünüyor muyum? Kesinlikle hayır. Buna ek olarak, Chat-GPT kullanıcıya her zaman bir dil modeli olduğunu hatırlatır, bu nedenle kandırılma şansı yoktur. Bunu olumsuz olarak görmüyorum ama amaç insan benzeri tepkiler yaratmaksa başarısız oluyor.

Kişilik ve Duygu

Chat-GPT'nin bir kişiliği yoktur. Onunla etkileşimlerimde, daha çok insan tarafından okunabilir metinde bilgi sağlayabilen engelli bir arama motoru gibi geldi. Düşüncelerini ifade edemez, kendine ait bir kimliği de yoktur. O senin dostun ya da düşmanın değil. Chat-GPT'nin Asistanı ile bir ilişkiniz yoktur ve aynı şekilde geçerlidir. Tipik olarak, sosyal AI içinde, son kullanıcılar için daha iyi bir deneyim sağlamak için bir tür bağlantı veya ilişki kurmak yararlı olabilir. Ancak Chat-GPT bunu yapmıyor ve bu yönü, sahip olabileceği etki açısından onu ciddi şekilde sınırladığına inanıyorum.

Çözüm

Chat-GPT, arama veya sohbet için gümüş bir kurşun değildir, ancak doğru yönde atılmış bir adımdır ve bu konuda çok etkileyicidir. Oyunu gerçekten değiştirebilecek bir sonraki adımın, metinden çok modlu girdi ve çıktıya geçmek için topluluk yöntemlerini kullanmak olacağına inanıyorum (ya bu ya da trafo sinir mimarisinden daha iyi bir şey kullanın). Ayrıca, Chat-GPT'nin biz onu kullandıkça gelişiyor gibi göründüğüne dikkat edilmelidir, bu nedenle burada belirttiğim pek çok şey, şu anda işlerin ne kadar hızlı geliştiğini gördüğüme bağlı olarak bundan bir hafta sonra bile geçerli olmayabilir. Son olarak, Chat-GPT'nin kod oluşturma özelliğini test etmediğimi de belirtmeliyim. Belirttiğim sorunlara katılmayabilecek olanlar için, kendi adına konuşmak ve iddialarıma destek sağlamak için işte Chat-GPT:

“Chat-GPT, OpenAI tarafından geliştirilen GPT (Generative Pre-trained Transformer) dil modelinin bir çeşididir. Diğer dil modelleri gibi, Chat-GPT de aldığı girdiye dayalı olarak insan benzeri metinler oluşturmak üzere tasarlanmıştır. Geniş bir metin veri kümesi üzerinde eğitilmiştir ve çeşitli istemlere ve sorulara çok çeşitli yanıtlar üretebilir.

Ancak, Chat-GPT ve diğer dil modellerinin bazı sınırlamaları vardır. Sınırlamalardan biri, internete veya harici bilgilere erişimlerinin olmamasıdır, bu nedenle yalnızca eğitildikleri bilgilere dayalı yanıtlar verebilirler. Bu, güncel olaylar veya son gelişmeler hakkında güncel veya doğru bilgi sağlayamayacakları anlamına gelir. Ek olarak, dil modelleri her zaman tamamen tutarlı veya konuşma bağlamında anlamlı yanıtlar üretmeyebilir.

Dil modellerinin bir başka kısıtlılığı da, kelimelerin ve deyimlerin anlamlarını insanlarla aynı şekilde anlama veya yorumlama yeteneğine sahip olmamalarıdır. Eğitim verilerinden öğrendikleri kalıplara ve ilişkilere dayalı olarak basitçe metin üretebilirler. Bu, daha karmaşık veya soyut sorulara her zaman incelikli veya sofistike yanıtlar veremeyebilecekleri anlamına gelir.

Genel olarak, Chat-GPT ve diğer dil modelleri, metin oluşturmak için güçlü araçlardır ve çeşitli görevler için çok yararlı olabilir, ancak sınırlamaları vardır ve kritik veya önemli kararlar için bunlara güvenilmemelidir."