Hibrit Bir NLU ve NLG Yaklaşımını İzleyerek Geleneksel NLU'dan Yararlanabilir

Bu makale, Foundation LLM'lerin mevcut NLU yatırımlarından yararlanmak ve chatbot deneyimlerini iyileştirmek için nasıl kullanılabileceğini ele almaktadır.

Konuşmaya Dayalı Yapay Zeka ortamı ve LLM'lerin yaptığı ilerlemeler göz önüne alındığında , birkaç piyasa olgusu olmuştur:

1. Geleneksel NLU tabanlı sohbet botu çerçeveleri, Foundation LLM işlevselliğini benimsiyor . Ancak çoğunlukla amaç eğitimi örnekleri, bot yanıtı geri dönüş diyalogları veya bot mesajlarını yeniden yazmak için hayal gücünden yoksun bir şekilde. Buradaki tek istisna , Cognigy ve bir dereceye kadar Sarı AI'dır.
2. LLM'ler çoğunlukla üretken bir kapasitede kullanılıyor ve mevcut öngörü yeteneği ile bağlantılı olarak kullanılmıyor.
3. Niyet sınıflandırmasına ilişkin olarak geleneksel NLU motorlarının tahmin gücü göz ardı edilmemelidir.
4. Hibrit NLU ve LLM tabanlı NLG uygulamaları hak ettiği değeri almıyor.

Bu makale aşağıdakileri dikkate almaktadır:

• Mevcut gelen kullanıcı utterance NLU modellerinin ayrıntı düzeyini ve karmaşıklığını NLG ile tamamlayarak artırma.
• Niyetlerin izlendiği ve sürdürüldüğü şekilde üretken yanıtları izlemek için insan denetimini kullanmak.
• Tasarlanmış ve düzenlenmiş LLM istemleri, kuruluşa özel ince ayarlı LLM modelleri oluşturmak için kullanılabilir.

Gözetim ipuçları için akılda tutulması gereken üç ilke:

1. Gelen denetim genellikle giden denetimden daha verimlidir.
2. Hafif denetim, yanıt veren ve bağlamsal bot mesajları oluşturmada çok etkili olabilir.
3. Çok güvenilir olan yüksek düzeyde yönlendirici rehberlik, çok daha dar yanıtlara yol açabilir.

Kullanıcı ifadesi (1), neredeyse tüm sohbet robotlarında olduğu gibi (2) yakalanır ve amaç alınır (3) .

Adım (4) , belirli niyetle ilişkili örnek istemlerin veya ipuçlarının alındığı yerdir. Bu ipuçları, herhangi bir halüsinasyon olmadan doğru yanıtlar oluşturmak için LLM tarafından kullanılır.

Ayrıca , ipuçlarının veya hızlı fısıldamanın gözden geçirilebileceği ve sürdürülebileceği adım (4)' tedir . Bu gerçek zamanlı olarak yapılmaz, ancak niyet yönetimine benzer şekilde devam eden bir bakım süreci olarak görülebilir.

Tipik bilgi istemi mühendisliği tarzında, (5) ipuçları LLM'ye gönderilir (6) ilgili öğelerle birlikte bir şablon oluşturma işlemi aracılığıyla istem içine enjekte edilir .

LLM, kullanıcıya gönderilen yanıtı (7) üretir. İdeal olarak, NLU/NLG eğitmenleri, üretken sonuçları gözden geçirmek için günlük bir tempoya sahip olacak ve daha iyi ipucu verme ve şablon oluşturma için bilgi istemi şablonlarını güncelleyecektir.

Aşağıda, denetimli bir üretken bot işlem akışının ayrıntılı bir diyagramı bulunmaktadır:

Sonuç olarak

Şirketlerin iyi bir fikir üzerinde birleşeceğini her zaman savunmuşumdur; bu, mevcut chatbot mimarisinde belirgindir. Varyasyonlar vardır, ancak temel sohbet robotu mimarisi evrenseldir.

Chatbotların bu denenmiş ve test edilmiş yapısı ve NLU motorlarının tahmin gücü ihmal edilemez ve bu hibrit yaklaşımdan yararlanılması gerekir.

⭐️ Conversational AI ile ilgili güncellemeler için lütfen beni LinkedIn'de takip edin ⭐️

Şu anda HumanFirst'te Baş Müjdeciyim . Yapay zeka ve dilin kesiştiği noktada her şeyi araştırıyor ve yazıyorum; LLM'ler , Chatbot'lar , Voicebot'lar , Geliştirme Çerçeveleri, Veri Merkezli gizli alanlar ve daha fazlası.