aracılar

Apr 27 2023
Büyük Dil Modelleri Bağlamında Otonom Aracılar
Büyük Dil Modellerinin (LLM'ler) uygulamaları derinlemesine ve genişledikçe, birkaç gereksinim ortaya çıkıyor: LLM ile ilgili işlemlerde, otomasyona yönelik bariz bir ihtiyaç var. Şu anda bu otomasyon, aracılar olarak adlandırılan formdadır.

Büyük Dil Modellerinin (LLM'ler) uygulamaları derinlemesine ve genişledikçe, birkaç gereksinim ortaya çıkar:

  1. LLM'leri programlama ve yeniden kullanılabilir istemler oluşturma ve istemleri daha büyük uygulamalara sorunsuz bir şekilde dahil etme yeteneği .
  2. Daha büyük uygulamalar için LLM etkileşimlerini sıralamak üzere zincirler oluşturma .
  3. Araçların kapsamı göz önüne alındığında özerk hareket edebilen bir aracı aracılığıyla doğaçlama düşünce zinciri yönlendirmeyi otomatikleştirin.
  4. Tamamı kullanıcı girişine dayalı olarak çeşitli kaynaklardan ilgili verileri toplayabilen ve bir bilgi istemi oluşturan ölçeklenebilir bilgi istemi boru hatları oluşturun ; ve istemi bir LLM'ye gönderin.

LLM ile ilgili operasyonlarda, otomasyona açık bir ihtiyaç vardır. Şu anda bu otomasyon, aracılar olarak adlandırılan formdadır .

İstem Zincirleme, önceden belirlenmiş ve belirlenmiş bir dizi eylemin yürütülmesidir.

Ajanların çekiciliği, Ajanların önceden belirlenmiş bir olay dizisini takip etmemesidir. Temsilciler yüksek düzeyde özerklik sağlayabilir.

Aşağıdaki resim göz önüne alındığında, Aracıların bir takım araçlara erişimi vardır ve bu araçların kapsamına giren herhangi bir istek aracı tarafından ele alınabilir. Yürütme ardışık düzeni Aracıya özerklik verir ve Aracı Nihai Yanıta ulaşana kadar bir dizi yineleme gerekebilir .

Ajan tarafından gerçekleştirilen eylemler şunları içerir:

  1. Bir araç kullanma
  2. Çıkışını gözlemlemek
  3. Başka bir araca geçiş
  4. Çıktıyı kullanıcıya döndürmek

"İnsanlar, aletlerinin aleti haline geldiler."

- Henry David Thoreau

Bir gözlem, bir düşünce ve sonunda nihai bir cevap vardır. Diyagram, nihai cevaba ulaşılamadığı durumlarda başka bir eylem türünün nasıl çağrılabileceğini gösterir.

Diyagramın altında kesilmiş çıktı, aracının nasıl çalıştığını ve zincirin otonom bir şekilde nasıl oluşturulduğunu gösterir.

LangChain'i referans alan Temsilcilerin üç konsepti vardır:

Aletler

Makalede daha önce gösterildiği gibi, kullanılabilecek bir dizi araç vardır. Alet, belirli bir görevi yerine getiren bir işlev olarak görülebilir.

Araçlar arasında Google Arama, Veritabanı arama, Python REPL ve hatta mevcut zincirleri çağırma yer alır.

LangChain çerçevesi içinde, bir aracın arabirimi, aşağıdakilere sahip olması beklenen bir işlevdir:

  1. Giriş olarak dize,
  2. Ve bir çıktı olarak dize.

Bu, aracıya güç sağlayan dil modelidir. Aşağıda LLM'nin aracı içinde nasıl tanımlandığına dair bir örnek verilmiştir:

Aracı Türleri

Aracılar, hangi eylemlerin hangi sırayla gerçekleştirileceğini belirlemek için bir LLM kullanır. Aracı, kullanıcı isteğini ayrıştırarak anında bir düşünce zinciri dizisi oluşturur.

Aracılar, hangi Eylemlerin gerçekleştirileceği, bu Eylemin gerçekleştirileceği, bir Gözlemin görüleceği ve tamamlanana kadar tekrarlanacağı konusunda kararlar alan bir LLM'yi içerir. — kaynak

Aracılar, sorunun belirsiz olduğu ve çok sekmeli bir yaklaşım gerektirdiği durumlarda bile etkilidir . Bu, karmaşık bir soruyu veya talimatı bir düşünce zinciri sürecine ayrıştırmanın otomatikleştirilmiş bir süreci olarak düşünülebilir .

Aşağıdaki resim, sorunun ayrışmasını ve sorunun parça parça bir düşünce zinciri sürecinde nasıl cevaplandığını iyi bir şekilde göstermektedir:

Aşağıda, LangChain ortamındaki aracı türlerinin bir listesi bulunmaktadır. Aracı türlerinin tam açıklaması için buradan daha fazlasını okuyun .

Kaynak

Aşağıdaki resim göz önüne alındığında, kodda yapılan tek değişiklik açıklamaydı AgentType. Yanıttaki değişiklik, kullanılan tam olarak aynı yapılandırma ve yalnızca farklı bir AgentType.

LangChain Agent'ların eksiksiz çalışan kod örnekleri için buradan daha fazlasını okuyun .

⭐️ Conversational AI ile ilgili güncellemeler için lütfen beni LinkedIn'de takip edin ⭐️

Şu anda HumanFirst'te Baş Müjdeciyim . Yapay zeka ve dilin kesiştiği noktada her şeyi araştırıyor ve yazıyorum; LLM'ler , Chatbot'lar , Voicebot'lar , Geliştirme Çerçeveleri, Veri Merkezli gizli alanlar ve daha fazlası.

https://www.linkedin.com/in/cobusgreyling
Aracılar ve Büyük Dil Modelleri Aracılar, Yüksek Lisanslar ve Çok Noktalı Soru Cevaplama Yüksek Lisans Derecelerinde Düşünce Zinciri İstemi