ในภาพด้านบน ฉันแสดงรายการเครื่องมือวิศวกรรมพร้อมท์ปัจจุบัน และ LLM API Build Frameworks LLM Build Frameworks แตกต่างกันไปตามความซับซ้อนและความสามารถในการใช้งาน ในขณะที่ส่วนใหญ่ตั้งอยู่บนหลักการเดียวกันของสายโซ่ การแจ้งเตือน ไม่มีโค้ดไปจนถึงโค้ดต่ำ และการแยกส่วนงาน ในจำนวนนี้PromptChainerฉันถือว่าก้าวหน้าและสมบูรณ์ที่สุด

พิจารณาอินเทอร์เฟซการพัฒนาPromptChainer …

คำศัพท์สองคำเกิดขึ้นจากการนำ LLM มาใช้ในการผลิตและการตั้งค่าผลิตภัณฑ์ คำแรกคือการผูกมัดแบบทันที และคำที่สองคือการสร้างเทมเพลต

บางคนอ้างถึงการสร้างเทมเพลตเป็นการแทรกเอนทิตีหรือการแทรกพร้อมท์

LLM นำไปสู่การสร้างต้นแบบอย่างรวดเร็วของแอปพลิเคชันภาษาธรรมชาติ แต่เมื่อแอปพลิเคชันมีการสนทนาที่ซับซ้อน การตัดสินใจ และอื่นๆ การแจ้งครั้งเดียวไม่เพียงพอ

ดังนั้นจึงมีความคิดในกรอบงานต่างๆ ที่จะเชื่อมโยงการรัน LLM หลายรายการหรือพรอมต์เข้าด้วยกัน วัตถุประสงค์คือทำงานที่ซับซ้อนให้สำเร็จโดยใช้ความยืดหยุ่นของ LLM ร่วมกับความสามารถในการเขียนโปรแกรมและความซับซ้อนที่ควบคุมได้

สำหรับการปรับขนาดอย่างรวดเร็วของการนำการผลิตไปใช้ในแอปพลิเคชันธุรกิจ จำเป็นต้องมีสภาพแวดล้อมแบบไม่มีโค้ดไปจนถึงแบบโค้ดน้อยเพื่อทำให้แอปพลิเคชัน LLM และ AI เป็นที่นิยม

ภาพด้านบนแสดงหนึ่งใน GUI การพัฒนาแอปพลิเคชัน LLM ที่สมบูรณ์และครอบคลุมที่สุดที่ฉันเคยเห็นมาจนถึงปัจจุบัน...

ตอบ:มุมมองเชนเพื่อสร้างเชน เพิ่ม ลบ จัดการการเชื่อมต่อโหนด
B:มุมมองโหนดอนุญาตให้ทดสอบโหนด (พรอมต์) แบบแยกส่วน
C : สามารถเรียกใช้การสนทนาได้
D:โซ่สามารถเพิ่ม แก้ไข และอื่นๆ

ดังที่เห็นในภาพด้านล่าง:

โฟลว์การสนทนาถูกแบ่งออกเป็นโหนดที่เชื่อมโยงเข้าด้วยกัน เลือกโหนดตรงกลาง และตัวแก้ไขงาน LLM จะแสดงทางด้านขวา คุณสามารถดูอินพุตและเอาต์พุตบนอินเทอร์เฟซเทมเพลต

ข้อดีของการแจ้งเทมเพลตคือ:

1. พรอมต์ LLM สามารถนำมาใช้ซ้ำ แชร์ และตั้งโปรแกรมได้
2. เทมเพลตของข้อความแจ้งกำเนิดช่วยให้สามารถตั้งโปรแกรมข้อความแจ้ง การจัดเก็บ และการนำกลับมาใช้ใหม่ได้
3. เทมเพลตซึ่งทำหน้าที่เป็นไฟล์ข้อความ แต่มีการแทรกตัวยึดตำแหน่งสำหรับตัวแปรและนิพจน์
4. ตัวยึดจะถูกแทนที่ด้วยค่า ณ รันไทม์
5. สามารถใช้พรอมต์ภายในบริบทและเป็นวิธีวัดผลในการควบคุมเนื้อหาที่สร้างขึ้น

ความคิดสุดท้าย

1. นอกจากนี้ยังมีสิ่งที่เป็นนามธรรมระหว่าง LLM Build Tools และ Large Language Models
2. สิ่งนี้ทำให้เครื่องมือสร้างสามารถใช้ LLM หนึ่งรายการขึ้นไป ขึ้นอยู่กับงานที่ทำอยู่
3. สิ่งนี้ยังให้ความเป็นไปได้ในการโยกย้ายจาก LLM หนึ่งไปยังอีกที่หนึ่ง โดยพิจารณาจากราคา ประสิทธิภาพ ฟังก์ชันการทำงาน ฯลฯ
4. มีโอกาสที่ยังไม่ได้ใช้ในการใช้แนวทาง NLU & NLG แบบไฮบริดที่เรียบง่าย ซึ่งผสมผสานตรรกะตามความตั้งใจแบบดั้งเดิมเข้ากับการตอบสนอง LLM แบบไดนามิก
5. วิธีการนี้ทำหน้าที่เป็นตัวเปิดใช้งานสำหรับเฟรมเวิร์กแชทบอทที่มีอยู่โดยใช้ประโยชน์จากโมเดล NLU ที่พัฒนาขึ้น
6. ในขณะที่พลังที่สร้างขึ้นของ LLM นั้นไม่อาจปฏิเสธได้ แต่พลังการคาดการณ์นั้นเปรียบได้กับเอ็นจิ้น NLU ในหลาย ๆ กรณี พิจารณาจากต้นทุน การเข้าถึง ข้อมูลการฝึกอบรม ประสิทธิภาพ และอื่นๆ
7. ดูเหมือนจะมีความเป็นไปได้ที่ไม่ได้ใช้ในการรวมพลังกำเนิด LLM เข้ากับ NLU แบบดั้งเดิม

ตอนนี้ฉันเป็นหัวหน้าผู้สอนศาสนา @ HumanFirst ฉันสำรวจและเขียนเกี่ยวกับทุกสิ่งที่จุดตัดของ AI และภาษา ตั้งแต่LLMs , Chatbots , Voicebots , Development Frameworks , Data-Centric Latent Spaceและอื่นๆ

Cobus Quadrant™ ของการออกแบบ NLU Cobus Quadrant™ ของความสามารถในการออกแบบการสนทนา โมเดลภาษาขนาดใหญ่กำลังบังคับให้เฟรมเวิร์ก AI เชิงสนทนาต้องมองออกไปภายนอก สถาปัตยกรรม Chatbot แบบแข็งที่มีอยู่ต้องการโมเดลภาษาขนาดใหญ่ (LLM) ความยืดหยุ่น โมเดลภาษาขนาดใหญ่ (LLM) จะไม่แทนที่ Chatbot แบบดั้งเดิม NLU… สำหรับ AI เชิงสร้างสรรค์และหมวดหมู่ใหม่ของแอปพลิเคชันที่ขับเคลื่อนด้วย LLM กายวิภาคศาสตร์ ของแอปพลิเคชันการสนทนาที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM)

PromptChainer: การผูกมัดโมเดลภาษาขนาดใหญ่พรอมต์ผ่านการเขียนโปรแกรมด้วยภาพ