Foundation Large Language Model (LLM) & Tooling Landscape

Feb 17 2023
มีรายการแอปพลิเคชัน Generative AI เพิ่มขึ้นเรื่อย ๆ ซึ่งสามารถแบ่งออกเป็นแปดประเภทกว้าง ๆ
“ซอฟต์แวร์กำลังกลืนกินโลก…” ~ Marc Andreessen ทุกบริษัทคือบริษัทซอฟต์แวร์… ในไม่ช้าทุกบริษัทจะเป็นบริษัท AI ทุกคนกำลังใช้ซอฟต์แวร์…ในไม่ช้าทุกคนก็จะใช้ AI โดยตรง

“ซอฟต์แวร์กำลังกลืนกินโลก…”
~ Marc Andreessen

ทุกบริษัทคือบริษัทซอฟต์แวร์… ในไม่ช้าทุกบริษัทจะเป็นบริษัท AI

ทุกคนกำลังใช้ซอฟต์แวร์…ในไม่ช้าทุกคนก็จะใช้ AI โดยตรง

⭐️ โปรดติดตามฉันบนLinkedInสำหรับการอัปเดตเกี่ยวกับ Conversational AI ⭐️

ในขณะที่สร้างเมทริกซ์นี้สำหรับแอปพลิเคชัน generative AI ฉันรู้สึกทึ่งกับจำนวนแอปพลิเคชันใหม่ที่มีอยู่ และจำนวนแอปพลิเคชันที่ยังอยู่ในการทดสอบเบต้าแบบปิด การเข้าถึงที่รอกระบวนการอนุมัติ (รายการรอ) หรือพร้อมใช้งานในเร็วๆนี้

จำนวน ผู้ช่วย ในการสร้างสรรค์เนื้อหาและไอเดียและการเขียนมีจำนวนมากจนน่าตกใจ

ไม่ต้องสงสัยเลยว่าสิ่งนี้ไม่ยั่งยืนและการสั่นคลอนครั้งใหญ่กำลังรอดำเนินการสำหรับแอปพลิเคชันเหล่านี้จำนวนมาก ดังที่ฉันได้กล่าวไว้ในโพสต์ ที่แล้ว การเพิ่มมูลค่าที่แท้จริงและความแตกต่างจะถูกเรียกร้องเพื่อความอยู่รอด

เมื่อฟังก์ชัน LLM ดั้งเดิมเติบโตขึ้นและส่วนต่อประสานกับผู้ใช้ก็เติบโตเต็มที่ แอปพลิเคชันที่ใช้ LLM ที่ไม่มี IP และมูลค่าเพิ่มที่เหมาะสมจะหายไป

สำหรับการขยายตลาด LLM นั้นไร้เดียงสา และเมื่อความรู้และข้อมูลเชิงลึกของผู้ใช้เติบโตขึ้น ผลิตภัณฑ์ที่จริงๆ แล้วเป็นเพียงธินไคลเอนต์ที่ทำหน้าที่เป็นส่วนเสริมของ LLM จะไม่สามารถอยู่รอดได้ มันคล้ายกับแอพไฟฉายที่ถูกแทนที่ด้วยปุ่มในระบบปฏิบัติการ

ในเดือนพฤศจิกายน พ.ศ. 2565 Base10ได้เผยแพร่แผนที่ภูมิทัศน์ของ Generative AI ซึ่งเป็นข้อมูลอ้างอิงและภาพรวมที่ดีมากของภูมิทัศน์ซอฟต์แวร์ Generative AI

ฉันรวบรวมแผนที่ด้านล่างและพิจารณาสององค์ประกอบ:

1️⃣ โมเดลภาษาพื้นฐานขนาดใหญ่และเครื่องมือศูนย์กลางข้อมูล

คอลเลกชันของFoundation LLM และเครื่องมือศูนย์กลางข้อมูลอยู่ที่ฐานของสแต็ก โมเดลและเครื่องมือเหล่านี้เป็นพื้นฐานในแง่ที่ว่าทำหน้าที่เป็นตัวเปิดใช้งานระดับพื้นฐาน

2️⃣ เครื่องมือ AI ภาษากำเนิดใหม่

มีการระเบิดของแอปพลิเคชั่นที่ใช้ Generative AI โดยเฉพาะอย่างยิ่งในด้านของ Content & Idea Creation, Writing Assistants & Generative & Search Assistants

การสร้างเนื้อหาและแนวคิดเป็นคุณสมบัติที่เข้าถึงได้มากที่สุดของ Generative AI ที่ใช้ LLM ร่วมกับคุณสมบัติผู้ช่วยเขียน สงสัยเล็กน้อยว่าผลิตภัณฑ์ส่วนใหญ่พบในหมวดหมู่เหล่านี้

ความแตกต่างและความอยู่รอดของผลิตภัณฑ์เหล่านี้มี 2 ด้าน ได้แก่

  1. มูลค่าเพิ่มที่เหมาะสมซึ่งอยู่ระหว่าง LLM และ UI และเลเยอร์นี้จำเป็นต้องพิเศษในแง่ของการเพิ่ม LLM API
  2. องค์ประกอบที่สองของการสร้างความแตกต่างคือ UX ประสบการณ์ผู้ใช้ต้องโดดเด่นเช่นกันเพื่อนำไปสู่การรักษาผู้ใช้

อย่างไรก็ตาม พื้นที่ที่ฉันสนใจมากที่สุด และที่ที่ฉันเชื่อว่ามีศักยภาพและการเติบโตมากที่สุดนั้นอยู่ที่Build Frameworks Build Frameworksยังอยู่ในสถานะเริ่มต้น แต่หลักการเริ่มปรากฏขึ้นในแง่ของ:

  1. เทมเพลตพรอมต์เพื่อทำให้พรอมต์ใช้ซ้ำได้และตั้งโปรแกรมได้
  2. การเก็บถาวร การใช้ซ้ำ และการแชร์พรอมต์
  3. การสร้าง API ที่ซับซ้อนซึ่งสามารถอำนวยความสะดวกให้กับคำขอหลายรายการซึ่งดำเนินการแบบอนุกรมหรือแบบขนาน
  4. บล็อกด้วยตรรกะรหัสเพื่อกำหนดบล็อกถัดไปที่จะดำเนินการ
  5. สามารถเข้าถึงและใช้ประโยชน์จากระบบฐานรากได้หลายระบบ

การขยายตัวของผลิตภัณฑ์เจเนอเรทีฟเอไอถือเป็นปรากฎการณ์และการหดตัวเป็นสิ่งที่หลีกเลี่ยงไม่ได้

องค์ประกอบหลักเพื่อความอยู่รอดจะรวมถึง:

ฐานลูกค้าที่มีอยู่และกำลังเติบโต
การรักษาลูกค้า
ประสบการณ์ผู้ใช้ที่เป็นตัวเอกและ UI
ความเหมาะสมและความแตกต่างของ IP และซอฟต์แวร์อย่างแท้จริง

ท้ายสุด เพื่อแสดงให้เห็นลักษณะที่แออัดของพื้นที่ AI กำเนิดอีกครั้ง ให้พิจารณาภาพด้านล่าง

มันแสดงเพียงบางส่วนของส่วนขยายเว็บ Chrome จำนวนมากที่ใช้ GPT หรือ ChatGPT...

⭐️ โปรดติดตามฉันบนLinkedInสำหรับการอัปเดตเกี่ยวกับ Conversational AI ⭐️

ตอนนี้ฉันเป็นหัวหน้าผู้สอนศาสนา @ HumanFirst ฉันสำรวจและเขียนเกี่ยวกับทุกสิ่งที่จุดตัดของ AI และภาษา ตั้งแต่LLMs , Chatbots , Voicebots , Development Frameworks , Data-Centric Latent Spaceและอื่นๆ

https://www.linkedin.com/in/cobusgreyling
Cobus Quadrant™ ของการออกแบบ NLU Cobus Quadrant™ ของความสามารถในการออกแบบการสนทนา
โมเดลภาษาขนาดใหญ่กำลังบังคับให้เฟรมเวิร์ก AI เชิงสนทนาต้องมองออกไปภายนอก สถาปัตยกรรม Chatbot แบบแข็งที่มีอยู่ต้องการโมเดลภาษาขนาดใหญ่ (LLM) ความยืดหยุ่น โมเดลภาษาขนาดใหญ่ (LLM) จะไม่แทนที่ Chatbot แบบดั้งเดิม NLU… สำหรับ AI เชิงสร้างสรรค์และหมวดหมู่ใหม่ของแอปพลิเคชันที่ขับเคลื่อนด้วย LLM กายวิภาคศาสตร์ ของแอปพลิเคชันการสนทนาที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM)