đại lý

Khi việc triển khai các Mô hình ngôn ngữ lớn (LLM) mở rộng cả về chiều sâu và chiều rộng, một số yêu cầu phát sinh:

1. Khả năng lập trình LLM và tạo lời nhắc có thể tái sử dụng & kết hợp liền mạch lời nhắc vào các ứng dụng lớn hơn .
2. Tạo chuỗi để sắp xếp các tương tác LLM cho các ứng dụng lớn hơn.
3. Tự động hóa lời nhắc theo chuỗi suy nghĩ ngẫu hứng thông qua một tác nhân có thể hoạt động độc lập dựa trên phạm vi công cụ.
4. Tạo các đường dẫn lời nhắc có thể mở rộng có thể thu thập dữ liệu liên quan từ nhiều nguồn khác nhau, tất cả đều dựa trên đầu vào của người dùng và tạo thành một lời nhắc; và gửi lời nhắc tới LLM.

Với các hoạt động liên quan đến LLM, rõ ràng có nhu cầu tự động hóa. Hiện tại quá trình tự động hóa này ở dạng được gọi là đại lý .

Chuỗi nhắc nhở là việc thực hiện một chuỗi hành động được xác định trước và thiết lập.

Điểm hấp dẫn của Đặc vụ là Đặc vụ không tuân theo một chuỗi sự kiện định sẵn. Các đại lý có thể duy trì mức độ tự chủ cao.

Xem xét hình ảnh bên dưới, Đại lý có quyền truy cập vào một bộ công cụ và bất kỳ yêu cầu nào nằm trong phạm vi của các công cụ này đều có thể được giải quyết bởi đại lý. Quy trình Thực thi trao quyền tự chủ cho Tác nhân và có thể cần thực hiện một số lần lặp lại cho đến khi Tác nhân đạt được Câu trả lời cuối cùng .

Các hành động được thực thi bởi tác nhân bao gồm:

1. Sử dụng một công cụ
2. Quan sát đầu ra của nó
3. Đi xe đạp đến một công cụ khác
4. Trả lại đầu ra cho người dùng

“Đàn ông đã trở thành công cụ của công cụ của họ.”

- Henry David Thoreau

Có một sự quan sát, suy nghĩ và cuối cùng là một câu trả lời cuối cùng. Sơ đồ cho thấy cách một loại hành động khác có thể được gọi trong trường hợp không đạt được câu trả lời cuối cùng.

Đầu ra được cắt bên dưới sơ đồ cho thấy cách tác nhân thực thi và cách chuỗi được tạo theo kiểu tự trị.

Lấy LangChain làm tham chiếu, Đại lý có ba khái niệm:

Công cụ

Như đã trình bày trước đó trong bài viết, có một số công cụ có thể được sử dụng. Một công cụ có thể được coi là một chức năng thực hiện một nhiệm vụ cụ thể.

Các công cụ bao gồm Google Tìm kiếm, tra cứu cơ sở dữ liệu, Python REPL hoặc thậm chí gọi các chuỗi hiện có.

Trong khuôn khổ LangChain, giao diện cho một công cụ là một chức năng dự kiến ​​sẽ có:

1. Chuỗi làm đầu vào,
2. Và chuỗi dưới dạng đầu ra.

Đây là mô hình ngôn ngữ cung cấp năng lượng cho tác nhân. Dưới đây là một ví dụ về cách LLM được xác định trong đại lý:

Các loại đại lý

Các đại lý sử dụng LLM để xác định những hành động cần thực hiện và theo thứ tự nào. Tác nhân tạo ra một chuỗi suy nghĩ một cách nhanh chóng bằng cách phân tách yêu cầu của người dùng.

Các tác nhân liên quan đến một LLM đưa ra quyết định về những Hành động cần thực hiện, thực hiện Hành động đó, xem một Quan sát và lặp lại hành động đó cho đến khi hoàn thành. — Nguồn

Các đại lý có hiệu quả ngay cả trong trường hợp câu hỏi không rõ ràng và yêu cầu một cách tiếp cận nhiều bước . Đây có thể được coi là một quy trình tự động phân tách một câu hỏi hoặc hướng dẫn phức tạp thành một quy trình chuỗi suy nghĩ .

Hình ảnh bên dưới minh họa rõ sự phân tách câu hỏi và cách câu hỏi được trả lời trong quy trình chuỗi suy nghĩ về bữa ăn từng phần :

Dưới đây là danh sách các loại tác nhân trong môi trường LangChain. Đọc thêm ở đây để biết mô tả đầy đủ về các loại đại lý.

Xem xét hình ảnh bên dưới, thay đổi duy nhất được thực hiện đối với mã là AgentTypemô tả. Sự thay đổi trong phản hồi có thể nhìn thấy rõ ràng trong hình ảnh này, với cùng một cấu hình được sử dụng và chỉ có một tệp AgentType.

Để biết các ví dụ về mã hoạt động hoàn chỉnh của LangChain Agents, hãy đọc thêm tại đây .

⭐️ Vui lòng theo dõi tôi trên LinkedIn để cập nhật thông tin về Conversational AI ⭐️

Tôi hiện là Nhà truyền bá chính @ HumanFirst . Tôi khám phá và viết về tất cả mọi thứ ở giao điểm của AI và ngôn ngữ; khác nhau, từ LLMs , Chatbots , Voicebots , Khung phát triển, không gian tiềm ẩn lấy dữ liệu làm trung tâm , v.v.

Đại lý & Mô hình ngôn ngữ lớn Đại lý, LLM & Multihop Trả lời câu hỏi Gợi ý chuỗi suy nghĩ trong LLM