SaaS GPT

Mar 23 2023
Máy biến áp được đào tạo trước tạo ra phần mềm dưới dạng dịch vụ
Mặc dù các mô hình được đào tạo trước cung cấp chức năng vượt trội cho nhiều tác vụ NLP (Xử lý ngôn ngữ tự nhiên), nhưng chúng chỉ đi xa đến mức đó. Ngay sau đó, nhu cầu đào tạo trên dữ liệu của riêng bạn (tập dữ liệu tùy chỉnh) sẽ xuất hiện.
(Nguồn: Pixabay)

Mặc dù các mô hình được đào tạo trước cung cấp chức năng vượt trội cho nhiều tác vụ NLP (Xử lý ngôn ngữ tự nhiên), nhưng chúng chỉ đi xa đến mức đó. Ngay sau đó, nhu cầu đào tạo trên dữ liệu của riêng bạn (tập dữ liệu tùy chỉnh) sẽ xuất hiện. Cách thức thực hiện đào tạo tùy chỉnh đã thay đổi theo thời gian, bạn có thể thấy tiến trình này bên dưới:

  • Chỉ dữ liệu riêng : Các mô hình dựa trên tần suất như bag-of-words và tf-idf (tần số tài liệu nghịch đảo tần số thuật ngữ) thường được đào tạo từ đầu, hoàn toàn trên kho văn bản tùy chỉnh. Không có mô hình được đào tạo trước như vậy. Sử dụng chúng làm công cụ véc tơ trong bất kỳ nhiệm vụ NLP nào, chẳng hạn như phân loại, thông qua học máy hoặc mạng lưới thần kinh học sâu.
  • Đào tạo lại : Mô hình như word2vec có hương vị được đào tạo trước từ Google. Bạn có thể sử dụng nó như một công cụ véc tơ trong bất kỳ tác vụ NLP nào, như đã đề cập ở trên. Tuy nhiên, thư viện Python Gensim, cho phép bạn xây dựng mô hình word2vec (và doc2vec) của riêng mình từ đầu, hoàn toàn dựa trên kho văn bản của riêng bạn. Điều này cung cấp cho bạn các vectơ từ của riêng bạn để sử dụng trong bất kỳ nhiệm vụ NLP nào, như đã đề cập ở trên.
  • Tinh chỉnh : Các mô hình như BERT (Biểu diễn bộ mã hóa hai chiều của máy biến áp) có hương vị được đào tạo trước để được sử dụng làm công cụ véc tơ và cũng như mạng nơ-ron cơ sở. Dựa trên các nhiệm vụ NLP xuôi dòng, chẳng hạn như phân loại, người ta cần thêm lớp cuối cùng vào mạng thần kinh cơ sở đó và do đó bạn có được trình phân loại của riêng mình có thể được đào tạo trên kho văn bản tùy chỉnh.

Hiện tại có một đứa trẻ mới trong khối, dành cho GPT và BARD của thế giới và đó là:

  • Điều chỉnh kịp thời : Các mô hình như *GPT* (Generative Pretraining Transformers), là LLM (Mô hình ngôn ngữ lớn), mạnh đến mức không cần can thiệp vào mạng thần kinh để tinh chỉnh dữ liệu của riêng bạn. Bạn chỉ cần đưa ra một vài mẫu (ảnh) trong chính lời nhắc và nó bắt đầu trả lời dựa trên các mẫu. Tất nhiên, người ta cũng có thể thực hiện tất cả các phương pháp trên, nhưng cách tinh chỉnh mới này thông qua lời nhắc đã làm cho LLM có thể truy cập được đối với bất kỳ ai và tất cả mọi người.
  • Ảnh của Hoàng M Nguyễn trên Bapt

LangChain là một trong số đó.

Google đang mang đến một dịch vụ tương tự trong Đám mây được tích hợp với Vertex AI.

Bạn đã bắt đầu thấy những cách sử dụng sáng tạo của các GPT tùy chỉnh như GitaGPT!!

Những giải pháp như vậy sẽ khai sinh ra một danh mục mới, được gọi là 'SaaS GPT' (Phần mềm dưới dạng dịch vụ dựa trên GPT).

Nhiều hơn để đến!!