SaaS GPT

Chociaż wstępnie wytrenowane modele oferują gotową funkcjonalność dla wielu zadań NLP (przetwarzanie języka naturalnego), ale posuwają się tylko do tego. Wkrótce pojawia się potrzeba trenowania na własnych danych (custom corpus). Sposoby przeprowadzania niestandardowego treningu zmieniały się z biegiem czasu, możesz zobaczyć ten postęp poniżej:

• Tylko własne dane : modele oparte na częstotliwościach, takie jak bag-of-words i tf-idf (term-frequency odwrotna częstotliwość dokumentu) są zwykle szkolone od podstaw, w pełni na niestandardowym korpusie. Brak wstępnie wytrenowanych modeli jako takich. Używaj ich jako wektoryzatorów w dowolnych zadaniach NLP, takich jak klasyfikacja, za pośrednictwem uczenia maszynowego lub sieci neuronowych głębokiego uczenia.
• Ponowne szkolenie : model, taki jak word2vec, jest dostępny w wstępnie wyszkolonym smaku od Google. Możesz użyć go jako wektoryzatora w dowolnych zadaniach NLP, jak wspomniano powyżej. Ale biblioteka Gensim w Pythonie pozwala zbudować od podstaw własny model word2vec (i doc2vec), w pełni oparty na własnym korpusie. To daje ci własne wektory słów do wykorzystania w dowolnych zadaniach NLP, jak wspomniano powyżej.
• Precyzyjne dostrajanie : Modele takie jak BERT (dwukierunkowa reprezentacja transformatorów z koderem dwukierunkowym) są dostępne w wersji wstępnie wyszkolonej do wykorzystania jako wektoryzator, a także jako podstawowa sieć neuronowa. Na podstawie dalszych zadań NLP, takich jak klasyfikacja, należy dodać ostatnią warstwę do tej podstawowej sieci neuronowej, a tym samym uzyskać własny klasyfikator, który można trenować na niestandardowym korpusie.

W bloku jest teraz nowy dzieciak, dla GPT i BARD na całym świecie, a to:

• Szybkie dostrajanie : Modele takie jak *GPT* (Generative Pretrained Transformers), które są LLM (Large Language Models), są tak potężne, że nie ma potrzeby ingerowania w sieć neuronową w celu dostrojenia własnych danych. Wystarczy podać kilka próbek (strzałów) w samym monicie, a zacznie odpowiadać na podstawie próbek. Oczywiście można również wykonać wszystkie powyższe metody, ale ten nowy sposób dostrajania za pomocą monitów sprawił, że LLM są dostępne dla każdego.

LangChain jest jednym z nich.

Google oferuje podobną ofertę w chmurze zintegrowanej z Vertex AI.

Już zacząłeś dostrzegać pomysłowe zastosowania takich niestandardowych GPT, jak GitaGPT!!

Z takich rozwiązań zrodzi się nowa kategoria o nazwie „SaaS GPT” (Software-as-a-Service based on GPT).

Więcej w przyszłości!!