SaaS GPT

사전 훈련된 모델은 많은 NLP(자연어 처리) 작업에 대해 즉시 사용 가능한 기능을 제공하지만 그 정도에 불과합니다. 곧 자신의 데이터(사용자 지정 말뭉치)에 대한 교육이 필요합니다. 사용자 지정 교육이 수행되는 방식은 시간이 지남에 따라 변경되었으며 아래에서 이 진행 상황을 확인할 수 있습니다.

• 자체 데이터 전용 : bag-of-words 및 tf-idf(용어 빈도 역 문서 빈도)와 같은 빈도 기반 모델은 일반적으로 처음부터 완전히 사용자 지정 말뭉치에서 훈련됩니다. 사전 훈련된 모델이 없습니다. 기계 학습 또는 심층 학습 신경망을 통해 분류와 같은 모든 NLP 작업에서 벡터화기로 사용하십시오.
• 재훈련 : word2vec과 같은 모델은 Google에서 사전 훈련된 특징을 가지고 있습니다. 위에서 언급한 대로 모든 NLP 작업에서 벡터화기로 사용할 수 있습니다. 그러나 Python 라이브러리 Gensim을 사용하면 완전히 자신의 코퍼스를 기반으로 처음부터 자신만의 word2vec(및 doc2vec) 모델을 구축할 수 있습니다. 이렇게 하면 위에서 언급한 대로 모든 NLP 작업에 사용할 고유한 단어 벡터가 제공됩니다.
• 미세 조정 : BERT(Bidirectional Encoder Representation of Transformers)와 같은 모델은 벡터화기 및 기본 신경망으로 사용하기 위해 미리 훈련된 방식으로 제공됩니다. 분류와 같은 다운스트림 NLP 작업을 기반으로 해당 기본 신경망에 마지막 레이어를 추가해야 하므로 사용자 지정 말뭉치에서 훈련할 수 있는 고유한 분류기를 얻을 수 있습니다.

이제 전 세계의 GPT와 BARD를 위한 새로운 아이가 등장했습니다.

• 즉각적인 조정 : LLM(Large Language Models)인 *GPT*(Generative Pretrained Transformers)와 같은 모델은 매우 강력하여 자신의 데이터로 미세 조정하기 위해 신경망을 조작할 필요가 없습니다. 프롬프트 자체 내에서 몇 가지 샘플(샷)을 제공하기만 하면 샘플을 기반으로 응답을 시작합니다. 물론 위의 모든 방법도 수행할 수 있지만 프롬프트를 통해 미세 조정하는 이 새로운 방법으로 누구나 LLM에 액세스할 수 있습니다.

랭체인도 그 중 하나입니다.

Google은 Vertex AI와 통합된 클라우드에서 유사한 제품을 제공하고 있습니다.

이미 GitaGPT와 같은 사용자 정의 GPT의 창의적인 사용을 보기 시작했습니다!!

이러한 솔루션은 'SaaS GPT'(Software-as-a-Service based on GPT)라는 새로운 카테고리를 탄생시킬 것입니다.

앞으로 더!!