SaaS GPT

Mar 23 2023
Software-as-a-Service Generatif Pretrained Transformers
Meskipun model pra-pelatihan menawarkan fungsionalitas out-of-the-box untuk banyak tugas NLP (Natural Language Processing), tetapi mereka hanya bekerja sejauh itu. Segera, muncul kebutuhan untuk melatih data Anda sendiri (korpus khusus).
(Sumber: Pixabay)

Meskipun model pra-pelatihan menawarkan fungsionalitas out-of-the-box untuk banyak tugas NLP (Natural Language Processing), tetapi mereka hanya bekerja sejauh itu. Segera, muncul kebutuhan untuk melatih data Anda sendiri (korpus khusus). Cara pelatihan khusus dilakukan, telah berubah dari waktu ke waktu, Anda dapat melihat perkembangan ini, di bawah:

  • Data sendiri saja : Model berbasis frekuensi seperti bag-of-words dan tf-idf (term frequency inverse document frequency) biasanya dilatih dari awal, sepenuhnya pada korpus kustom. Tidak ada model pra-pelatihan seperti itu. Gunakan mereka sebagai vektorisasi dalam tugas NLP apa pun seperti klasifikasi, melalui pembelajaran mesin atau jaringan saraf pembelajaran mendalam.
  • Pelatihan ulang : Model seperti word2vec hadir dengan rasa pra-pelatihan dari Google. Anda dapat menggunakannya sebagai vektorizer dalam tugas NLP apa pun, seperti yang disebutkan di atas. Tapi, pustaka Python Gensim, memungkinkan Anda membuat model word2vec (dan doc2vec) Anda sendiri dari awal juga, sepenuhnya berdasarkan korpus Anda sendiri. Ini memberi Anda vektor kata Anda sendiri untuk digunakan dalam tugas NLP apa pun, seperti yang disebutkan di atas.
  • Penyempurnaan : Model-model seperti BERT (Bidirectional Encoder Representation of Transformers) hadir dalam bentuk yang telah dilatih sebelumnya untuk digunakan sebagai vektorizer dan juga sebagai jaringan saraf dasar. Berdasarkan tugas-tugas NLP hilir, seperti klasifikasi, seseorang perlu menambahkan, lapisan terakhir ke jaringan saraf dasar itu dan dengan demikian Anda mendapatkan pengklasifikasi Anda sendiri yang dapat dilatih pada korpus khusus.

Ada anak baru di blok sekarang, untuk GPT dan BARD dunia dan itu:

  • Penyesuaian cepat : Model seperti *GPT* (Generative Pretrained Transformers), yang merupakan LLM (Large Language Models), sangat kuat, sehingga tidak perlu mengutak-atik jaringan neural untuk menyempurnakan data Anda sendiri. Anda hanya perlu memberikan beberapa sampel (tembakan) di dalam prompt itu sendiri dan mulai menjawab berdasarkan sampel. Tentu saja, seseorang dapat melakukan semua metode di atas juga, tetapi cara baru untuk menyempurnakan melalui petunjuk ini telah membuat LLM dapat diakses oleh siapa saja dan semua orang.
  • Foto oleh Hoang M Nguyen di Unsplash

LangChain adalah salah satunya.

Google menghadirkan penawaran serupa di Cloud yang terintegrasi dengan Vertex AI.

Anda sudah mulai melihat penggunaan imajinatif dari GPT khusus seperti GitaGPT!!

Solusi semacam itu akan melahirkan kategori baru, yang disebut 'SaaS GPT' (Perangkat Lunak sebagai Layanan berdasarkan GPT).

Akan datang lebih banyak lagi!!