SaaS-GPT

Obwohl vorab trainierte Modelle für viele NLP-Aufgaben (Natural Language Processing) sofort einsatzbereite Funktionalität bieten, gehen sie nur so weit. Bald besteht die Notwendigkeit, auf Ihren eigenen Daten zu trainieren (benutzerdefinierter Korpus). Die Art und Weise, wie individuelles Training durchgeführt wird, hat sich im Laufe der Zeit geändert. Sie können diesen Fortschritt unten sehen:

• Nur eigene Daten : Frequenzbasierte Modelle wie Bag-of-Words und tf-idf (Term Frequency Inverse Document Frequency) werden in der Regel von Grund auf vollständig auf dem benutzerdefinierten Korpus trainiert. Keine vorab trainierten Modelle als solche. Verwenden Sie sie als Vektorisierer in allen NLP-Aufgaben wie der Klassifizierung, über maschinelles Lernen oder Deep-Learning-Neuronale Netze.
• Umschulung : Modelle wie word2vec gibt es in der vorab trainierten Variante von Google. Sie können es, wie oben erwähnt, als Vektorisierer in allen NLP-Aufgaben verwenden. Aber mit der Python-Bibliothek Gensim können Sie auch Ihr eigenes word2vec- (und doc2vec-)Modell von Grund auf erstellen, vollständig basierend auf Ihrem eigenen Korpus. Dadurch erhalten Sie Ihre eigenen Wortvektoren, die Sie, wie oben erwähnt, in allen NLP-Aufgaben verwenden können.
• Feinabstimmung : Modelle wie BERT (Bidirektionale Encoder-Repräsentation von Transformatoren) sind in vortrainierter Ausführung erhältlich und können als Vektorisierer und auch als grundlegendes neuronales Netzwerk verwendet werden. Basierend auf nachgelagerten NLP-Aufgaben, wie z. B. der Klassifizierung, muss man diesem grundlegenden neuronalen Netzwerk eine letzte Schicht hinzufügen und erhält so seinen eigenen Klassifikator, der auf dem benutzerdefinierten Korpus trainiert werden kann.

Für die GPTs und BARDs dieser Welt gibt es jetzt ein neues Kind, und zwar:

• Prompt-Tuning : Modelle wie *GPT* (Generative Pretrained Transformers), bei denen es sich um LLMs (Large Language Models) handelt, sind so leistungsstark, dass für die Feinabstimmung Ihrer eigenen Daten keine Manipulation des neuronalen Netzwerks erforderlich ist. Sie müssen lediglich ein paar Proben (Schüsse) innerhalb der Eingabeaufforderung selbst abgeben und die Antwort beginnt auf der Grundlage der Proben. Natürlich kann man auch alle oben genannten Methoden anwenden, aber diese neue Art der Feinabstimmung über Eingabeaufforderungen hat LLMs für jedermann zugänglich gemacht.

LangChain ist einer von ihnen.

Google bietet ein ähnliches Angebot in der Cloud an, das mit Vertex AI integriert ist.

Sie haben bereits begonnen, fantasievolle Verwendungsmöglichkeiten solcher benutzerdefinierten GPTs wie GitaGPT zu sehen!

Solche Lösungen werden eine neue Kategorie namens „SaaS GPT“ (Software-as-a-Service basierend auf GPT) hervorbringen.

Da kommt noch mehr!!