GPT SaaS

Bien que les modèles pré-entraînés offrent des fonctionnalités prêtes à l'emploi pour de nombreuses tâches NLP (Natural Language Processing), ils ne vont que jusque-là. Bientôt, un besoin se fait sentir de s'entraîner sur ses propres données (corpus personnalisé). Les façons dont la formation personnalisée est effectuée ont changé au fil du temps, vous pouvez voir cette progression ci-dessous :

• Données propres uniquement : les modèles basés sur la fréquence tels que les sacs de mots et tf-idf (fréquence de terme inverse de fréquence de document) sont généralement formés à partir de zéro, entièrement sur le corpus personnalisé. Pas de modèles pré-entraînés en tant que tels. Utilisez-les comme vectoriseurs dans toutes les tâches NLP telles que la classification, via l'apprentissage automatique ou les réseaux de neurones d'apprentissage en profondeur.
• Re-formation : Un modèle comme word2vec est disponible en version pré-formée de Google. Vous pouvez l'utiliser comme vectoriseur dans toutes les tâches NLP, comme mentionné ci-dessus. Mais la bibliothèque Python Gensim vous permet également de créer votre propre modèle word2vec (et doc2vec) à partir de zéro, entièrement basé sur votre propre corpus. Cela vous donne vos propres vecteurs de mots à utiliser dans toutes les tâches NLP, comme mentionné ci-dessus.
• Réglage fin : Des modèles tels que BERT (Représentation d'encodeur bidirectionnel de transformateurs) sont proposés dans une version pré-entraînée pour être utilisés comme vectoriseur et également comme réseau de neurones de base. Sur la base des tâches NLP en aval, telles que la classification, il faut ajouter la dernière couche à ce réseau de neurones de base et vous obtenez ainsi votre propre classificateur qui peut être formé sur le corpus personnalisé.

Il y a un petit nouveau sur le bloc maintenant, pour les GPT et les BARD du monde et c'est :

• Réglage rapide : des modèles tels que *GPT* (Generative Pretrained Transformers), qui sont des LLM (Large Language Models), sont si puissants qu'il n'est pas nécessaire d'altérer le réseau de neurones pour un réglage fin avec vos propres données. Il vous suffit de donner quelques échantillons (prises de vue) dans l'invite elle-même et il commence à répondre en fonction des échantillons. Bien sûr, on peut également appliquer toutes les méthodes ci-dessus, mais cette nouvelle méthode de réglage fin via des invites a rendu les LLM accessibles à tous et à tous.

LangChain en fait partie.

Google propose une offre similaire dans le Cloud intégrée à Vertex AI.

Vous avez déjà commencé à voir des utilisations imaginatives de tels GPT personnalisés, comme GitaGPT !!

De telles solutions vont donner naissance à une nouvelle catégorie, appelée 'SaaS GPT' (Software-as-a-Service based on GPT).

Plus à venir!!