Ajustement fin des grands modèles de langage

Dec 07 2022

Dans cet article, j'examine le réglage fin des grands modèles de langage et comment il se compare aux approches zéro et peu de tirs.

Le paysage des grands modèles linguistiques (LLM) ne cesse de s'étendre avec un certain nombre de nouveaux ajouts récents, l'introduction la plus notable étant ChatGPT. Il existe trois approches pour atteindre les résultats souhaités avec les LLM : 1️⃣ Zero Shot Learning2️⃣ Few Shot Learning3️⃣ Modèles personnalisés/affinés Zero Shot Learning est un scénario dans lequel un LLM peut reconnaître un large éventail de demandes d'utilisateurs sans être explicitement formé sur l'entrée de l'utilisateur.

Le paysage des grands modèles linguistiques (LLM) ne cesse de s'étendre avec un certain nombre de nouveaux ajouts récents, l'introduction la plus notable étant ChatGPT .

Il existe trois approches pour atteindre les résultats souhaités avec les LLM :

1️⃣ Apprentissage Zero Shot
2️⃣ Apprentissage de quelques coups
3️⃣ Modèles personnalisés/affinés

Zero Shot Learning est un scénario dans lequel un LLM peut reconnaître un large éventail de demandes d'utilisateurs sans être explicitement formé sur l'entrée de l'utilisateur. On peut affirmer que la nouvelle discipline de l'ingénierie rapide fait partie de l'apprentissage zéro coup.

Few Shot Learning est une approche où le LLM fait une prédiction basée sur un nombre très limité d'échantillons d'apprentissage. Ces échantillons peuvent être stockés dans des clusters et récupérés pour une formation en temps réel pendant la conversation. Vous pouvez trouver plus de détails sur cette approche ici .

Les modèles personnalisés / affinés sont une approche à plus long terme dans laquelle un modèle affiné est basé sur l'un des modèles standard proposés par le LLM.

Vous trouverez ci-dessous un exemple du terrain de jeu OpenAI où les modèles personnalisés affinés sont répertoriés avec les modèles standard disponibles de l'API OpenAI Language.

Lors de la compilation d'une requête dans le terrain de jeu OpenAI , le menu déroulant du modèle est visible en haut à droite. Il existe quelques modèles standard parmi lesquels choisir, chacun d'entre eux étant optimisé pour différentes tâches.

Les étapes pour créer un modèle personnalisé sont :

Sélectionnez un modèle existant qui convient le mieux à la tâche envisagée.
Organisez et préparez vos données d'entraînement personnalisées.
Formatez les données dans le format approprié tel que mandaté par les fournisseurs de LLM.
Téléchargez et démarrez le processus de formation.
Toutes les formations se déroulent dans le cloud.
En fonction de la taille du modèle de base que vous sélectionnez et de la quantité de données d'entraînement, le temps d'entraînement peut varier considérablement.

Source Les modèles GPT-3 comprennent et génèrent le langage naturel. Ce sont les quatre principaux modèles avec différents niveaux de puissance pour différentes tâches prévues. Davinci est le modèle le plus capable, Ada est le plus rapide.

⭐️ Veuillez me suivre sur LinkedIn pour les mises à jour sur l'IA conversationnelle ⭐️

Je suis actuellement l' évangéliste en chef @ HumanFirst . J'explore et j'écris sur tout ce qui se situe à l'intersection de l'IA et du langage ; allant des LLM , Chatbots , Voicebots , Frameworks de développement, espaces latents centrés sur les données et plus encore.