Cohere Fine-Tuned Large Language Models & Intent Recognition

Dec 19 2022
Cet article examine comment un modèle de langage volumineux (LLM) personnalisé peut être utilisé pour la détection d'intention. Et comment un processus d'amélioration continue peut être suivi pour une conception et un développement NLU intelligents et guidés par l'intention.

Cet article examine comment un modèle de langage volumineux (LLM) personnalisé peut être utilisé pour la détection d'intention. Et comment un processus d'amélioration continue peut être suivi pour une conception et un développement NLU intelligents et guidés par l'intention.

Récemment, j'ai écrit un article sur la façon de créer un LLM personnalisé affiné en utilisant Cohere et HumanFirst Studio.

HumanFirst Studio est un espace latent accéléré pour convertir des données non structurées en données NLU Design .

Dans cet article, je montre comment le modèle LLM affiné est utilisé pour la détection d'intention à partir des énoncés de l'utilisateur. Je considère également comment les résultats se comparent à ceux de HumanFirst NLU.

En savoir plus sur l'intégration directe entre HumanFirst Studio et Cohere Large Language Models ici .

Un ajout relativement nouveau à l'interface Cohere est le tableau de bord, qui peut être considéré comme une zone de transit. Et sert également d' étape suivante , passant du terrain de jeu à un environnement plus orienté vers la production.

Dans l'image ci-dessous, vous voyez le tableau de bord, où les modèles sont sélectionnés. Une liste des modèles Cohere par défaut et personnalisés s'affiche.

Dans l'image ci-dessous, le modèle personnalisé affiné est sélectionné sous "Vos modèles" et accessible via Cohere Playground.

Dans le terrain de jeu, en haut à droite, une liste de modèles est affichée.

Vous verrez l'ajout d'un nouveau modèle multilingue.

Sous les modèles Fine Tuned, vous verrez le modèle bancaire personnalisé ; la création de ce modèle est décrite ici .

L'interface utilisateur affiche les étiquettes (intentions) dans le volet de gauche. Après avoir saisi un énoncé d'entrée, un utilisateur peut cliquer sur classer pour générer un résultat.

La sortie répertorie les étiquettes pertinentes, avec le pourcentage ou la pertinence.

L'exécution du même test par rapport à la NLU HumanFirst donne un résultat plus distribué, ce qui est conforme aux résultats précédents .

En savoir plus sur l'analyse de l'intégration HumanFirst et Cohere et la prise en compte des énoncés complexes .

Vous trouverez ci-dessous un code extrait illustrant comment utiliser le modèle Cohere personnalisé et affiné dans le code python.

# pip install cohere
# In a notebook, you will first have to intall cohere

import cohere
from cohere.classify import Example
co = cohere.Client('API Key')
response = co.classify(
  model='d13388ea-7017-4a62-bcf5-7add7bb024fa-ft',
  inputs=["My card is damaged and I cannot cancel a transfer"])
print('The confidence levels of the labels are: {}'.format(response.classifications))

The confidence levels of the labels are: 

[Classification<prediction: "cancel_transfer", confidence: 0.895705>]

L'idéal est d'avoir ce pipeline de données automatisé autant que possible. Et en adhérant à un processus humain dans la boucle pendant les phases d'évaluation et de conception NLU.

Pour des considérations sur l'utilisation d'une approche de pipeline de données pour l'ingénierie des données NLU du point de vue de HumanFirst, cliquez ici .

⭐️ Veuillez me suivre sur LinkedIn pour les mises à jour sur l'IA conversationnelle ⭐️

Je suis actuellement l' évangéliste en chef @ HumanFirst . J'explore et j'écris sur tout ce qui se situe à l'intersection de l'IA et du langage ; allant des LLM , Chatbots , Voicebots , Frameworks de développement, espaces latents centrés sur les données et plus encore.

https://www.linkedin.com/in/cobusgreyling
Le Cobus Quadrant™ de la conception NLU Le Cobus Quadrant™ des capacités de conception de conversation