La NLU traditionnelle peut être exploitée en suivant une approche hybride NLU et NLG

Cet article examine comment les LLM de la Fondation peuvent être utilisés pour tirer parti des investissements NLU existants et améliorer les expériences de chatbot.

Compte tenu du paysage de l'IA conversationnelle et des progrès réalisés par les LLM , il y a eu quelques phénomènes de marché :

1. Les frameworks de chatbot traditionnels basés sur NLU adoptent la fonctionnalité Foundation LLM. Mais surtout d'une manière peu imaginative pour générer des exemples de formation d'intention, des boîtes de dialogue de secours de réponse de bot ou la réécriture de messages de bot. La seule exception ici est Cognigy et, dans une certaine mesure, Yellow AI.
2. Les LLM sont principalement utilisés dans une capacité générative , et non en conjonction avec la capacité prédictive existante .
3. La puissance prédictive des moteurs NLU traditionnels en ce qui concerne la classification des intentions ne doit pas être négligée.
4. Les implémentations NLG hybrides basées sur NLU et LLM ne reçoivent pas l'attention qu'elles méritent.

Cet article considère ce qui suit :

• Augmenter la granularité et la sophistication des modèles NLU d'énoncés utilisateur entrants existants, en les complétant avec NLG.
• Utiliser la supervision humaine pour surveiller les réponses génératives de la même manière que les intentions sont surveillées et maintenues.
• Des invites LLM conçues et organisées peuvent être utilisées pour créer des modèles LLM affinés spécifiques à l'organisation.

Trois principes à retenir pour les conseils de supervision :

1. La supervision entrante est généralement plus efficace que la supervision sortante.
2. Une supervision légère peut être très efficace pour générer des messages de bot réactifs et contextuels.
3. Des conseils très directifs et très fiables peuvent conduire à des réponses beaucoup plus étroites.

L'énoncé de l'utilisateur (1) est intercepté comme c'est le cas avec pratiquement tous les chatbots (2) , et l'intention est récupérée (3) .

L'étape (4) consiste à récupérer des exemples d'invites ou d'astuces associées à l'intention spécifique. Ces indices sont exploités par le LLM pour générer des réponses précises sans aucune hallucination.

C'est également à l'étape (4) que les indices ou les chuchotements rapides peuvent être revus et maintenus. Cela ne se fait pas en temps réel, mais peut être considéré comme un processus continu de maintenance, analogue à la gestion des intentions.

De manière typique, (5) les indices sont envoyés au LLM (6) avec les entités pertinentes injectées dans l'invite via un processus de création de modèles .

Le LLM génère la réponse (7) qui est envoyée à l'utilisateur. Idéalement, les formateurs NLU/NLG auront une cadence quotidienne d'examen des résultats génératifs et de mise à jour des modèles d'invites pour une amélioration des suggestions et des modèles.

Vous trouverez ci-dessous un schéma détaillé d'un flux de processus de bot génératif supervisé :

En conclusion

J'ai toujours soutenu que les entreprises vont converger vers une bonne idée ; cela est évident dans l'architecture actuelle des chatbots. Il existe des variantes, mais l'architecture de base du chatbot est universelle.

Cette structure éprouvée des chatbots et la puissance prédictive des moteurs NLU ne peuvent être négligées et doivent être mises à profit par cette approche hybride.

⭐️ Veuillez me suivre sur LinkedIn pour les mises à jour sur l'IA conversationnelle ⭐️

Je suis actuellement l' évangéliste en chef @ HumanFirst . J'explore et j'écris sur tout ce qui se situe à l'intersection de l'IA et du langage ; allant des LLM , Chatbots , Voicebots , Frameworks de développement, espaces latents centrés sur les données et plus encore.