Recherche sémantique + ChatGPT

ChatGPT écrit. Hebbia lit. Pourquoi ils forment une excellente paire.

Les modèles d'IA générative semblent prêts à créer des billions de dollars de valeur économique.

GPT-3, Stable Diffusion, DALL-E et, plus récemment, Chat-GPT ont propulsé la capacité de l'IA à créer dans le courant dominant.

Mais les créations seules sont souvent loin d'être utiles - les réponses incorrectes de Chat-GPT et le retrait immédiat du Galactica de Meta partagent un défaut flagrant :

Les modèles génératifs peuvent écrire des réponses, mais ils ne lisent jamais les sources ou ne « citent » pas leur travail.

D'OpenAI , alors que " ChatGPT écrit parfois des réponses plausibles mais incorrectes ou absurdes… il n'y a actuellement aucune source de vérité." Meta mentionne "il n'y a aucune garantie pour une sortie véridique ou fiable des modèles de langage, même les grands formés sur des données de haute qualité comme Galactica " et qu'il ne faut "jamais suivre les conseils d'un grand modèle de langage sans vérification".

Par exemple, la première requête de @AndrewYNg rend ChatGPT factuellement incorrect :

La fonctionnalité de "recherche" de ChatGPT ne recherche pas réellement - les réponses sont basées sur des correspondances de modèles à court terme et sont souvent incorrectes.

Pour concrétiser toutes les promesses d'applicabilité de l'IA générative dans la main-d'œuvre, des systèmes plus transparents, fiables et précis sont nécessaires. Une technologie capable d'alimenter correctement ces modèles en faits pertinents est primordiale.

Recherche sémantique - la capacité des LLM à lire et à récupérer des sources est essentielle.

En plus de leur capacité générative, les LLM ont une capacité unique à également encoder et indexer le contenu par sa signification.

Les moteurs de recherche sémantiques ou «neuraux» tirent parti de l'IA pour récupérer des réponses basées sur le sens, et pas seulement sur des mots clés (c'est-à-dire Google, ElasticSearch). Un analyste à la recherche des « valeurs culturelles de l'entreprise » s'attendrait à tomber sur la mission et la vision de l'entreprise dans un 10-K. Seul un moteur de recherche sémantique comme Hebbia pourrait supporter ce comportement. La recherche par mot-clé peut donner des résultats sur les évaluations des entreprises.

Ces systèmes d'IA discriminative, contrairement à l'IA générative, trouvent le signal dans le bruit.

Les modèles génératifs peuvent et doivent exploiter une « mémoire » de recherche sémantique.

Les « lecteurs » de la recherche sémantique peuvent alimenter les « rédacteurs » génératifs pour combler seuls tous les défauts des modèles génératifs :

1. Plus précis : modèles d'amorçage avec des sources primaires pertinentes
2. Plus digne de confiance : Citer les sources derrière chaque génération
3. Mise à jour plus facile : la mise à jour d'un index peut se faire presque instantanément sans qu'il soit nécessaire de recycler un milliard (ou deux billions !) de modèle de paramètres ad hoc.

Si vous souhaitez utiliser cette technologie sur votre lieu de travail, contactez Hebbia et apprenez-en plus sur ce que nous faisons.