Avec tout le buzz autour de ChatGPT et de l'intelligence artificielle (IA) impactant les moteurs de recherche Big Tech comme Google, des membres de la communauté nous ont demandé comment Presearch avait l'intention de tirer parti de l'IA.

Nous avons préparé ce billet de blog pour explorer les opportunités et discuter de la façon dont Presearch utilise l'IA maintenant et à l'avenir.

Recherche alimentée par l'IA

Les moteurs de recherche ont été des pionniers dans le domaine de l'IA, ayant été construits sur des algorithmes d'apprentissage automatique (ML) pendant des années. En raison d'une combinaison de grandes quantités de données à rechercher, de requêtes des utilisateurs indiquant leur intention et du potentiel de retour en temps réel des interactions continues des utilisateurs (clics, pagination, défilement, etc.), les moteurs de recherche alimentés par l'IA ont une capacité à apprendre et à s'améliorer constamment à partir de nouvelles données et interactions.

L'IA est sous le capot, alimentant la recherche et les expériences de médias sociaux pour des milliards chaque jour.

Ce n'est que ces derniers mois que la compréhension du public de la puissance de l'IA a considérablement augmenté, en raison de l'exposition aux réponses de l'IA via l'interface ChatGPT lancée par OpenAI. Cela a conduit à une prise de conscience massive du stade impressionnant auquel l'IA opère actuellement et des possibilités futures en évolution rapide avec l'IA.

Le lancement de chatGPT en novembre a été un "moment iPhone" pour la technologie de l'IA, dévoilant une expérience de chat fascinante qui semble si intelligente et humaine que l'intérêt du public et le taux d'adoption ont largement dépassé tous les meilleurs lancements technologiques du passé, atteignant plus d'un million d'utilisateurs en seulement cinq jours.

ChatGPT regroupe plusieurs années d'innovation ouverte sur les grands modèles de langage dans un ensemble diversifié d'entreprises et de chercheurs (aux côtés d'OpenAI), et ouvre la voie à une importante vague d'innovation dans l'intelligence artificielle au cours des prochaines années.

Le directeur technique de Presearch, Trey Grainger , est l'auteur du livre, AI-Powered Search , qu'il publie chapitre par chapitre depuis 2019, sur la façon de mettre en œuvre l'intelligence artificielle dans le contexte des expériences de recherche. Trey a passé des années en tant que vice-président directeur de l'ingénierie, puis directeur des algorithmes pour une société de recherche basée sur l'IA, développant les capacités de recherche et d'IA qui alimentent des centaines des plus grandes entreprises du monde. Il a également publié de nombreux livres, articles de revues et publications de recherche à l'intersection de la recherche et de l'IA. Trey est la personne idéale pour diriger le projet dans cette nouvelle ère de recherche.

Dans cet article, nous prévoyons de vous donner un aperçu de haut niveau de la façon dont nous utilisons actuellement l'IA, et comment l'IA jouera un rôle clé dans l'avenir du moteur de recherche décentralisé de Presearch.

Remarque : cet article est un aperçu de haut niveau. Presearch publiera bientôt une feuille de route et un livre blanc mis à jour approfondissant l'utilisation de l'IA par le projet.

Que sont les LLM et pourquoi est-ce important pour Presearch?

Presearch utilise actuellement le GPT-3 d'OpenAI pour alimenter notre prototype d'expérience de recherche d'IA qui a été déployé pour la première fois en version bêta fermée en décembre 2022. OpenAI travaille sur l'IA depuis sa création en 2015, mais a pivoté pour se concentrer sur les grands modèles de langage (LLM). après la sortie du fameux article "Attention is all you need" publié par Google. L'article propose une nouvelle architecture pour les modèles de langage appelée Transformer, qui utilise des mécanismes d'attention pour identifier des modèles dans le langage qui s'étendent sur plusieurs mots ou phrases. Les transformateurs sont formés à l'aide d'un apprentissage en profondeur sur de grands ensembles de données (le plus souvent du texte) pour apprendre à la fois les relations linguistiques et les relations conceptuelles présentes dans les ensembles de données.

Sur le plan architectural, les transformateurs consistent généralement en un encodeur - qui peut mapper du texte (ou d'autres entrées telles que des images ou de l'audio) dans des vecteurs de contexte numériques - et un décodeur , qui peut prendre ces vecteurs de contexte et les mapper en texte. Vous pouvez penser aux vecteurs de contexte ou aux intégrations, en tant que représentation numérique de la signification de l'entrée qui est comprise par le modèle de langage. Ainsi, le texte « elle est sortie pour marcher dans la rue » pourrait être encodé dans une intégration comme [0,12, 9,51, 6,42, … 0,32], et cette même intégration pourrait ensuite être décodée en un texte similaire comme « la fille a marché dehors et est descendue la rue". Si le texte sur lequel le modèle a été formé était multilingue, un texte ayant la même signification dans une langue différente correspondrait également à une intégration très similaire car il porte la même signification. Les transformateurs peuvent essentiellement apprendre la signification des mots et des phrases dans différents contextes, ainsi que les constructions linguistiques qui déterminent la façon dont les mots et les phrases sont combinés.

Cette architecture a été en mesure de surpasser les modèles précédents sur une variété de tâches, y compris la traduction automatique, la modélisation du langage et la réponse aux questions.

L'architecture Transformer est basée sur l'idée d'auto-attention, qui permet au modèle de s'occuper simultanément de différentes parties de l'entrée. Cela permet au modèle de capturer les dépendances à long terme dans l'entrée, ce qui est essentiel pour comprendre les relations complexes trouvées dans la langue utilisée dans un contexte potentiellement large. Le transformateur utilise également un mécanisme d'attention multi-têtes, qui permet au modèle de s'occuper de différentes parties de l'entrée en parallèle. Cela permet au modèle de capturer des relations plus complexes entre les mots.

Après avoir présenté Transformers au monde, Google a amélioré son moteur de recherche avec son modèle de langage BERT basé sur Transformer à partir de 2019, et de nombreux moteurs de recherche ont continué à améliorer et à exploiter ces types de modèles de langage au niveau de l'interprétation des requêtes et de la couche de classement. Depuis lors, l'architecture Transformer a permis le développement de modèles de langage plus grands (GPT-3 ou modèles open source comme Flan t5), qui peuvent capturer des relations plus complexes entre les mots et également générer des réponses convaincantes aux questions et aux instructions en utilisant les instructions comme invites, puis prédisent - mot par mot (ou plus précisément, jeton par jeton) - la réponse correcte en fonction du contexte d'entrée.

C'est le cœur de ce qui se cache derrière ChatGPT, qui a permis à OpenAI de créer un produit qui a captivé le monde.

Tirer parti de l'IA grâce à un index complètement décentralisé

Ce n'est un secret pour personne que l'objectif à long terme de Presearch est de créer un moteur de recherche complètement décentralisé. Un élément central de ceci est un index décentralisé de l'information mondiale. Bien qu'elle ne soit pas encore là, nous en concevons activement l'architecture et pensons que cette technologie révolutionnaire jouera un rôle clé dans la prochaine itération d'Internet.

La technologie de l'IA ne sera pas seulement placée au sommet de l'index en tant qu'expérience client, mais sera également utilisée activement pour partitionner et indexer les données, les stocker et les répliquer de manière appropriée, et acheminer les requêtes vers les partitions d'index appropriées. Alors que Presearch utilise actuellement OpenAI pour alimenter son expérience d'IA, cela sera finalement remplacé par des modèles ouverts que les meilleurs ingénieurs et data scientists du monde peuvent aider à construire, former et intégrer dans le cadre de la communauté Presearch.

Les modèles d'OpenAI ont été une grande valeur ajoutée pour Presearch, nous permettant d'accéder rapidement au marché avec une expérience d'IA très robuste, mais le réseau Presearch sera finalement alimenté par notre propre technologie d'IA, tirant parti des modèles open source intégrés profondément dans l'index décentralisé. . Presearch adopte une approche fondamentalement différente pour développer la technologie de l'IA, une approche décentralisée et ouverte, tirant parti de la puissance de la formation distribuée pour alimenter sa technologie d'IA.

La formation distribuée est une méthode de formation de modèles d'IA sur plusieurs machines simultanément. Cela permettra des temps de formation plus rapides sur une architecture décentralisée, conduisant à des modèles plus précis qui peuvent mieux comprendre le contexte autour des requêtes des utilisateurs et, finalement, fournir des résultats de recherche plus pertinents.

Presearch cherche également à tirer parti d'un index décentralisé à l'échelle mondiale, avec des intégrations de ces modèles d'IA entraînés profondément intégrés. Cela permettra des recherches plus rapides et plus précises en fournissant une compréhension plus approfondie des requêtes des utilisateurs, puis en limitant le nombre de nœuds nécessaires pour effectuer une recherche donnée. En tirant parti d'un index globalement décentralisé et partitionné sur la base d'incorporations basées sur l'IA, Presearch peut optimiser la vitesse des requêtes et maximiser les ressources du réseau, tout en fournissant simultanément les résultats les plus pertinents.

La combinaison d'une formation distribuée et d'un index globalement décentralisé permettra à Presearch de fournir un moteur de recherche véritablement décentralisé alimenté par les meilleurs modèles d'IA open source et créés par la communauté.

Les grands modèles de langage, bien que très populaires en ce moment, sont loin d'être les seules capacités d'IA courantes dans les moteurs de recherche. Presearch tirera parti de la formation distribuée pour le classement par apprentissage automatique (également appelé apprentissage du classement), des modèles d'amplification des signaux, de la génération de graphes de connaissances et de nombreuses autres techniques pour apprendre et générer des facteurs de classement améliorés. Cependant, les grands modèles de langage joueront un rôle essentiel dans l'interprétation et la synthèse des résultats de manière réfléchie et utile.

Presearch adopte une approche fondamentalement différente de celle d'OpenAI et d'autres moteurs de recherche en se concentrant sur la collaboration ouverte et la décentralisation. Ce que Bitcoin a fait pour la monnaie numérique, Presearch le fera pour l'accès aux informations du monde. Si vous souhaitez vous impliquer dans le projet, gérer un nœud décentralisé, nous aider à construire ou simplement en savoir plus, nous serions ravis de vous accueillir au sein de notre communauté !

Prérecherche sur Twitter

Nous avons créé un compte dédié pour partager nos progrès et nos idées sur l'intelligence artificielle. Suivez ici —https://twitter.com/PresearchAI

Si vous avez des questions, veuillez rejoindre l'un de nos liens communautaires ci-dessous

Exécutez un nœud :https://nodes.presearch.com
Enjeu de mot-clé :https://keywords.presearch.com
Site d'informations :https://presearch.io
Recherche avec Presearch :https://presearch.com

Chaînes communautaires :

Télégramme : t.me/Presearch
Twitter :https://twitter.com/presearchnews
Twitter de PresearchAI :https://twitter.com/PresearchAI
Youtube :https://www.youtube.com/c/Presearch/videos
Grondement :https://rumble.presearch.io
Discorde :https://discord.presearch.io
Esprits :https://www.minds.com/presearch
Reddit :https://www.reddit.com/r/Presearch/
Twitter (Communauté) :https://twitter.com/TeamPresearch
Télégramme (Actualité) : t.me/PresearchNews
Facebook :https://www.facebook.com/presearch.io
Email : [email protected]
Intéressé par un partenariat ? Envoyez-nous un e-mail à — [email protected]