ChatGPT や人工知能 (AI) が Google などのビッグテック検索エンジンに影響を与えるという話題が飛び交うなか、私たちはコミュニティ メンバーから、Presearch が AI をどのように活用するつもりなのかという質問を受けてきました。

私たちは機会を探り、Presearch が現在および将来どのように AI を使用するかについて議論するために、このブログ投稿を準備しました。

AI を活用した検索

検索エンジンは、長年にわたって機械学習 (ML) アルゴリズムに基づいて構築されてきた、AI 分野の先駆者です。検索対象となる大量のデータ、ユーザーの意図を示すクエリ入力、進行中のユーザー操作 (クリック、ページング、スクロールなど) からのリアルタイム フィードバックの可能性の組み合わせにより、AI を活用した検索エンジンは新しいデータやインタラクションから常に学習し、改善する能力。

AI は、毎日何十億もの人々の検索やソーシャル メディア エクスペリエンスを内部で強化しています。

OpenAI によって開始された ChatGPT インターフェイスを通じて AI の応答にさらされた結果、AI の力に対する一般の理解が劇的に高まったのは、ここ数カ月のことです。これにより、AI が現在動作している素晴らしい段階にあること、および AI による急速に進化する将来の可能性が広く認識されるようになりました。

11 月の chatGPT の発売は、AI テクノロジーにとって「iPhone の瞬間」であり、非常にインテリジェントで人間らしく感じられる魅力的なチャット エクスペリエンスを明らかにしたため、世間の関心と採用率は、過去に発売された最高のテクノロジーすべてをはるかに上回り、わずか 5 日間でユーザー数が 100 万人を超えました。

ChatGPT は、さまざまな企業や研究者 (OpenAI とともに) による大規模言語モデルに関する数年にわたるオープン イノベーションをパッケージ化しており、今後数年間にわたる人工知能における大きなイノベーションの波への道を切り開いています。

Presearch CTO のTrey Graingerは、検索エクスペリエンスのコンテキスト内で人工知能を実装する方法について、2019 年から章ごとに出版している書籍『AI-Powered Search 』の著者です。Trey は、AI を活用した検索会社でエンジニアリング担当上級副社長、その後最高アルゴリズム責任者として何年も過ごし、世界のトップ企業数百社を支える検索機能と AI 機能を構築しました。また、検索と AI の交差点に関する多数の書籍、雑誌記事、研究出版物も出版しています。Trey は、このプロジェクトをこの新しい検索時代に導くのに最適な人物です。

この記事では、現在 AI がどのように使用されているか、そして AI が今後 Presearch の分散型検索エンジンでどのように重要な役割を果たすかについての概要を説明する予定です。

注:この記事は概要を示したものです。Presearch は、プロジェクトでの AI の使用についてさらに深く掘り下げた最新のロードマップとホワイトペーパーを間もなくリリースする予定です。

LLM とは何ですか? なぜ Presearch にとって LLM が重要なのでしょうか?

Presearch は現在、OpenAI の GPT-3 を使用して、2022 年 12 月にクローズド ベータ版で初めて公開された AI 検索エクスペリエンスのプロトタイプを強化しています。OpenAI は 2015 年の設立以来 AI に取り組んできましたが、大規模言語モデル (LLM) に重点を置くことに方向転換しました。Google が公開した有名な「必要なのは注意だけだ」という記事のリリース後。この論文は、Transformer と呼ばれる言語モデルの新しいアーキテクチャを提案しました。これは、アテンション メカニズムを使用して、複数の単語または文にまたがる言語のパターンを識別します。トランスフォーマーは、大規模なデータセット (ほとんどの場合はテキスト) に対する深層学習を使用してトレーニングされ、データセット内に存在する言語的関係と概念的な関係の両方を学習します。

アーキテクチャ的には、トランスフォーマーは通常、テキスト (または画像や音声などの他の入力) を数値コンテキスト ベクトルにマッピングできるエンコーダーと、それらのコンテキスト ベクトルを取得してテキストにマッピングし直すことができるデコーダーで構成されます。コンテキスト ベクトル、または埋め込みについて考えることができます。、言語モデルによって理解される入力の意味の数値表現として。したがって、「彼女は通りを歩くために外に出た」というテキストは、[0.12, 9.51, 6.42, … 0.32] のような埋め込みにエンコードされる可能性があり、その同じ埋め込みは、「女の子は外を歩いて下へ歩いた」のような同様のテキストにデコードできます。ストリート"。モデルがトレーニングされたテキストが多言語である場合、別の言語で同じ意味を持つテキストも、同じ意味を持つため、非常によく似た埋め込みにマッピングされます。トランスフォーマーは基本的に、さまざまなコンテキスト内の単語とフレーズの両方の意味と、単語とフレーズがどのように組み合わされるかを決定する言語構造を学習できます。

このアーキテクチャは、機械翻訳、言語モデリング、質問応答などのさまざまなタスクにおいて、以前のモデルを上回るパフォーマンスを発揮することができました。

Transformer アーキテクチャは自己注意の概念に基づいており、これによりモデルは入力のさまざまな部分に同時に注意を払うことができます。これにより、モデルは入力内の長期的な依存関係を捉えることができます。これは、潜在的に大規模なコンテキスト全体で使用される言語に見られる複雑な関係を理解するために不可欠です。Transformer はマルチヘッド アテンション メカニズムも使用しており、これによりモデルは入力のさまざまな部分に並行して対応できます。これにより、モデルは単語間のより複雑な関係を捉えることができます。

Transformers を世界に導入した後、Google は 2019 年から Transformer ベースの BERT 言語モデルで検索エンジンを強化しました。多くの検索エンジンは、クエリ解釈とランキング層でこの種の言語モデルを改善し、活用し続けています。それ以来、Transformer アーキテクチャにより、より大規模な言語モデル (GPT-3、または Flan t5 などのオープン ソース モデル) の開発が可能になりました。これにより、単語間のより複雑な関係を捉えることができ、また、命令を次のように使用することで、質問や命令に対する説得力のある応答を生成することもできます。プロンプトを表示し、入力コンテキストに基づいて、単語ごと (より正確にはトークンごと) に正しい応答を予測します。

これは、OpenAI が世界を魅了する製品を構築できるようにした ChatGPT の背後にあるものの核心です。

完全分散型インデックスによる AI の活用

Presearch の長期的な目標が完全に分散型の検索エンジンを構築することであることは周知の事実です。この中核となるコンポーネントは、世界の情報の分散型インデックスです。まだ完成していませんが、私たちは積極的に構築中であり、この革新的なテクノロジーがインターネットの次のバージョンで重要な役割を果たすと信じています。

AI テクノロジーは、消費者エクスペリエンスとしてインデックスの上に置かれるだけでなく、データのパーティション化とインデックス付け、データの適切な保存と複製、適切なインデックス パーティションへのクエリのルーティングに積極的に使用されます。Presearch は現在、AI エクスペリエンスを強化するために OpenAI を使用していますが、これは最終的には、世界中の最高のエンジニアとデータ サイエンティストが Presearch コミュニティの一部として構築、トレーニング、統合を支援できるオープン モデルに置き換えられる予定です。

OpenAI のモデルは Presearch にとって大きな付加価値となっており、非常に堅牢な AI エクスペリエンスを迅速に市場に投入できるようになりますが、Presearch ネットワークは最終的には独自の AI テクノロジーを活用し、分散型インデックスに深く統合されたオープンソース モデルを活用します。 。Presearch は、AI テクノロジーの構築に根本的に異なるアプローチを採用しています。これは、分散トレーニングの力を活用して AI テクノロジーを強化する、分散型かつオープンなアプローチです。

分散トレーニングは、複数のマシンで AI モデルを同時にトレーニングする方法です。これにより、分散型アーキテクチャ全体でトレーニング時間が短縮され、ユーザーのクエリに関するコンテキストをより深く理解し、最終的にはより関連性の高い検索結果を提供できる、より正確なモデルが得られます。

Presearch は、こ​​れらのトレーニングされた AI モデルからの埋め込みを深く統合して、世界的に分散化されたインデックスを活用することも検討しています。これにより、ユーザーのクエリをより深く理解し、特定の検索の実行に必要なノードの数を制限できるため、より高速かつ正確な検索が可能になります。AI ベースの埋め込みに基づいてパーティション化されたグローバルに分散されたインデックスを活用することで、Presearch はクエリの速度を最適化し、ネットワーク リソースを最大化しながら、同時に最も関連性の高い結果を提供できます。

分散トレーニングとグローバルに分散されたインデックスを組み合わせることで、Presearch は最高のオープンソースおよびコミュニティが構築した AI モデルを活用した真の分散型検索エンジンを提供できるようになります。

大規模言語モデルは現在非常に人気がありますが、検索エンジンで一般的な唯一の AI 機能ではありません。Presearch では、機械学習によるランキング (ランク付けの学習とも呼ばれる) の分散トレーニング、シグナルブースティング モデル、ナレッジ グラフ生成、その他多くの技術を活用して、改善されたランキング係数を学習および生成します。ただし、大規模言語モデルは、思慮深く有用な方法で結果を解釈し要約する上で重要な役割を果たします。

Presearch は、オープンなコラボレーションと分散化に重点を置くことで、OpenAI や他の検索エンジンとは根本的に異なるアプローチを採用しています。ビットコインがデジタル通貨として実現したのと同じように、Presearch は世界の情報へのアクセスとして実現します。プロジェクトに参加したい、分散ノードを実行したい、構築を手伝ってほしい、または単に詳しく知りたいという方は、コミュニティの一員としてぜひ歓迎します。

PresearchAI Twitter

私たちは、人工知能に関する進捗状況と洞察を共有するための専用アカウントを作成しました。ここからフォローしてください —https://twitter.com/PresearchAI

ご質問がある場合は、以下のコミュニティ リンクのいずれかに参加してください。

ノードを実行します。https://nodes.presearch.com
キーワードステーク:https://keywords.presearch.com
情報サイト：https://presearch.io
事前検索で検索:https://presearch.com

コミュニティチャンネル:

電報: t.me/Presearch
Twitter :https://twitter.com/presearchnews
PresearchAI Twitter:https://twitter.com/PresearchAI
ユーチューブ：https://www.youtube.com/c/Presearch/videos
ランブル：https://rumble.presearch.io
ディスコード:https://discord.presearch.io
マインド:https://www.minds.com/presearch
レディット:https://www.reddit.com/r/Presearch/
ツイッター（コミュニティ）：https://twitter.com/TeamPresearch
テレグラム (ニュース) : t.me/PresearchNews
Facebook :https://www.facebook.com/presearch.io
電子メール: [email protected]
提携にご興味がありますか? 私たちに電子メールを送ってください—[email protected]