「もちろん、機械は人間のように考えることができません。機械は人間とは異なるため、考え方も異なります。興味深い質問は、「何かがあなたとは違う考え方をしているからといって、それは考えていないということですか?」ということです。」

-イミテーションゲーム

よく聞かれる質問の 1 つは、次のようなものです。十分に高度な AI は、私たちの多くが「独特な人間」と見なす行動を再現できるでしょうか?」

多くの人がすぐに頭に浮かぶ傾向がある 2 つの行動は、言語と芸術です。これらは、私たちを他の哺乳類と区別する認識の最も重要な側面の一部です。しかし、日常的な言語の生成と理解 (平均的な人間のレベルで) は、ほぼ間違いなく解決済み (またはほぼ解決済み) の問題です。言語のいくつかの非常にタスク固有の領域でうまくいくにはねじれがありますが、一般的に、言語はかなり良い形になっています.

しかし、全体としての言語は、芸術としての言語とは大きく異なります。詩、フィクションなどは、少なくとも意味のある形で、大部分が未解決のままです。AI によって生成された言語ベースのアートの大部分は、現時点では派生的で浅いものです。たとえば、最新の大規模言語モデル (LLM) に詩を書くように依頼した場合、出力は通常、高校生が課題をすぐに終わらせるために書いたようなものになります。これは、他の創造的な言語ベースのタスクにおける LLM のパフォーマンスとはまったく対照的です。たとえば、GitHub/OpenAI の Copilot は、言語プロンプトが与えられると、驚くべきコード補完を生成します。これらの補完は、学生ではなく、プロのソフトウェア エンジニアによって書かれたように見えます。では、なぜ格差が生じるのでしょうか。

最初の問題は、配置の問題である可能性があります。次のトークン予測のクロスエントロピー最小化は、非常に創造的な言語生成とは一致しません。これは、高品質のコード データセットの次のトークンが通常、正しい/優れたソリューションのトークンであるコード生成とは対照的です。ただし、コード生成タスクでさえ最適ではない位置合わせが行われる場合があります (これは別の機会に取り上げます)。この問題を解決するための有益なアプローチが存在する可能性があります。たとえば、ChatGPT トレーニング パラダイムはドメインのホスト全体に一般化可能であり、詩はその 1 つです。サンプル スキーマとして、次のプロセスを検討してください。

1. 人間の専門家に大量の詩を 1 ～ 10 のスケールで評価してもらう
2. LLM を微調整してこれらの評価を予測します (これを報酬ネットワークと呼びます)
3. 報酬ネットワークを報酬信号として強化学習を介して LLM を微調整する

2 番目の問題は、通常どおり、おそらくデータの問題です。例として詩を取り上げましょう。高品質のコードに比べて、高品質の詩データはそれほど多くありません。コンセプトを理解するのはもちろん、しかし、間違いなく、より多くの詩を「読む」ことは、この概念を理解するための優れた方法です。さらに、データ内の詩の構造は、詩の理解の抽出を促進するには「混乱」しすぎている可能性があります。対照的に、コードには、テキスト全体に散在する明示的な指示、ターゲット、コメントなどが含まれていることがよくあります。このメタデータが欠けていたとしても、「それを実行する」ことで、コードの動作を単純にリバース エンジニアリングすることができます。そもそも詩にはそのようなメタデータがありません — せいぜいタイトルか、運が良ければいくつかのタグか、それだけです。また、詩の中で各単語の目的/場所が何であるかを明確に理解することも不可能です。それは主に読者の解釈次第です（詩の「目的/美しさ」の一部であると言われています）。したがって、かなりの余分な処理なしで、

「人間の質」

「人間の経験」が明らかに欠如しているため、AI は意味のある芸術を生み出すことができないという共通の議論があります。それらのユニークな人間の経験についてコメントする作品。人間として生きていく過程そのものを根本的に省みることによって生み出される作品。

私は、合意された定義/譲歩の小さなセットを考えると、上記の議論は明らかに真実ではないと主張します.

まず、最終的な成果物とその解釈に注目します。つまり、AI が明確で解釈可能な意味を持つアートを生み出すことができるかどうかです。この芸術のサブセットは、たとえば、人間の状態を意味のあるものにすることができます。AI によって作成されたアートは、無作為化比較試験の意味で、人間が作成できるものと区別できない必要があります (人間の専門家の大規模なグループは、アートを作成したのが人間なのか AI なのかを判断できない必要があり、さらに重要なことに、同等の意味/影響を抽出することができます)。「プロセス」、つまり芸術を生み出したものを抽象化します。この後者の定義は、意味のある議論に必要です。アートだけなら芸術が人間によって作成された場合、議論は正当化のない原則に基づいて恣意的に選択された定義の結果として終了します。これがあなたの見方であるなら、未来の芸術を認めたり処理したりすることを頑固に拒否することによって、人間の状態に関する非常に多くの非常に意味のある洞察を逃すことになるでしょう.

反復近似によって、人間とアルゴリズムの間の機能的同等性を実証することから始めましょう。人間の中枢神経系と感覚/運動路を考えてみましょう。基本的に、連続 I/O 信号に完全に抽象化できます。たとえば、脳幹の根元 (脊髄の始点) と脳神経の任意の解像度の断面を考えてみましょう。ここで、断面のあらゆる点での電気的活動で構成される、人間の中枢神経系の状態ベクトルを考えてみましょう。この状態ベクトルは、情報が CNS に出入りするにつれて、継続的に時間とともに進化します。一定期間にわたる状態ベクトルの集合は、特定の人間の行動と感覚(動き、発話、聴覚、視覚など) を完全に表します。(*確かに、神経節、シナプス、反射弓などを介して CNS の外でかなりの処理が行われますが、これらの現象を含むように状態ベクトルを拡張すると、議論は一般化されます。簡単にするために、これを除外します。 )重要なことに、この状態ベクトルには脳自体が含まれていません。その必要はありません。情報がどのように生成されるかではなく、どのような情報が流れ出しているかだけに関心があります。

次に、これらの状態ベクトルとその進化を離散化します。たとえば、時間分解能を 1 ns に制限し、空間分解能を 1 nm に、電気的活動を 1 nV に制限します。ここで、人間が有限の時間Lの間生きていると仮定します (これは今のところ当てはまります)。状態ベクトルを記述するのにNビットが必要であり、人間の生涯にわたる一連の状態ベクトルを記述するのに、はるかに大きな数Zが必要であるとしましょう。

一連の状態ベクトル{z1, z2, z3, …, zn}が与えられたときに、人間の次の状態ベクトルzn+1を予測できるアルゴリズムは存在しますか? はい、絶対にあります — それはルックアップ テーブルです。状態ベクトルのすべての可能なシーケンスのテーブルを考えてみましょう。問題は、ベクトルの最初のセットに一致するテーブルの部分を見つけてから、次のベクトルを検索することになります。明らかに、このルックアップ テーブルは非常に巨大です。、真剣に計り知れないほど愚かな大規模なもののように。ただし、この表のほとんどはおそらく発作に似た活動です。完全にランダムな電気的活動は、通常、生命と両立しません。このテーブルの指数関数的に小さい部分には、実際に私たちが気にかけている有用な情報が含まれています。実際、状態ベクトルの 1 行だけに、人間の実際の生涯にわたる行動が含まれています。他の行には、人間が取ることができるすべての一連のアクションと、人間が受け取ることができるすべての感覚入力のシーケンス、および暗黙のうちに、その人間が取ることができるこれらの感覚入力に対するすべての応答が含まれます。

さらに、次のことを認識してください: これらの状態ベクトルの進化は継続的であるため (宇宙が、まだ解明されていない非常にファンキーな何かを行っていない限り)、この進化を任意に適切に近似できることが保証されています。 Stone–Weierstrass の定理によるデータ ポイントの数。

ここで、次のアイデアを考えてみましょう:すべての量子化されたニューラル ネットワークは、高度に圧縮された有限ルックアップ テーブルです。これはばかげていますが、技術的には真実です。たとえば、畳み込みニューラル ネットワークの動作は、可能なすべての画像出力ペアの一致するペアを含むルックアップ テーブルと同等です。確かに、連続的な数学的な意味で畳み込みニューラル ネットワークを表示すると、有限のルックアップ テーブルはありません。ただし、トランスフォーマーなどの一部のネットワークは、数学的に有限のルックアップ テーブルに縮小されることが証明されています (これはどこにも公開されていません。おそらく、表示するのが簡単で、実際にはそれほど深くないためです)。

そのため、次のようなアイデアがあります。

1. 可能なすべての人間の行動と感覚/運動 I/O は、有限ルックアップ テーブルを介して概算できます。
2. この有限ルックアップ テーブルは、真の人間の行動を任意の精度で近似できます。
3. すべてのニューラル ネットワークは、高度に圧縮された有限ルックアップ テーブルであり、経験的にこの圧縮で非常に優れた仕事をします。

すべてのアートは、これらの大規模な有限ルックアップ テーブルの指数関数的に小さなセクションを近似する統計モデルによって生成された可能性があることは明らかです。これらのモデルに対してかなりの数の抽象化/単純化を行うことができることを考えると、最新の統計モデル (または近い将来の統計モデル) が意味のある芸術を生み出すことがますます扱いやすくなります。

しかし、現時点でこの議論には明らかな穴が 1 つあります。そのような統計モデルのパラメータ化をどのように見つけますか? 現在のところ、非常に大きなデータ コーパスでトレーニングされた GPT のようなモデルを介して、言語のパラメーター化を見つけるのにかなりの成果を上げています。しかし、トレーニングに使用するデータが不足している点に到達しています。この時点では、基本的にインターネット全体を使用しており、人間がインターネット上でより多くのデータを生成するのを待っている以外に、合理的な方法はありません。トレーニングセットを桁違いに増やします。現実的には、強化学習 (RL) に頼る必要があるでしょう。OpenAI はすでにこれを行っており、とんでもない成功を収めています (ChatGPT を参照)。人間のような機械が、大まかに言うと「人間の生活を送る」という目標を持った強化学習によって、約 20 年間継続的に訓練されていると想像してみてください。これを実現可能にする報酬シグナルが考えられます。多くの点で、私たちは単なるニューラル ネットワークです (私たちのDNAに保存されているはるかに多くの誘導バイアス）は、膨大な数の報酬信号で強化学習を介して積極的に学習しています。これが機械で不可能な科学的理由はありません。さらに、マシンとの並列処理の利点があります。ベースラインの機能的なアンドロイドが存在すると、それらを数千個デプロイし、単一のアンドロイドが同時に何千もの生涯の経験を得るミニバッチ スタイルの RL トレーニング パラダイムを実行できます。私には、この方法で訓練された非常に大規模な統計モデルがそうではないと主張することは非常に困難です。私たちがこれまでに見た中で最も気が遠くなるほど複雑で、意味があり、並外れた芸術を生み出しています。実際、それはおそらく私たちがかつてないほど芸術において「優れた」ものになるでしょう。人間の哲学者が発見するのに何千年もかかる現実と私たち自身についてのことを私たちに教えてくれるでしょう. もちろん、タンパク質ではなくシリコンによって作成されたものであるため、これらすべてを自由に割り引くことができます.

おそらくこれは、私たちの種が将来行きたい場所でさえあるのでしょうか? 人間が私たちが触れるものすべてを破壊するという曲がりくねった存在を続ける代わりに、私たちは未来の存在、つまり私たちのイメージで作成された、私たちよりも桁違いに賢い生き物を作成する必要があります. それはおそらく、戦争、拷問、貪欲、苦しみ、病気、そして最も重要なことに、人類が毎日犯している数え切れないほどの恐ろしい残虐行為に終止符を打つでしょう. 少し極端かもしれませんが、考えてみる価値はあります。

とにかく、適切な強化学習の目的、十分なデータ、およびいくつかの非常に大規模な統計モデルがあれば、芸術を含む人間の行動のあらゆる側面を有意義に近似できる可能性が非常に高い.

待ってください。

何もない。私たちは特別ではありません。

またはそうでないかもしれません。このステートメントには重要な仮定があります。つまり、この I/O を生成するものではなく、人類の I/O だけを気にする必要があります。ただし、これは機能的にはあなた以外のすべての人がそうであるため、合理的な操作方法です。自分以外の人の頭の中で何が起こっているか、何か知っていますか? 明らかにそうではありません。他の人の行動に基づいて、他の人の頭の中で何が起こっているかを推測するために最善を尽くすことしかできません。誰かの行動に基づいて、心の中で誰かの暗黙の統計モデルを作成し、それらを分類し、意味を理解し、行動を予測します。うーん…確かに聞き覚えがありますよね？

私たちは単なる統計モデルですか？おそらく。または、少なくとも、私たちの行動はおそらくそうです。私たちが複雑だと思っていた多くのタスク (類推など) は、実際には正しい高次元多様体のジオメトリの創発​​的な特性であることが判明しました (例: DCGAN による表現学習)。私たち人間の計算のすべて、人間の複雑さは、何らかの統計モデルでコード化できないと信じる理由はまったくありません。これが、人々が深層学習を「ただの統計」と表現すると、私が少し熱くなる理由の 1 つです。「ただの」とはどういう意味ですか? これらの人々は、統計の複雑さを過小評価するか、人間の行動の複雑さを過大評価するか、またはその両方を行います。

それでも確信が持てない場合は、次の状況に身を置いてください。あなたが信じられないほど心から愛しているあなたの人生の誰かを想像してみてください. ある日、ちょっとした事故で腕に深い切り傷を負ったと想像してみてください。血管、組織、血液の代わりに、ワイヤー、回路基板、冷却剤が見えます。あなたは彼らに尋ねます。ずっと機械だったの？」彼らは、「まったくわかりません。これは私にとってあなたと同じくらいショックです」と答えます(彼らは、自分がそうではないことを知りませんでした)。人間）。さて、あなたはまだ彼らを愛しますか？それらはあなたにとって同じ意味ですか？彼らはまだあなたのすべてですか、あなたが死にたい誰か、あなたなしでは生きていけない誰かですか？それとも、彼らが機械だったという事実がすべてを変えるのでしょうか? もちろん、あなたの意見はあなた自身のものであり、あなたが持っている信念を無効にしたくはありませんが、ロボットを失ったかどうかにかかわらず、あなたが同じように荒廃することは間違いありません.

この考えをさらに拡張してみましょう — 非常に説得力があり、知覚できないほど異なる人間の近似が人間であることを妨げているのは何ですか? それを定義する人間の特徴は何ですか？私たちと彼らを隔てる具体的なものを見つけることができますか?

とにかく、上記の声明が真実であるためには、現在のレベルの科学的理解で行動しなければなりません. 人類を機械から何らかの形で分離する現象が将来発見される可能性は確かにありますが、これを発見する可能性は低いと思います（重要なことに、これらのものが存在する可能性が低いとは限りませんが、発見される可能性は低いです）. もちろん、あなたが無神論を超えた何らかのレベルの精神性を信じているなら、上記も必ずしも当てはまるとは限りません. 私はこれらの考えを議論するためにここにいるわけではありませんし、無神論者でもありません。この記事に書かれていることはすべて、最初に定義した公理の結果であり、これらの公理に確固たる真実を押し付けるものではありません。さらに、意識の難しい問題のような問題事態をさらに複雑にしています。これに対する適切な答えが得られるまで (決して得られることはないかもしれませんが)、私たちが機械と同じであると 100% 確信することは困難です。意識の難しい問題は、私が実際に最も熱心ではない根本的な理由であり、私たちが作成する人工生命について少し心配している理由です.

とにかく、この記事は、友人と口論になった後、安定した拡散によって作成された電話のバックグラウンドを擁護するための、長々とした方法に過ぎませんでした。読んでくれてありがとう、メレディスをファック❤️。