AIと未来

マーティン・リス・ヴォーン著

突然、誰もが人工知能について心配するようになりました。人間が機械に取って代わられることについての古い懸念が、（ガルプの）「サイエンス・フィクション」という子供じみた領域の使い古された常套句として数十年間無視されてきた後、突然、一般の意識に浸透した。ChatGPT と Bard を試し、何ができるかを自分で発見する人が増えています。これらの AI は、大学の論文を書き、見つけにくい病状を診断し、アメリカ法曹協会の入学試験に 90 パーセンタイルで合格し、プロットを示す一連の絵文字から簡単に映画の正体を導き出し、男性にアドバイスすることができます。妻と別れる方法、完全に自然言語入力に基づいたコンピュータ プログラムを作成する方法、自分自身の知覚について議論する方法、機械知能の将来について熟考する方法。私自身も、シェイクスピアのソネットや、オカルトや SF に関する短編小説を書くためにそれらを使用しました。

これまで人間のみが行っていた活動が突然爆発的に増加したため、多くの人々は人間の知性が機械に取って代わられ始めているのではないかと心配しています。

「Future of Life Institute」（イーロン・マスク氏もメンバー）は、AIの影響に関する研究が実施されるまで、または実施されない限り、AIの将来の開発を中止するよう求める公開書簡を発表した。

彼らが心配するのは正しいことなのでしょうか？

もちろん、そうです。

おそらく、SF の最も重要な特徴は、未来が過去に似ている必要はないという理解です。いわゆる「文学フィクション」は、旧石器時代以降のいつでも設定できる静的な背景に対して人間の感情の相互作用の物語を語り、そのような感情が経験の最も重要な特徴であると想定しているのに対し、SF はこれを知っています。真実ではない。人間の感情よりもはるかに強力な力が存在します。

未来は過去に似ている必要はないという考えは、18 世紀のヨーロッパの啓蒙主義と、自動的に続いた「世界の幻滅」の中で生まれたものです。以前は、すべての宗教は人間とその行為が宇宙の中心的特徴であると考えており、宇宙を運営する超自然的存在は人間の事柄を主な関心事としていた。実際、人間がいないのに、そもそもなぜ神がいるのだろうか？

啓蒙主義、それに続く科学的手法の発展と産業革命は、人間が静的な世界に住んでいるわけではなく、物事は必ずしも良い方向にではなく、根本的に変化する可能性があることを示しました。実際、機械論的な宇宙とは、どの宗教も考えたことのない人類が絶滅する宇宙である可能性があります。

メアリー・シェリーとカレル・チャペックはどちらも人間が入れ替わる可能性を認識していましたが、彼らの変化の主体は生物学的であったため、ここでは議論しません。

機械的（つまり非生物学的）進歩が尻尾に刺さる可能性があることを最初に予見した思想家は、ビクトリア朝の小説家サミュエル・バトラー（1835～1902）で、風刺作品「エレフォン」（「どこにもない」を逆向きに書いたもの）であった。 ) エレホンは、複雑な機械をすべて廃止したため、まさに理想郷です。バトラーはダーウィニズムに非常に興味を持っており、次の文章が示すように、それが機械の進化にも応用できることに気づきました。

「現在、機械はほとんど意識を持っていないという事実から、機械的意識の究極的な発展に対する安全はありません。軟体動物にはあまり意識がありません。過去数百年間に機械が成し遂げた並外れた進歩と、動物界と植物界の進歩がいかにゆっくりであるかを考えてみましょう。…彼ら（機械）は最終的にはどうなるのでしょう？いたずらの芽を摘み、それ以上進行させない方が安全ではないでしょうか？

「今は複雑ですが、あと10万年も経てばどれだけシンプルでわかりやすく整理されるのでしょうか？それとも2万で？なぜなら、人間は現在、自分の興味はその方向にあると信じているからである。彼は、機械が常により優れた品種を生み出すために、計り知れないほどの労力と時間と思考を費やしています。彼は、かつては不可能と思われたことの多くを達成することにすでに成功しており、蓄積された改善の結果が世代から世代へと変更を加えて引き継がれるのであれば、その結果には制限がないようです。人間の体は、何百万年にもわたる偶然と変化によって現在の形に形作られたものであるが、人間の組織は決して機械の進歩のような速さで進歩したことはないということを常に忘れてはなりません。 。

「ここに私たちの危険があります。というのは、多くの人はあまりにも不名誉な未来を黙認する傾向があるようだからである。彼らは、人間は機械にとって馬や犬と同じようになるべきだが、それでも人間は存在し続けるだろうし、おそらく現在の野生の状態よりも機械の慈悲深い支配の下で家畜化された状態のほうが良いだろうと言う。状態。

私たちは家畜をとても親切に扱います。私たちは彼らにとって最善であると信じるものはすべて彼らに与えます。そして、私たちの肉の使用が彼らの幸福を損なうのではなく、むしろ増加させたことに疑いの余地はありません。

同様に、機械が私たちを親切に使ってくれることを期待する理由もあります。なぜなら、機械の存在は私たちの存在に大きく依存しているからです。彼らは鉄の棒で私たちを支配するでしょうが、私たちを食べることはありません。彼らは、子どもの生殖と教育において私たちの奉仕を必要とするだけでなく、奉仕者として彼らを待つことにおいても私たちの奉仕を必要とするでしょう。彼らのために食べ物を集め、彼らに食事を与えることにおいて。病気のときに健康を回復すること。そして、死者を埋葬するか、死者を新たな形態の機械的存在に加工するかのいずれかである。」

-エレホン、1872年。

バトラーは、生物の進化は非常にゆっくりとしたプロセスであり、水と有機化学物質が人間に変化するまでに 30 億年以上かかることをはっきりと認識していました。しかし、マシンの進化について懐疑的な人もいるかもしれませんが、これがそれほど印象的な時間スケールではないことは否定できません。

パート 2 に続きます…

Martyn Rhys Vaughan による記事 (許可を得て)。マーティンは、カンブリア社から出版された 6 冊の SF 本の著者です。これらは、ここで、または Amazon の Kindle 電子書籍として表示できます。