人工知能の夜明け: AI 革命に対する準備ができていない可能性があることを歴史が示していること

「世界が AI の安全性と制御に大規模かつ緊急に投資することが不可欠です。」

これは、Google で「AI のゴッドファーザー」と呼ばれることが多い、認知心理学者でコンピューター科学者のジェフリー ヒントンの言葉です。

イーロン・マスク氏やスティーブ・ウォズニアック氏を含むテクノロジー業界のリーダーや専門家1,100人以上が、AIの進歩に対する6カ月間の禁止を求める公開書簡に署名しているため、人工知能が人類の実存的脅威となる可能性があるとの懸念を表明しているのはヒントン氏だけではない。強固なガバナンスが導入されるまでシステムを強化する必要があります。

こうした取り組みが開発の具体的な一時停止につながる可能性は低いが、歴史が私たちに何かを教えているとすれば、この分野のトップが懸念を表明しているとき、人類は少なくとも立ち止まって耳を傾けるべきだということだ。

AI は革新的で将来を見据えた影響を及ぼしますが、おそらく歴史のレンズを通して見ることで、人工知能が社会に与える可能性のある影響をより深く理解し、今後の事態に対する備えができているかどうかを判断できるようになります。

現在、AI はどこにでも存在するか、少なくとも AI に関するニュースが存在するように見えます。ChatGPTは最もよく知られた消費者向けプラットフォームですが、テキスト、コード、音声、ビデオ、画像にわたる多数のアプリケーションがあり、コピーライティング、コード、アート生成、検索、インテリジェンス、モデルファインなどのタスクでほぼすべての業界に影響を与えています。-チューニングはますます正確になり、人間のほぼレベルの創造性をわずかな時間で模倣します。AI はあらゆる業界だけでなく、私たちの働き方にも変革をもたらすでしょう。

AI はすでに司法試験でほとんどのロースクールの学生を上回り、医師免許試験に合格しており、偽のバイラルトラックで世界 2 大アーティストのリズムと表現を反映させたとき、音楽業界をスパイラルに陥らせました。

もちろん、これは司法試験が法律の実践からいかに遠いかを強調するだけであり、医学生が患者を治療する資格を得る前に研修が必要である理由を強調するだけであり、AI はドレークとドレークの両方を模倣することができるが、ザ・ウィークエンドを演奏するためには、人間の創造力が歌詞を書く必要がまだあります。これらの議論は適切ではありますが、この新しいテクノロジーに伴う固有のリスクを私たちが完全に理解しているかどうかという疑問は残ります。結局のところ、ほとんどのリスク管理慣行で規定されているように、問題として特定することさえできないものを軽減することはできません。私たちは十分すぎるほどの準備ができていると主張する人もいるかもしれませんが、過去を振り返ってみるとそうではないことがわかるかもしれません。

歴史的背景に関しては、現在の AI 移行と産業革命との間でいくつかの比較が行われています。あるレベルでは、この比較は当てはまります。産業革命中に労働力と生産が職人や専門技能労働者から工場ベースの生産へと移行したことで、より大きな規模の経済が可能になりました。それは、すでに AI が業界を超えた無数の手動プロセスの自動化と高速化に役立っているのと同じです。産業時代の経済移行は、AI が子育て、教育、仕事に対する私たちのアプローチを変えると予測されているのと同じように、定住と家族生活のパターンを再構築することに加えて、労働に関する要件と需要も変化させました。

ただし、ここで比較が輝きを失い始める可能性があります。

産業革命により肉体労働に関する多くの要件が取り除かれましたが、初期の想定に反して、生成 AI モデルは創造的で認知的な知識作業の合理化と自動化においてはるかに優れています。したがって、AI 革命の影響と影響ははるかに広範囲に及び、予期せぬ結果が生じる可能性もあることから、より適切な比較を模索することになります。

驚くべきことに、新技術の出現によって起こるであろう地殻変動を人類がどのように予測できなかったかを示す関連例を見つけるために、はるか昔に遡る必要はありません。

まず、今日私たちが当たり前だと思っているもの、つまりインターネットについて調べてみましょう。

インターネットの発明者は 1 人ではありませんが、1960 年代にメインフレーム コンピュータに同時にアクセスする必要があった研究者の軍隊や、最初のユーザーフレンドリーなWeb ブラウザを作成したマーク アンドリーセンとエリック ビナ、あるいはドットコムバブル以前の時代の電子商取引の伝道者たちは、インターネットが情報共有や商取引の場を超えて、まさに全世界の中枢神経系に似るようになることを予見できただろう。彼らは、 Web 1.0 、 Web 2.0、Web 3.0の進化に伴うサービス、業界、ユースケースのすべてを完全に予測することはできないでしょう。、そしてその過程で起こった意図しない文化的および社会的変化のすべて。

しかし、最も関連性のある歴史的比較であり、私たちの先見性の欠如を示すのはソーシャル ネットワークです。Twitter の創設者であるジャック ドーシーは、自分の最初のツイート、ひいては彼が作成した製品を「取るに足らない情報の短いバースト」、つまり全世界を結び、ユーザーがどこにいても十分にシンプルなライブ テキスト メッセージング サービスであると説明しました。長く考える必要はない、とツイートされました。今日の状況で「あまり考えずに」ツイートすることを想像できますか? これは、ゆっくりと私たちの市民的議論の中心的な舞台へと変貌しつつあるプラットフォームの現状とは大きくかけ離れているように思えます。ほとんどのアメリカ人にとって、Twitter はニュースや時事問題をより深く理解するために選択するプラットフォームとなっています一方、政治家、ブランド、有名人にとって、これは聴衆へのメッセージを拡大するためのメガホンであり、そのうち 2 億 3,780 万人が収益化可能です。政治的時代精神に関する研究と逸話的観察はいずれも、ドナルド・トランプ元大統領が繰り返し実証したように、このプラットフォームが選挙キャンペーンを実施するためだけでなく、外交政策を指示する手段としても力を持っていたことを指摘している。Twitter が決して意図されていなかったものへと進化するにつれて、検閲とコンテンツ管理ポリシーに関して多くの論争の対象となり、最終的にジャック・ドーシーは次のように述べました。

「当時、私たちは上場企業のビジネスにとっては正しいことをしましたが、インターネットと社会にとっては間違ったことをしていました。」

しかし、ソーシャル ネットワークがより大きなものに変化し、意図せずして社会に予期せぬ結果をもたらした例は Twitter だけではありません。

Facebook の初期の 10 年間、マーク ザッカーバーグはプラットフォームがどのようなものに成長するかについての定義を進化させてきましたが、一貫した北極星としての目標が 1 つ残っていました。それは、世界を一つにまとめ、友人や愛する人たちを結び付けながら、ユーザーが自分にとって重要なことを共有できるようにすることです。彼ら。当時は、ターゲットを絞った政治広告のデータ収集、ユーザーの極度に二極化した一部を生み出したアルゴリズム、クリックベイト広告の蔓延、ユーザーのプライバシーに関する議会公聴会が行われていました。プラットフォームの将来とそれが社会に与える影響を考えると、誰のビンゴカードにも載らないでしょう。写真共有アプリケーションとして知られていた Instagram でさえ、時間の経過とともに、プラトンですら「洞窟の寓話」を再考させるほどの超現実へと変貌し、同時に TikTok とともに注意力持続時間の減少と社会的関心の低下に貢献しています。メンタルヘルス問題の流入。

では、これらの比較は AI とどのように関係するのでしょうか? もちろん、明らかな違いはあります。AI は私たちの働き方や生活方法を変えることを目的としているのに対し、ソーシャル ネットワークは主に私たちのコミュニケーション方法に影響を与えているからです。これらのソーシャル プラットフォームは、その複雑さにもかかわらず、特に人工知能によってもたらされるアプリケーションの可能性を最大限に発揮することに比べれば、比較的シンプルでもあります。

しかし、そのシンプルさにも関わらず、ソーシャル ネットワークは私たちの生活様式に予期せぬ大規模な変化をもたらしましたが、必ずしも良い方向に向かうとは限りません。社会的には、その管理と規制のための適切なアプローチを見つけるのにまだ苦労しており、すでに被害が発生して初めて努力と警戒が高まっています。

ソーシャルメディアのような単純なもののリスク管理や緊急時対応計画に苦労したことがあるのに、人工知能のように進化し高度なものの潜在的な影響をすべて特定し、軽減する十分な準備ができているとなぜ考えられるのでしょうか? ナシーム・ニコラス・タレブの言葉を借りれば

「専門家の問題は、自分たちが何を知らないのかが分からないことだ」

多くのSF 映画やホラー物語の主題となっている、自己学習システムと機能を備えた一般的な人工知能は、まだすぐには実現できません。しかし、それは、今後の変化の規模と、現在の AI の進歩と業界を超えた導入によって人類に起こる永続的な変化に対して、私たちが十分に備えていることを意味するものではありません。

私は警戒主義者になることを信じたことは一度もありませんが（空虚な不安は何の役にも立ちません）、新興テクノロジーによる社会的影響の全容を理解し、予測するという私たちの実績が乏しいことを考えると、おそらく私たちが専門家の意見に耳を傾け、真の意味での判断を下す時期に来ているのかもしれません。潜在的なリスクとそれを軽減する方法についての会話はありますか？結局のところ、人工知能の性質を考えると、損害が発生した後に、私たちが通常行っているようにこのような議論を行うことは、私たちが思っているよりも悲惨な結果をもたらす可能性があります。