私たちの現実の境​​界を強調する人為的な技術の罠。

第 5 次産業革命が到来しました。

AI フライホイールは、私たちの仕事、学習、対話の方法を変えています。この自己実現的予言では、私たちはコントロールを失い始めているようです。AI ソフトウェアを使い続けるほど、AI ソフトウェアはより良くなります。良くなればなるほど、私たちはそれをもっと使います。

このテクノロジーは定着しており、創造性、知識、その他の人間の属性を再考する必要があります。

この記事では、現在の AI Zeitgeist の疑問を探りたいと思います。明日のクリエイティブな世界は今日とどう違うのでしょうか? AI によって生成されたオブジェクトに価値はありますか? 未来をよりよく理解するために、過去から何を学べるでしょうか。そして、私たちの産業の未来はどのように見えるでしょうか?

「アプリオリな偽物」インターネットとその結果から「無限の情報ループ」まで: 以下は、今日の創造的な機械について私たちが尋ねている質問が新しいものではなく、答えが変わった理由を調べたものです.

「アプリオリな偽物」

World Wide Web は私たちに知識の爆発をもたらしましたが、それには極度の責任が伴いました。そのため、新しい脅威と危険を学び、理解する必要がありました。

AIが生成する情報についても同じことが言えます。新しい AI を活用したツールの助けを借りて、意味のあるメディアを瞬く間に大量生産できるようになりました。すべてを理解するには、新しい原則を学ぶ必要があります。

2022 年以前は、「インターネット上で目にするものすべてを信頼する」ことはできないということを学ぶ必要がありました。将来的には、「本物であることが証明されない限り、何も信用しない」ことを学ばなければなりません。

私はこの新しいパラダイムを「アプリオリなフェイク」と呼んでいます。

「アプリオリな偽物」とは、現実世界の人間のようなコンテンツを生成する機械の能力が高まっているため、そうでないと証明されない限り、すべてのメディアが潜在的に偽物であると想定しなければならない状態です。

「フェイク」、危険で虚偽のコンテンツは、長い間どのメディアにも存在していました。実際、この言葉は、人工的に美化されたものを表すために使用された18世紀にまでさかのぼると推定されています. 今日、私たちはあらゆる種類の不気味または真実でないコンテンツ (たとえば、ディープフェイク、3D レンダリング、フォトリアリスティックな描画、音声生成など) を説明するためにこの言葉を使用していますが、核となる言葉の意味は同じままです。偽物は媒体にとらわれない: あらゆる形式のメディア (テキスト、ビデオ、写真、音声など) には、偽物または人工的なコンテンツが含まれる可能性があります。

最新の AI アルゴリズムが登場する前は、偽の画像、ビデオ、またはサウンドを作成することは、平均的なジョーにとって非常に困難でした。これは 2022 年に変更されました。このようなメディアが作成され、組み合わせることもできる頻度 (たとえば、ビデオ + サウンド) は、私たちの多くを信じられないままにしました。現在、マシンはほとんどすべての種類のデジタル コンテンツをコピーおよび作成し、特別に設計されたソフトウェア パイプラインを介して自動的にインターネットにアップロードできます。

この新しい情報のあられの嵐の中で、「本当の」情報のソースを特定するための新しいマップだけでなく、実際に重要なソースに導くための新しい羅針盤も必要です。

言い換えれば、新しいメンタルモデルが必要です。

新しい信念を形成するために自分自身を更新することは、困難でやりがいのあることです。データ ソース、これらのモデルのトレーニング、著作権などに関する最近の公開討論をフォローしたり、参加したりした人は誰でも、AI 以前の時代のルール、法律、アイデアの多くが時代遅れであり、時代遅れになっていることに気付くでしょう。無関係。

これらの現在の議論には、大きく 2 つの陣営があります。機械を支持し、技術の進歩を止めることはできないと主張する陣営 (彼らを「テクノの弟子」と呼びましょう) と、創造的な AI は既存の法律を破り、人間の主権を侵害すると主張する陣営です。あらゆる犠牲を払って保護する必要があります（それらを「現代のラッダイト」と呼びましょう）。

そのような陣営の 1 つだけに身を置く人々がしばしば理解できないのは、両方の陣営が正しいということです。技術の進歩を止めるのは確かに非常に困難ですが、時間の経過とともに新しい法律が生まれ、ラッダイトの要求を満たすことになります。

私たちは激しい変化の時期にいます。ハイテク産業のビッグ チャンクは、「ハイテク」に置き換わる過程にあります。安全だと考えられていた業界の仕事が混乱しています。変化を経験するのはアーティストや現代のラッダイトだけではありません。それは（ほとんど）すべての業界です。

完全なメディア化への道のりで、私たちは現在の文化の一部を飲み込んでおり、過去の世代が私たちを人間にするだろうと考えていたものの多くを一歩一歩失っています. 同時に、新しい文化が生まれます。

私たちが消費するものの大部分が実際には非現実的または偽物であり、アナログの世界が異常になるこの「アプリオリな偽物」の世界では、周囲を見る新しい目が必要です. 「偽物」の意味を再定義する必要があります。

私たちはツールを形作り、その後ツールが私たちを形作る…

勇敢な新世界は偽の新世界

つまり、要約すると、明日のすばらしい新世界は、偽物、虚偽、非現実的な情報でいっぱいの世界であり、もはや信頼できるものはほとんどないように思われます. しかし、状況は見かけほど悲惨ではありません。恐れる理由はありません。この精神病は、これから説明するように簡単に解決できます。

サイバネティック哲学者が過去に指摘したように、私たちが信じているストーリーは、真実、虚偽、または偽物と呼ぶかどうかにかかわらず、私たちの世界の認識に大きな影響を与えます. それらは、私たちが現実を理解する上で中心的なものです。彼らは、暗い時代に正気を保ち、困難な状況でガイダンス、サポート、および意味を提供するのに役立ちます.

説明できないことを説明しようとするときはいつでも、ストーリーが思いつきます。私たちは、バイオコンピューターが本質的に理解していないことを説明するためにそれらを参照しています。道徳や科学を教えたり、政治や戦争を実行したりするためのストーリーを思いつきます。

情報が不足している場合はいつでもストーリーを使用します。しかし、マシンが無限のストーリーを生成できる未来では、逆の問題、つまり過剰な情報に直面することになります。この世界では、終わりのないデータ ストリームのノイズの中で、最も価値のあるストーリーを特定して評価する新しい方法が必要です。何が偽物で何がそうではないか、あるいは何が「十分に偽物」でないかを判断するための新しい基準が必要です。

このような情報のオーバーフローは、情報の空白と同じくらい耳をつんざくように感じる可能性がありますが、どちらのシナリオでも覚えておくことが重要です。優れたストーリーは常に持続し、勝利します。最終的に、最高のストーリーが私たちの社会の現実を定義します。これは、政治、宗教、人種差別、または一般的なその他の邪悪な問題など、あらゆるトピックに当てはまります。

一部のストーリーは送信され、一般的に受け入れられますが、他のストーリーは (非常に似ているか、客観的な真実に近い場合でも) 拒否されます。したがって、私たちの現在の現実は、最も強力なプレーヤーが自分のストーリーをより強力でないプレーヤーに押し付けることになる、終わりのない情報戦争の結果です. 真実は常に客観的であるとは限らず、1つの真実を決定するのに十分な経験的証拠がないだけの問題があります. 実際、18 世紀の科学者たちは、「自然に対する真実」の原則の下で、自然界は決まった法則によって支配されており、これらの法則は注意深い観察と実験によって理解および説明できると信じていました。彼らは、自然界は合理的で秩序ある場所であると信じていましたが、自然現象の根底にある原因を科学的調査によって発見することができたということです。今日、私たちはこの考えが単純すぎることを知っていると思います。

地球は7日間でできたのですか、それともビッグバンでできましたか? 私たちは決して知ることはありませんが、時間の経過とともに、どのストーリーを信じているかについてのコンセンサスが変化します. しかし、コンセンサスがストーリーを真実にするわけではありません。(Heinz von Foerster: “Das muss es gewesen sein!” [EN: こうなったに違いない!])

それでも、ストーリーは人間社会において重要な役割を果たしており、過去から未来まで世界を理解する方法として機能し、知識、価値、ミームを伝えることができます。サイバネティック哲学者であるスタッフォード・ビアは、「私たちが現実を構築する方法は、私たちが語る物語に依存する」と述べています。または、イーロン マスクの簡単な言葉を借りれば、「ミームを制する者は宇宙を制する」ということです。

本質的に、最高のストーリーとは、時の試練と批判的評価の精査に耐えることができるストーリーであると信じたいと考えていますが、実際には、私たちのストーリーは、多くの資本と環境を必要とする非常に長い権力獲得の結果であることがよくあります。犠牲（人間、動物、植物など）。耐えることができたこれらのストーリーは、必ずしも最も価値があり、最も意味のあるものであるとは限りませんが、背後にあるリソースと力により、他のストーリーよりも長持ちすることができたストーリーです.

好奇心旺盛な読者は次のように考えるかもしれません: しかし、ストーリーは「アプリオリな偽物」や一般的な AI とどのように関係しているのでしょうか?

答えは簡単です。私たちは常に偽の世界に住んでいます。私たちが信じているストーリーがその証拠です。実際、ストーリーが機械によって書かれたのか、人間によって書かれたのか、ストーリーが完全な嘘であったのかは、社会にとって重要ではありませんでした。実際、過去には多くのストーリーが非常にランダムに書かれたと思います。良い例は、サウスパークのエピソード「カートゥーン ウォーズ」です。そこで少年たちは、ファミリー ガイが実際に言葉でボールをランダムに選択し、それらを連結してジョークを形成するマナティーによって書かれていることを発見します。それでも、ジョークやストーリーが、それを聞いたり信じたりした人にとって価値がある限り、それらは「本物」であるという事実に異議を唱えることはできませんでした。

要するに、人間社会は明らかに、何千年にもわたるほとんどナンセンスな信念の結果です。

過去に主流の人気を獲得したいくつかのストーリーを調べると、状況は明らかにばかげています。たとえば、「ソニック ザ ヘッジホッグ」または「スーパー マリオ」という、世界で最も有名な 2 つの架空のキャラクターとブランドを考えてみましょう。最近の個人的な経験から、彼らの例を選んでいます。私が妻と一緒に訪れたイタリア料理店では、壁に大きなテレビ画面があり、ソニックのアニメーション 3D フィルムが映っていました。そこに座ってピザを食べている間、両親や祖父母が平和に話すことができるように、これらのスクリーンとソニックの物語を通して子供たちがどの程度催眠術をかけられているかに気づかずにはいられませんでした. ビデオは無音で再生されていましたが、それでも目的を果たしました。

ソニックとマリオの両方のキャラクターは、80 年代の低解像度の 2D ゲームから生まれました。ソニックは金の指輪を追いかけ、マリオは金のコインを追いかけた。2 つのストーリーは、原始的なゲームに何らかの目標 (およびストーリー) を追加する必要性から生まれました。「ハンターとギャザラー」のホモ サピエンス (ソニックの場合は青いハリネズミ) は、光沢のあるオブジェクトを追跡し、いくつかの邪悪なピクセルの敵を止める必要があります。

最初のストーリーがどれほどばかげていても、いつでも新しい部分を追加して、それらが組み込まれている宇宙を拡張できるようです。したがって、これら 2 つの初期のゲームから何が進化したかを調べると、関連する嫌悪。技術的な制約、悪いグラフィック、非常に原始的なストーリーラインを備えた謙虚な始まりから構築されたフランケンシュタインの怪物。それでも、30 年後のレストランの子供たちは、より洗練された 3D アニメーション バージョンを見て、催眠術をかけられます。

私の言いたいことは、ソニックとマリオのストーリーは、機械、人間、マナティー、またはビルボード上のランダムな言葉を指し示す類人猿によって書かれた可能性がありますが、それでもキャラクターとその世界の両方がよりポジティブなものになったと主張できます地元の新聞の最新の殺人犯罪記事や、昨夜高速道路で起こった事故に関するニュースよりも、社会にエネルギーを与えてください。

ここでの教訓は次のとおりです。

ストーリーの誠実さは、現実世界で意味を成す能力とは無関係です。

合成オブジェクトの価値

「写真」という言葉には「光で描く」という意味があります。「シンソグラフィー」という言葉は「合成的に描くこと」を意味します。この造語はまだあまり普及していませんが、AI ツールによって作成された画像を表すのに最適な言葉だと思います。写真と同じように、シンソグラフィーは無から有意義なものを瞬時に生み出すことができます。

創造的な AI 技術を見ると、今後数年間で、多くの新しい奇妙な画像、ビデオ、テキスト、および評価を必要とする新しいストーリーに直面することは明らかです。一部の人々は、マシンがすぐにすべての人のためにカスタマイズされたストーリーを作成すると信じています。「AI のネットフリックス」のような概念を考え出そうとする人もいます。そのような実験の背後にある動機は理解していますが、このアプローチがうまくいくとは思いません。マリオとソニックに関する上記の議論はその証拠の 1 つの例です。

人間は、共通の現実を構築するために集合的なストーリーを必要とします。私たちのストーリーは、一緒に体験した場合にのみ、その可能性を最大限に発揮します。これまでにプレイした本、映画、またはビデオ ゲームについて考えてみてください。他の消費者との共通のつながりは、ファンダム、宗教、またはフェローシップの基盤です。これらの接続は、ミリ秒ごとに新しい情報が殺到するシナリオではさらに重要になります。膨大な量の新しい情報が公開されたからといって、関連性の低いストーリーを信じるようになることはないと思いますが、私の意見では、逆のことが起こるでしょう。私たちのストーリーはより関連性が高くなります。良いものが勝つでしょう。リンディ効果を考慮に入れると、長く存続しているストーリーが最も価値のあるものであり続けると主張する人さえいるかもしれません.

私たちはすでに自由に使える古いアートの大きなコーパスを持っています。このコーパスは、私たちのマシンを通じて何度でもリサイクルできるようになりました。The Hero's Journey のような確立された Storytelling の原則が引き続き関連するかどうか、または明日の Hero's Journey がランダム性と完全な予測不可能性によって特徴付けられるかどうかを見るのは興味深いでしょう.

ストーリーの評価フィルターは、競争が大きくなるにつれて、より頻繁に、より激しく適用されます。より多くの情報が毎日生成され、より多くのストーリーが作成される一方で、集合フィルターはますます多くを吸収します。

この人工複製の新しい時代、つまり生成の時代では、「モナリザの無限のコピーを作成できるようになりました」から「無限のモナリザを作成できるようになりました」に移行しています。しかし、モナ・リザが文化的、歴史的、美的価値を備えたオリジナルであるという事実は、誰かが主観的に未来を信じようとも、真実であり続ける. たとえば「16 世紀のイタリア人女性、油絵」などのように、すべての特性においてモナリザのように見える写真が必要な場合は、「モナリザ」という用語を使用します。

これが真の芸術と職人技です。レオナルド・ダ・ヴィンチはモナリザの特性を生み出しました。彼の作品は、今後何年にもわたって機械入力および参照アンカーとして機能します。芸術作品を理解し、鑑賞する上での歴史的および文化的文脈の価値は残ります。これらの作品を取り巻くストーリーは、関連性が低下するのではなく、より関連性が高くなります。モナ・リザは長い間ストーリー フィルターを通過し、「時間耐性」の特性を獲得しました。

モナリザの写真が同じ文化的価値を持たないのと同じように、合成コピーもこの価値を欠いています. ボタンをクリックするだけで無限のコピーを作成できるようになりましたが、多くの新しい作成はまさにコピーです。モノの価値は見た目だけで決まるものではありません。

ストーリーがない場合、Synthographic オブジェクトには 1 つのプロパティしかありません。それはバイト コードと結果の外観です。したがって、デフォルトでは、キャンバス上のランダムなペイント ストロークの束と同じくらい価値がありません。

このようなペイント ストロークやシンソグラフィック オブジェクトの価値について議論する前に、他の人が過去にアートについて語ったことを忘れてはなりません。たとえば、フランスの哲学者ポール ヴァレリーは、創造的なプロセス自体の重要性と、偉大な芸術作品の創造において不確実性とリスクテイクが果たす役割について、広範囲にわたって書いています。彼は、真の芸術的天才は、リスクを冒して不確実性を受け入れる能力にあると主張しました。最高のアートは、探求と実験のプロセスから生まれます。

リスクが大きいほど、ストーリーは優れています。

以前の著作で、生成時代への芸術の進化は、ウォルター・ベンジャミンが「機械的複製の時代における芸術作品」で説明したものと類似しているという類推を行った(ベンジャミンは、写真の文化的影響を説明するためにこの本を書いた)絵の上）。

新しい時代では、人間の作成者がテキストプロンプトを手動で追加したり、ある程度の手作業を行ったりしたシンソグラフィックオブジェクトには、次のことが当てはまるようです (もちろん、人間の積極的な操作や操作なしでそのようなオブジェクトを生成する方法はいくつかあります)。よりランダムな要因を介して、しかし、それらはこの例の焦点では​​ありません):

• 生成されたオブジェクトは、人間の作成者にとって感情的な価値があります。作り手は、自分の作品の美しさに強い偏見を持っています（「私の考えがこうなった！」）。
• 中立的な観察者にとって、生成された作品はオーラや芸術的価値がほとんどない.

ただし、新しい時代には、考慮しなければならない差別化要因が 1 つあります。利用可能な正確なデータはありませんが、100 万人以上のユーザーを獲得するのに、絵画は数千年、写真は 100 年以上かかったと確信しています。ChatGPT 5 日かかりました。

この信じられないほどの指数関数的な速度が原因で、新たな問題が発生しています。

無限の情報ループ

過去 1 年間だけで分析、分類、理解する必要があった新しい AI 関連のイノベーションの量は、圧倒的に多いように思えるかもしれません。

明らかに、この「勝者がすべてを手に入れる」競争において「時間」という要素が重要であるため、それを無視してはなりません。AGI からはまだ大きく離れていますが、全体像を把握することは重要です。

最近の数値: Stable Diffusion v1.4。標準のグラフィックス カードで 512x512 の画像を生成するには、約 18 秒かかります。新しい Google Muse モデルは、1.3 秒で同じ品質を実現すると考えられています。

生成モデルが良くなればなるほど、新しい作品の出力が速くなり、使用するリソースが少なくなります。

この記事では、過去と現在について説明しました。最後の部分では、少しだけ将来を見据える必要があります。

機械が常に新しいストーリーを作成し、これらのストーリーに「人間のフィルター」を適用する未来は、ディストピア的な産業の未来だと予測できます。人間はもはや創造力ではなく、新しい情報の無限ループに閉じ込められた消費者にすぎません。ある時点で、私たちは機械に何を尋ねたかを思い出せなくなります。彼らは単に走り続け、私たちに新しい情報を提供し、私たちは最高のストーリーを選ぶキュレーターになります. (さらに研究をしたい人のために: この状況を CCRU とウィリアム・バローズのレムリアン タイム ソーサリーと比較したいと思います)。

類推として、この架空の将来のシナリオは、A/B スプリット テスト (製品または Web サイトの 2 つのバージョンを比較してどちらのパフォーマンスが優れているかを判断する一般的な方法) の新しい形式と考えることができます。これらの将来の分割テストでは、何千もの異なるバージョンのメディア コンテンツが同時に提供され、反応が評価されます。これは、あらゆる形式のメディアで完全にカスタマイズされた自動化を意味します。私たちは、「AI Netflix」の世界のキュレーターおよび評価機関になります。外部からの刺激に対する反応を綿密に監視しながら、シンセグラフィック ビデオをスプーンで与えられる実験用ネズミのようなものです。この未来は、無限の猿の定理のバリエーションとして考えることもできますサルが入力したものをすべて読んでから、サルが実際に書き方を学ぶまで、何が良くて何が悪いかを教えなければなりませんでした。

私たちは賢いので、実験用ネズミとして虐待されるという苦境から身を守ろうとします. このシナリオを回避するには、これらの技術的問題を解決するための新しい技術的ソリューションを考え出す必要があります。ストーリーをフィルタリングして分析する新しい AI を構築します。彼らは私たちの行動をシミュレートし、私たちではなく実験用ラットになることができます!

そうすることで、情報ループを強化する状況を作り出します。AI ベースのツールを使用して、他の AI ベースのツールが市場に投入した新しい情報を解釈します。おかしなことに、これは、一部のマシンが悪意を持って実行し、独自の秘密の言語を作成しようとしたり、説明が難しい他のデマゴーグの動きをしたりするシナリオでも当てはまります。いずれにせよ、私たちは悪者 (人間または機械) に対して私たちを助けるために良い機械を使用します。

これは、ChatGPT やその他の AI アシスタントですでに実現しています。それらを使用して、あらゆる種類の情報を解釈し、大規模なデータセットを読み取り可能にし、コードを非縮小化します。

簡単に言えば、GPT のようなツールによるこの支援は、力を与えてくれるように感じることができます。それは、瞬時に IQ が向上するようなものです (そうです、これらのドーパミン ヒットを与える新しい方法を発見しました)。

この将来のシナリオは、より大きなスケールで次のように要約できます。動かせない物体 (全能の情報解釈者) に対する止められない力 (無限の情報) の状況。これは、暗号化と復号化のダンスです。

この未来では、知識のコストは 0 になる傾向がありますが、新しい情報のコストも同様です。

すべての新しい情報は簡単に理解、説明、分析できるため、知識のコストはゼロになる傾向があります。幼児のために肉を切る（またはスプーンで実験用ネズミに餌をやる）ように。

一方、マシンは一日中新しい情報を生成するため、情報のコストは 0 に低下します。

止められない力と不動の物体のループ。

このシナリオは、私が無限情報ループと呼んでいるものです。

結果

まず、クリエイティブ業界自体が無限の情報ループに陥ります。次に、医師、弁護士、ジャーナリスト、ロビイスト、およびその他の (多かれ少なかれ) 知的職業になります。間違いなく、吸い込まれることから逃れられる仕事はありません。

クリエイティブ業界自体については、クリエイティブ ワーカーの約 60% が今後 2 年間で現在の仕事を失うと予想しています。主に中堅・後輩になります。これらの人々は、新しい職業を見つける必要があります。

メディアの権利が変更されます。弁護士は、今後数か月で楽しい時間を過ごすでしょう。彼らの多くのありふれた作業も機械に置き換えられます。

確立された専門家は、経済的に再び利益を上げる前に、自分自身を再教育する必要があります. ほとんどの場合、彼らは大学に行くことはありませんが、将来の Google や AI ツールを使用することになります。「わからない」という文は、「AI に聞く必要がある」に変わります。

何が真実で何がそうでないかについての私たちの解釈は、それほど重要ではなくなります。利用可能な情報量は耳をつんざくほどになります。私たちのマシンは、私たちのためにノイズを解釈しようとします。機械で生成されたコンテンツのキュレーションと分析は、あらゆる考え、あらゆる夢、あらゆる機械の意味不明なことを常に評価する必要がある業界になります。新しい仕事は情報分析の仕事になります。発生する社会的課題を解決するには、私たち自身の脳、そして何よりも肉の体が必要になります。

今後の反体制運動の中で、多くの人が伝統工芸の美しさを再発見するかもしれません。想像力豊かな AI と人間の手との相乗効果が生まれます。

世界中の政治が対応し、経済への影響を軽減するために明確な立場を取る必要があります。たとえば、中国はすでにシンセグラフィック コンテンツを規制し、ラベル付けする動きを見せています。世界的な規制とコンセンサスが最終的に来るでしょう。

一部の人々は無知で、グリッドから抜け出し、AI が生成するメディアに溺れてしまいます。

アートは死なない。それがあなたの懸念の最後のはずです。

偽の新しい世界で自分のストーリーを書く方法を考え出すことは、私たちの世代の大きな課題の 1 つになるでしょう。

無限の情報ループにより、テクノロジーとの関係を再考し、自分の知性をどのように適用するかを再学習し、この宇宙で自分自身を再配置する必要があります.

また。

この記事が気に入ったら、

私にコーヒーを買って

またはTwitter でフォローしてください

この記事は、私のウェブサイトwww.mitchoz.comでも入手できます。

© ミッシュ・ストロッツ 2023