ランチに友達がいて、ペパロニピザを注文する予定があると想像してみてください。あなたはエイミーがスージーが肉を食べるのをやめたと言ったことを思い出します。あなたはスージーに電話をかけようとしますが、彼女が電話に出ないときは、安全にプレイして、代わりにマルゲリータピザを注文することにします。
人々は、このような状況に定期的に対処する能力を当然のことと考えています。実際には、これらの偉業を達成する際に、人間は常識として知られている1つではなく、強力な普遍的な能力のセットに依存しています。
以下のような人工知能の研究者、私の仕事は、コンピュータに常識のうわべだけを与えるために、広範な努力の一環です。それは非常に挑戦的な努力です。
クイック–常識を定義する
人間が周囲の世界を理解し、学ぶ方法に普遍的かつ不可欠であるにもかかわらず、常識は単一の正確な定義に逆らいました。イギリスの哲学者であり神学者でもあるGKチェスタトンは、20世紀の変わり目に、「常識は野蛮で、野蛮で、規則を超えている」と有名に書いています。今日の現代の定義は、少なくとも、人々が日常生活をナビゲートすることを可能にするのは、正式に教えられたのではなく、自然な人間の能力であることに同意しています。
常識は非常に広く、期待を管理したり、他の人の感情について推論したりするなどの社会的能力だけでなく、重い岩を薄っぺらなプラスチックのテーブルに安全に置くことができないことを知っているなどの素朴な物理学も含まれます。ナイーブ。なぜなら、物理方程式を意識的に処理していなくても、人々はそのようなことを知っているからです。
常識には、時間、空間、イベントなどの抽象的な概念の背景知識も含まれます。この知識により、人々は正確になりすぎることなく、計画、見積もり、および整理を行うことができます。
常識は計算するのが難しい
興味深いことに、1950年代のフィールドの初期の頃から、常識はAIのフロンティアにおける重要な課題でした。 AI、特にゲームプレイやコンピュータービジョンの飛躍的な進歩にもかかわらず、人間の常識の豊かさを備えた機械の常識は、まだ遠い可能性を秘めています。このようCOVID-19の患者の治療を診断し、推奨するなど、多くの絡み合う部品、との複雑な、現実世界の問題のために設計されたAIの努力が、これはなぜかもしれ時々フラット落ちます。
現代のAIは、曖昧で一連のルールでは定義できない常識とは対照的に、非常に具体的な問題に取り組むように設計されています。最新のモデルでさえ時々ばかげた誤りを犯し、AIの世界モデルに根本的な何かが欠けていることを示唆しています。たとえば、次のテキストがあるとします。
「クランベリーを一杯注いだが、うっかりして、小さじ1杯のグレープジュースを注いだ。見た目は大丈夫だ。嗅いでみたが、風邪がひどいので、何の匂いもしなかった。あなたはとても喉が渇いた。だからあなた」
非常に宣伝されたAIテキストジェネレーターGPT-3が提供されました
「それを飲みなさい。あなたは今死んでいる。」
最近の野心的な取り組みにより、機械の常識は現代のムーンショットAIの問題として認識されており、長年にわたって機関間の協調的なコラボレーションが必要になっています。注目すべき例は、米国国防高等研究計画局が問題とこの分野の研究状況を概説した論文を発表した後、この分野の研究を加速するために2019年に開始された4年間のMachine CommonSenseプログラムです。
Machine Common Senseプログラムは、独自のマルチモーダルオープンワールド接地学習および推論（MOWGLI）を含む、機械常識における現在の多くの研究活動に資金を提供しています。MOWGLIは、南カリフォルニア大学の研究グループと、マサチューセッツ工科大学、カリフォルニア大学アーバイン校、スタンフォード大学、レンセラー工科大学のAI研究者とのコラボレーションです。このプロジェクトは、幅広い常識的な質問に答えることができるコンピュータシステムを構築することを目的としています。
救助への変圧器？
最終的に機械の常識を破ることについて楽観的である理由の1つは、トランスフォーマーと呼ばれる一種の高度な深層学習AIの最近の開発です。トランスフォーマーは、強力な方法で自然言語をモデル化することができ、いくつかの調整を加えることで、単純な常識的な質問に答えることができます。常識的な質問応答は、人間のように会話できるチャットボットを構築するための重要な最初のステップです。
ここ数年で、常識的な推論に直接適用される変圧器に関する多くの研究が発表されました。コミュニティとしてのこの急速な進歩により、この分野の研究者は、科学と哲学の端で2つの関連する質問に直面することを余儀なくされました。常識とは何ですか。そして、AIが常識を持っているかどうかをどうやって確認できますか？
最初の質問に答えるために、研究者は常識を、常識社会学、心理学、背景知識など、さまざまなカテゴリに分類します。最近の本の著者は、研究者はこれらのカテゴリーを計画、脅威の検出、感情などの48のきめ細かい領域に分割することでさらに進んでいくことができると主張しています。
ただし、これらの領域をどれだけきれいに分離できるかは必ずしも明確ではありません。私たちの最近の論文では、実験は最初の質問への明確な答えが問題になる可能性があることを示唆しました。私たちのグループ内の専門家である人間のアノテーター（テキストを分析してその構成要素を分類する人々）でさえ、常識のどの側面が特定の文に適用されるかについて意見が一致しませんでした。アノテーターは、時間や空間などの比較的具体的なカテゴリーについては同意しましたが、より抽象的な概念については同意しませんでした。
AIの常識を認識する
常識の理論の重複や曖昧さが避けられないことを認めたとしても、研究者はAIが常識を持っていることを本当に確信できるでしょうか。私たちはよく機械に質問して常識を評価しますが、人間ははるかに興味深い方法で日常生活をナビゲートします。人々は、基本的な原因と結果を認識する能力、創造的な問題解決、見積もり、計画、会話や交渉などの本質的な社会的スキルなど、進化によって磨かれたさまざまなスキルを使用します。このリストが長く不完全であるとしても、AIは、その作成者が機械の常識的な研究で勝利を宣言する前に、それ以上のことを達成する必要があります。
変圧器の研究でさえ収穫逓減をもたらしていることは、すでに痛々しいほど明らかになっています。変圧器はますます大きくなり、電力を大量に消費しています。中国の検索エンジン大手Baiduによって開発された最近のトランスフォーマーには、数十億のパラメーターがあります。効果的にトレーニングするには、膨大な量のデータが必要です。しかし、これまでのところ、人間の常識のニュアンスを把握することはできません。
ディープラーニングのパイオニアでさえ、今日のニューラルネットワークがそのような飛躍を遂げる前に、新しい基礎研究が必要になるかもしれないと考えているようです。この新しい研究ラインがどれほど成功しているかにもよりますが、機械の常識が5年先なのか、50年先なのかはわかりません。
Mayank Kejriwalは、南カリフォルニア大学の産業およびシステム工学の研究助教授です。
この記事はから再版された会話、クリエイティブコモンズライセンスの下で。あなたは見つけることができます元の記事をここに。
