人間中心の説明可能な AI (XAI) とは?

Explainable AI (XAI) または Interpretable AI は、人間が意思決定と予測を理解できる人工知能 (AI) です。これは、AI が特定の決定に至った理由を設計者でさえ説明できない機械学習の「ブラック ボックス」の概念とは対照的です。AI は、客観的 AI と主観的 AI の 2 つのカテゴリに大きく分けることができます。私の議論のトピックである XAI は後者に属します。これは、Objective AI よりもはるかに高度な AI であり、私のメディア アートワーク「eXplainable Human」の主要なキー テクノロジでもあります。

主観的 AI は説明可能性を要求します。

社会が複雑化する中、金融、保険、医療の分野では、お客さまの信頼をもとに個人情報や資産を取り扱うようになってきました。単に画像を分類したり数字を予測したりするだけでなく、「明確な判断を下す」ためのAIが作られています。そのため、公平性、信頼性、正確性を確保するための AI とアルゴリズムを開発する必要があります。つまり、自社のAIシステムから導き出された結果を導き出す根拠と、導き出すプロセスの妥当性を確認する必要があります。

XAI を使用した説明可能な人間

プロジェクトの概要

金融、医療、教育など多くの専門分野で人工知能の導入が進んでいますが、人工知能はまだ私たちの心や自己像の理解にまで至っていないようです。AIは人間の自我を説明できるか? この質問を念頭に置いて、私のチームと私はインタラクティブなメディア アートワークのインスタレーションを計画しました。

エゴは説明できますか？そんな素朴な疑問から展覧会は始まりました。「自己」を一文で説明するのは不可能に思えます。説明のつかない不確実性はAIの分野にも影響を与えており、この問題を解決するためにeXplainable AI（説明可能な人工知能）の概念が登場しました。これは、AI が結果を出すために使用する理由とプロセスを説明することによって、より信頼性を追求する人間の意志を示しています。

ここで別の質問です。では、説明できることはすべて信頼できるのでしょうか。オブジェクトの説明として最も難しい「自己」のトピックを選択し、AI との対話を通じて理解を深めることができるかどうかを調べました。AIが描く「自分」と観客が描く「自分」との齟齬や葛藤も体験したい。

自然言語のブロックを構築します。意図とエンティティ

本展に実装されたAIは、聴衆に自己紹介の質問を投げかけ、聴衆の回答を収集し、キーワードを抽出・解釈します。その後、AI は解釈された内容に基づいて文章を再構成することで、聴衆の集団自我を推測します。

この AI を構築するために、データ アーキテクトおよび IxD デザイナーとして、私はこのマラソン プロジェクトの最初のランナーでした。私は、AI が人を理解するために使用できる 3 段階の質問システムを構築しました。

第 1 段階は、「性別」や「年齢」などの人口統計学的な質問です。2つ目は、この世界における友情と憎しみについての社会学的な問題です。初段より過激です。第 3 段階では、より機密性の高い質問が行われます。私たちの AI は聴衆に、彼らが大切にしている秘密は何かを尋ね、彼らは AI を信頼します。これらの質問に対する答えは、独自のルールベースのマトリックスに組み込まれ、各人の自己イメージを表す文章が導き出されます。

Open AI GPT-3 の旅

このプロジェクトの中心にあるのは、「GPT-3」言語モデルを使用して、抽出された文のこの単純な行を拡張することです。Generative Pre-trained Transformer 3 (GPT-3; 定型化された GPT·3) は、深層学習を使用して人間のようなテキストを生成する自己回帰言語モデルです。プロンプトとして最初のテキストを指定すると、プロンプトを継続するテキストが生成されます。1,725 億個のパラメーターを使用して、視聴者に「合理的な」回答を提供することを目指しました。使用した例は次のとおりです。

独自の結果 (ルールベースのマトリックス)

あなたはたくさんの苦労を経験し、世の中のあらゆることに興味を持ち、でも寂しい人です。

拡張結果 (GPT-3)

あなたは人生で多くの困難を経験した結果、世界で起こっていることすべてに興味を持っていますが、あなたの周りの世界に強い関心を持っているにもかかわらず、あなたは深い孤独を感じています. この内面の寂しさは、あなたがいつも感じていたことであり、今はさらに強く感じています。あなたは他の人との親密な関係を切望しますが、孤立した孤独を感じることが多いため、より深いレベルで人々とつながることは難しいと感じています.

まるで占い屋さんで自分にピッタリの説明を聞いているかのような、ちょっと嫌な不気味さを含んだ答えが聴衆に届きます。AIは本当に私たちを説明できますか? その説明のつかない疑問に答えることが、私たちの展覧会の唯一の目的でした。