Ben Shneiderman (米国、メリーランド大学) およびMichael Muller (米国、IBM Research)

序章

擬人化とは、人間が動物、物体、自然現象に人間のような特性や感情を与えるなど、人間以外の存在に人間のような特性や行動を投影する行為です。AI ベースのシステムにおける擬人化デザインの使用については、長年にわたる議論があり、(少なくとも) ACM コンピューターとヒューマン インタラクション カンファレンスの初期のパネル「擬人化: ELIZA からターミネーター 2 まで」(ドン) にまで遡ります。ら、1992)。

擬人化に関するデザイン上の問題には、次のようなものが含まれます。

1. 人間のエージェントのようなキャラクターが画面に表示される必要があります。
2. コンピュータは、テキストまたは音声のユーザー インターフェイスを備えた人間のような社会的アクターとして自らを表現する必要があります。
3. コンピュータのプロンプトや応答では、一人称代名詞を使用する必要があります (例: 「喜んでお手伝いします」)。
4. ユーザーは、クリック、ドラッグ、ズーム、またはタッチを可能にする代替の直接操作デザインを好みます。

マイケルとベンは2023年3月から4月にかけてメモの交換を続けた。Chenhao Tan、Justin Weisz、Werner Geyer は、自分たちの議論を公開することを提案しました。この記事は、電子メールのやり取りを軽く編集したもので、次の 4 つの部分に分かれています。

• パート I — 擬人化について
• パート II — 擬人化コンピューティング システム
• パート III — インテリジェントか、インテリジェントではないか、それとも連続体か?
• パート IV — 「私」の使用について

交換中に、コメントや視点を追加するために、さらに多くの人が会話に参加しました。今後の記事で彼らの視点を公開する予定です (リストについては以下を参照してください)。ミックスにあなたの声を加えたい場合は、Chenhao Tanまでご連絡ください。

議論

パート I — 擬人化について

Ben Shneiderman : 私が特に懸念しているのは、GPT-4 の出力で一人称代名詞が使用されており、たとえば「申し訳ありませんが、そのリクエストについてはお手伝いできません。」のように人間であることを示唆していることです。「GPT-4 は、このようなリクエストに応答しないように OpenAI によって設計されています」という単純な代替案は、責任を明確にし、一人称代名詞の欺瞞的な使用を避けるでしょう。私の世界では、機械は「私」ではないので、人間のふりをすべきではありません。

Michael Muller : まず、私たち人間は、非常に長い間、人工物や自然実体を人間に似た存在として扱ってきました。フェレラムのデメトリオスは、紀元前 280 年以前にプロソポポエイア (擬人化) について書きました。プロソポポエイアに関するウィキペディアの項目には、シラク書からの例が示されており、その中で「知恵は自らの賛美を歌い、自分の民の間で自分の栄光を宣言する。」歴史上のゴーレム (トールキンのゴーレムではなく、「ゴラム」と呼ばれる) からメアリー ウルストーンクラフト シェリー、そしてピグマリオンとガラテアの神話に至るまで、意識や主体性の形をとる被造物に関する記述は数多くあります。

したがって、私たちが人工物を人間に似た性質を持つものとして扱う前例はたくさんあると思います。Reeves と Nass (1996) は、特に社会的アクターとしてのコンピューターに関する研究プログラムとしてこの概念を追求しました。擬人化の長い歴史をレビューした『Interacting with Computers』 (Muller、2004) における彼らの立場に対する私の批判も参照してください。

第二に、私たちは現在、アルゴリズムが非決定的な会話パートナーであることが何を意味するかを調査しているところです。LLM は確率論的なオウムであり、したがって「心」がありません。それにもかかわらず、彼らは説得力のある社会的存在感を持っています。その社会的存在に対して何ができるかはまだわかりません。(私が「行う」と言ったのは、「それを何に使えるか」という実用主義的な意味です。) 現在のイライラする (そして時には危険な) AI の誇大広告を超えて、私たちがどのような種類のエンティティを構築しているのか、そして私たちが彼らとどのように関わっていくのか。私見ですが、まだわかりません。

私たちは、人間/非人間という二元論を 1 つの次元、または複数の次元に分解する必要があるのではないかと考えています。従来のヨーロッパ西洋の考え方では、私たちは動物との関係においてすでにこれを行っています。私たちのほとんどにとって、岩は単なる岩です（ただし、先住民やアボリジニの哲学の中には、この言葉に異議を唱える人もいる点に注意してください）。同様に、一部の動物 — たとえばイモリ — は、カペックの作品 (Capek et al., 1996) の中でのみ興味深い人格を持っていますが、それらとの私たちの相互作用の中ではそうではありません (そして、人間関係の失墜についてのカペックの共同研究は、ロボット (Capek、2004))。Elizabeth Phillips ら (2016) は、社会的存在の主な例として犬を例に、人間と一部の動物とのより深い関係を調査しました。コンパニオン種におけるハラウェイ (2003) の概念も参照してください。そして興味深いことに、Fijn の研究 (2011) はモンゴルの投げ縄ポールポニーとの人間関係についての研究です。したがって、動物に関連する単純な人間/非人間の区別ではなく、考慮すべき段階があります。

フィリップスら。(2016) は人間と動物の関係を利用して人間と AI の関係について考えていました。動物と同様に、社会性の度合い、つまり社会的存在の度合いがあり、それが計算的なものにも当てはまるのではないかと思います。こうした可能性を排除するにはまだ十分な知識がないと思います。

詐欺や操作に関するあなたの投稿のテーマについて私に尋ねられたら、私は人々の保護についてあなたのすぐそばにいます、そして人々をだますために人間のふりをするAIから人々を守るための厳格な規制を支持します。私にとって、それは、私たちの探索が正直で完全に行われている限り、新しいテクノロジー、新たに公開されたテクノロジー、新しく再解釈されたテクノロジー (これらはすべて、起こり得る未来を熟考するために使用される可能性があります) をどのように探索するかということとは別の懸念事項です。悪意なく公開されました。

パート II — 擬人化コンピューティング システム

ベン・シュナイダーマン:はい、私は人格がアリストテレスからの工芸品に使用されており、今後も使用され続けることに同意します。このゾンビのアイデアを打ち消すことはできないと思います。

ただし、ゾンビのアイデアは問題のある影響を与える可能性があります。普通のアーティファクトのユーザーにとって、ボート、車、ルンバなどについて人間のような表現をするのは問題ありませんが、デザイナーがそのような言語を使用して粗悪な製品が生まれるのは問題だと考えています。擬人化システムの失敗の長い歴史は Microsoft BOB や Clippie よりも前に遡りますが、数十億ドル規模の失敗を生み出し続けてきました。最近の重大な致命的な設計ミスは、人間のドライバーは目だけを使用するので、彼のテスラはビデオのみを使用するだろうとイーロン・マスクが主張したことです。エンジニアの反対を押し切ってレーダーや LIDAR の使用を禁止することで、致命的な結果を生み出す次善のシステムを設計してしまいました。

私にとって、比喩は重要です (Lakoff & Johnson、2006)。そのため、デザイナーは、コンピューターも人間と同じように自然言語でコミュニケーションすべきであるという信念が、情報量の多い視覚的表示などのコンピューター機能の使用の失敗にどのようにつながるかに注意する必要があります。情報。

擬人化からユーザーがより詳細に制御できるデザインへの移行に対するさらなるサポートは、社会学者のルイス・マンフォードによって提供されています。私は彼の古典的な著書『技術と文明』（1936 年）に強い影響を受けました。これは、「アニミズムの障害」に関する章で明確な分析を提供しています。マムフォード氏は、人間や動物のモデルに基づいた初期設計が、新技術の開発においていかに克服しなければならない障害であるかを説明しています。「最も効率の悪い種類の機械は、男性[/女性]や他の動物を機械的に模倣したものです。」マムフォード氏の指摘は、設計者が会話型インターフェースなどの「生物からインスピレーションを得た」概念に固執すると、車輪、ジェットエンジン、高解像度のコンピューターディスプレイなどのテクノロジー特有の機能が無視される可能性があるということだ。したがって、AI システムの初期設計として擬人化されたフレージングが提供されることは理解できますが、この段階を超えれば、設計者は洗練されたアルゴリズム、巨大なデータベース、超人的なセンサー、豊富な情報のディスプレイ、

Michael Muller : 私にとって中心的な質問は、「人間は人間以外の知性とどのように関係できるのか?」ということです。擬人化は考えられる応答の 1 つですが、唯一の応答ではなく、唯一の関連トピックでもありません。

あなたも私も、言葉が重要であること、そして比喩が重要であることに同意します。だからこそ、私はフィリップスらの研究にとても興味を持っていました。（2016年）。彼らは、人間と動物の関係を観察することで、AI (複数形) に役立つメタファー (複数形) を探していました。それは別の意味で、ハラウェイの作品 (2003) の多くに当てはまります。

前に書いたように、私たちが共有する質問に対する私の表現は、「人間は人間以外の知性とどのように関係できるのか?」というものです。私にとって、それはより核心的な問題に近く、擬人化は、奇妙な非人間的実体についての多くの可能性のある探求の中の副次的な問題です。擬人化は、新しいアイデアや新しい実体に対する比喩的なアプローチの 1 つです。私の考えでは、比喩は思考の表現となり、それを通して私たちはその奇妙さの一部を明確に表現できるのです。（現代の修辞理論に従って、私は単なる「数字とスピーチ」ではなく「思考の数字」（例えば、レイコフ、1986年、レイコフ＆ジョンソン、2008年）を書きましたが、やはり私たちは同意していると思います。） 比喩を探求したいと思います。 LLM については、LLM が「何であるか」だけでなく、LLM が「何であるか」、あるいは何になる可能性があるかを考えるのに役立ちます。

このように表現すると、私たちが（人間の）言語を使用することで、私たちが作成し、やり取りしている計算上のものの性質について概念的な空間を開くことができることを願っています。比喩は役に立つと思いますが、より広いカテゴリーのアナロジーも同様です。これらは現在、非常に階層化されています。たとえば、誰もが LLM と FM について話している一方で、私たちの中には (あなたや私を含む) それらの LLM に対する UI について真剣に考えている人もいます。

LLM 層はおそらく「私たち」です。結局のところ、そこには何十万人もの人間から同意なく採取された素材が含まれています。あるいは「捕獲された資料」と言うべきだったかも知れません。あるいは「盗まれた声」。

UI レイヤーは「I」である可能性があります。それが、私たち人間にとってうまく機能すると思われるインタラクションのスタイルだからです。あなたは、UI レイヤーが「それ」であることを好むと思います。あるいは、アン・レッキーの『インペリアル・ラッチ』の本 (レッキー、2013 年) に登場する、負傷した補佐官 (サイボーグ兵士) のように、それ自体を三人称で指す必要があると思います。 「艦長…謹んで申し上げますが、この怪我は修復するほどの重傷ではありません。」と言って救助の試みを思いとどまらせます。

性格として、私は失敗を防ぐことよりも、可能性を広げることに興味があります。確かに、Clippy と BOB は失敗でしたが、だからといってすべての擬人化が失敗になるというわけではありません。LLM に擬人化された UI を使用した実験は非常に成功しました。私たちの Programmer's Assistant プロトタイプ (Ross et al. 2023) を使用する人で、その存在論的ステータスについて混乱する人はいません。これをスマート トースター以外のものと間違える人はいませんが、実際には、革新的に役立つスマート トースターであることがわかりました。(「変革的に賢い」のではなく、「変革的に役に立つ」というだけです。) さて、失敗例として Clippie と BOB を挙げていますが、成功例としてはプログラマーズ アシスタントもいます (おそらく、昔の Nass と Reeves のものもいくつかあります)。実験も）。擬人化が必ずしも問題を引き起こすわけではありません。

私の意見では、UI から LLM までは真に新しいデザイン空間です。この空間の重要な要素が何なのかはまだわかっていません。それらの要因が相互に影響し合うのではないかと思います。たとえば、擬人化はどのような場合に有益であり、どのような場合に有害となるのでしょうか? (つまり、他にどのような要素が擬人化と相互作用するのでしょうか?) HCXAI メッセージ (および暗黙のメッセージ) を書くとき、どの属性が、いつ、誰にとって重要になるでしょうか? たとえば、2 つのユーザー グループと 3 つのジャンルのメッセージを含む XAI に関する Upol Ehsan と Samir Passi の論文を参照してください (Ehsan et al., 2021)。そして、この新しいデザイン空間を探求するのにどのような「思考ツール」（例えば、思考の図）が役立つでしょうか?

パート III — インテリジェントか、インテリジェントではないか、それとも連続体か?

ベン・シュナイダーマン:マイケルは、私たちに共通する質問は「人間は人間以外の知性とどのように関係できるのか?」ということだと示唆しています。しかし、私は機械が知的であると表現されるべきであるという意見には同意しません。私は、考える、知る、理解する、知性、知識、知恵などの特定の言葉を人間のために予約し、機械の動作を説明する他の言葉を探します。私はこれをDesigning the User Interface (2016) の 6 つのエディションすべてで行ってきましたが、これは重要で生産的な決定だったと思います。

シモーネ・ナターレの本（2021）を読むと参考になるでしょう。同氏は、擬人化ロボットや人型ロボットは魅力的なアイデアだが、歴史的には失敗した製品を生み出してきたと語る。同氏は、多くのアプリケーションの「ありきたりな欺瞞」と「単純な意図的な欺瞞」について説明しており、これらはどちらも「AI を実行させる回路、ソフトウェア、データと同様に AI の機能の中心である」と述べています。ナターレは、人々が騙されようとする気持ちについて素晴らしい洞察力を持っています。

私はマイケルと彼の参加型デザインへの長年の献身を尊敬しており、同僚として彼を高く評価しています。そのため、マイケルを非人間的知性に関する問題のある信念から遠ざけることを心から望んでいます。

人口の約 4 分の 1 がコンピューターを恐れていることを思い出してください。特に、コンピューターが人間と同じであることを示唆する設計の場合に顕著です (Liang and Lee, 2017; Sprinkle, 2017; Strait et al., 2017)。また、「システムを擬人化すると、過剰な依存や安全でない使用につながる可能性がある」と示唆する人もいます (Weidinger et al., 2022)。

機械を人間の能力まで高めることで、人間の特殊性が薄れてしまいます。私は区別を維持し、責任を明確にしたいと考えています。したがって、機械は一人称代名詞を使用すべきではなく、システムの責任者を説明するか、単に機械のような方法で応答する必要があると思います。適切な表現を得るには少し想像力が必要な場合もありますが、よりコンパクトな表現が最適です。

銀行機械の初期の頃、ソーシャル ゲームは「ティリー ザ テラー」、「ハーベイ ウォールバンカー」などのおしゃべりなゲームで繰り返し試行されました。今日はあなたのために何ができるでしょうか？」しかし、これらは失敗し、「入金しますか、それとも引き出しますか?」という質問に道を譲りました。あるいは、さらにコンパクトに、顧客が望むものをタッチするためのボタンを提供するだけです。ユーザーは、機械を操作しているという感覚を与えながら、できるだけ早くタスクを完了できるデザインに移行しました。

問題は、人間が欺瞞的なソーシャルマシンに共感できるかどうかではありません。もちろん、共感できるのです。問題は、「人間と機械は異なるカテゴリーであることを認識しているか？」ということです。あるいは、「人間の自己効力感と責任を高める効果的な機械を設計することで、人間の尊厳を尊重できるだろうか？」Apple Store の 200 万以上のアプリは、ほとんどが直接操作に基づいています。Amazon ショッピング、Google 検索、ナビゲーションなどの主要なアプリケーションは、人間のようなデザインを避けています。これは、それらが最適ではなく人気がないことを理解しているためです。マイケルは、人間のようなインターフェースを備えた広く使用されているアプリを 3 つ挙げていただけますか?

マイケル・ミュラー:私の立場の一部は人間と動物の関係に基づいています。犬、特に盲導犬や牧羊犬 (Phillips et al., 2016) や投げ縄ポールポニー (Fjin, 2011) のような高度に訓練された犬には、ある種の知性があります。ハヤブサには、これとは異なる、より冷たい種類の知性が存在します (Soma, 2013)。そして、牛にはさらに別の種類の知性が備わっています (Phillips et al., 2016)。私たちはそれらの動物たちと関係を持っています。

牧羊犬と狩猟犬は興味深い事例を示していると思います。私たち (マイケルではなく人間) は、物事を行うために彼らを送り出します (Kaminski と Nitzschner、2013)。私たちは彼らと行動を調整し、時には距離を超えて行動します。彼らは私たちと行動を調整します。

次に、アメーバやゾウリムシもいます。これらは感知して反応することはできますが、私たちが脳と考えるようなものはほとんど持っておらず、さらには心も持っていません。

しかし、犬はその中間のケースです。彼らは社会的な存在感を持っています。彼らは心のようなものを持っています。彼らには彼ら自身の目標があり、彼らの目標と私たちの目標は一致する場合もあれば、一致しない場合もあります。時々、私たちは彼らの考えを変えることができます。時には彼らは私たちの考えを変えることもあります。それが彼らを人間ではない知性のように見せるのだと思います。

そうは言っても、私は LLM (より適切には LLM に対する UI) に目標や意図があり、もちろん意思があるとは考えていません。私たちが構築した UI はソーシャルな存在感を持っています。スマート トースターには個性がないことがわかっていても、明確な個性があるように見えるようにデザインすることができます。オウムには性格のようなものがありますが、確率論的なオウムにはありません (Bender et al., 2021)。しかし、確率論的なオウムは、ある種の社会的な存在感を持つことができます。トースターと社会的存在の属性が混在しているため、それらは奇妙で新しいものになります。人々は「不気味の谷」について書いてきました。私が「奇妙だ」と言ったとき、「不気味だ」と言うかもしれません。これらは有益かつ生産的に奇妙だと思います。それらは私たちが新しい実験的な考えを考えるのに役立ちます。

私は今でも知性を二元論ではなく連続体だと考えています。その連続体を一方の端にアメーバ、もう一方の端に人間を固定することができます。私が興味を持っているのは、その中間の曖昧な領域です。それは、私がそこをハイブリッドの領域、あるいは「第三の空間」と考えているからです。不思議な空間。私の1995年のオーフスの論文（ミュラー、1995年）、そして再びアリソン・ドルインとのハンドブックの章（ミュラーとドルイン、2012年）で、私たちは、これらの文化が混ざり合った空間は、まさに新しい理解と異なる知識のための豊かな場所であると主張しました。彼らは奇妙だからだ。人間とAIの関係も、新しいハイブリッド空間になり得ると思います。

動物もアルゴリズムも特に人間の知能を持っていない、と言うなら、私もその通りです。これまでのところ、私たち人間はまだ特別な存在です。ただし、最近の動物行動学の論文は、人間が以前考えられていたほど特別ではないことを示唆しています。

私にとって、それは比喩の問題ではありません。それは可能性の問題であり、曖昧ではあるが興味深い中間の問題です。

あなたが人間以外の知性の概念を拒否していることを認めます。そこに私たちの「議論」の焦点があるのではないかと思います。同意する必要はありません。ただし、タイトルについては同意する必要があります。人間以外の知能に関するタイトルを付けたくない場合は、「人間と AI の関係」など、より具体的でないタイトルを試してもよいでしょうか。

Ben Shneiderman : さらなるご返信と、中間事例としての動物についての議論をありがとうございます。私にとって、際立った問題は責任です。したがって、ペットの飼い主は自分のペットの行動に対して法的および道徳的に責任があることを覚えておくことが重要です。

知能、記憶、知覚、認知、運動能力を妨げるアルコールや薬物を摂取した人など、自分の行動に完全に責任を負わない人間を考慮すると、議論はさらに複雑になります。

つまり、知性は連続体であると言えますが、責任はより二元的なものであり、設計における重要な要素です。議論は知能に限定することはできず、記憶、知覚、認知、運動能力を含める必要があると思います。

私が強調したいのは、AI ツールは人間と組織によって設計されており、ツールが悪用される可能性はあるものの、AI ツールの動作とツールの機能に対して法的責任があることを明確にするデザインです。

私たちの議論は興味深いものですが、タイトルの選択でさえ意見が分かれます。「人間とAIの関係」を提案していますか？「人間と車、ボート、ブルドーザー、電球との関係」について議論するのは理にかなっていると思いますが、「関係」という言葉は、AI に与えすぎた対等な関係のようなものを示唆します。私は「人間のニーズに応える将来の AI システムの設計」のほうが嬉しいです。私にとって、人間のニーズには環境と生物多様性の保全、そして国連の持続可能性開発目標が含まれます。

パート IV — 「私」の使用について

Michael Muller:一人称単数で応答する商用チャットボットについて返信するのを忘れていました。もちろん、現在の LLM の例は数多くあります。これらのサービスが現在経済的に実行可能であるかどうかにかかわらず、 Bard、Bing、HuggingFace Open Assistant など、これらのサービスを提供する企業は、商業的および競争力のある実行可能性に賭けています。

ただし、これらはあなたが反対してきた UI です。以下は数年前の例です。スヘルら。(2020) は、一人称単数を使用する銀行チャットボットについて説明しています。私の銀行にも同様の機能があります。IGT ソリューションは、航空会社の予約や FAQ 用のチャットボットを提供しています。SABA Hospitality は、ホテルの予約とゲスト サービスに関して同様のサービスを提供しています。これらは、一人称単数形のチャットボットを使用する商用サービスです。

研究者らは、ナスとリーブの研究プログラム「コンピュータは社会的行為者である」（例、リーブスとナス、1996）に関連する研究でこの種のパラダイム（つまり、AI が自分自身を「私」または「私」と呼ぶ）を使用してきました。私は 1998 年にその例を見つけることができます (Elliott and Brzezinski、1998)。それより前の 10 年間の論文の一部にもこの種の対話があったのではないかと思います。あなたは、子供のおもちゃが自分自身を「私」と呼んでいるというシュトローメンの記述に対して、より強く反対すると思います (Bergman (ed.), 2000)。

人々がチャットボットを拒否してきた歴史があることに私は同意します。私たちの経験では、受け入れの問題は、ユーザーのリクエストとチャットボットの一連の意図の一致が不十分であること (つまり、リクエストとレスポンスのマッピング) にあります。現在の LLM は、おそらく前世代の発話からインテントへのマッピングを使用していないため、より適切な応答を提供しているように見えることがわかっています。代名詞を使用するチャットボットを人々が拒否するかどうかはわかりません。彼らは質の悪いサービスを提供するチャットボットを拒否していると思います。受け入れにつながる要因と失敗につながる要因について、より系統的に分析する必要があるかもしれません。

ベン・シュナイダーマン:代名詞の話に戻ってくれてありがとう。「I」の使用で成功した商用チャットボットがあるのは正しいことです。ただし、ご指摘のように、多くのテキスト形式の顧客サービス チャットボットは、あまり役に立たなかったために失敗しました。

あなたに有利なさらなる例は、「I」代名詞を使用する音声ベースのユーザー インターフェイス (VUI) である Alexa と Siri の成功です。VUI では、コンパクトなプレゼンテーションと巧妙なデザインにより「I」が受け入れられるようになりましたが、ビジュアル ユーザー インターフェイスでは計算方法が変わります。

しかし、メニュー ツリーを通じてユーザーをガイドする電話ベースの音声応答システムは、私が調べた例では、初期の「私」の代名詞の使用から「あなた」の代名詞に移行しているようです。たとえば、「営業時間を聞くには、1 と入力するか、言うことができます」 …」（気まずい「1 と入力するか、1 と言えば、営業時間をお知らせします…」とは対照的です）。

さらにもう 1 つのコメントは、「人々がチャットボットを拒否した歴史がある」と書いていることです。さまざまなユーザーコミュニティを区別すると、議論がより具体的になると思います。ほとんどのユーザーは、インターフェイスが「私」なのか「あなた」なのかに気づきませんが、「私」の欺瞞を強く嫌うユーザーもいれば、「あなた」のデザインで得られる権限を与えられた感覚を強く好むユーザーもいます。特に性別、年齢、コンピュータの経験などで分けた各カテゴリの割合が分かればよかったと思います。もう 1 つの興味深い質問は、代名詞の好みが年月の経過とともに変化しているかどうかです。

私の最後の論点は、Reeves と Nass の CASA 理論 (1996 年) についてです。私はこれらの問題についてクリフ・ナスとの議論を楽しんだ。ただし、彼が相談したマイクロソフト BOB の将来についての 1995 年の賭けには勝ったが、失敗するだろうと予想していた — ただ、これほど全面的に失敗するとは予想していなかった。バージョン 2 ではなく、単に 1 年以内に市場から削除されただけです。Reeves & Nass の研究は、ユーザーがコンピューターに対して社会的に反応することを実証しましたが、ユーザーは Apple ストアや Android ストアで依然として主流となっている直接操作インターフェイスや Web ベースのラップトップ デザインを好むという対立仮説は考慮していませんでした。

結論として、コンピュータが人間のふりをすることで商業的成功を収めることができる状況はありますが、支配的なデザインは依然としてモバイル デバイスのタッチスクリーンと Web ベースのマウス クリックであり、これによりユーザーは制御を維持し、擬人化されたデザインは回避されます (私はこう言いたいと思います)。トラップ！）。擬人化に代わる明確な選択肢があると思います。問題は代名詞よりも大きい。

私たちがこの議論をまとめている間に、Paola Bonomo のこのブログ投稿(2023) のようなオンラインでの議論が生まれました。

討論の概要

チェンハオ・タン、ジャスティン・D・ワイズ著

Human-Centered AI Medium 出版物 の編集者として、マイケルとベンが擬人化の問題について貴重な洞察を共有してくれたことに感謝しています。特に、彼らの議論はいくつかの中核的な問題について示唆に富み、明確になっていることがわかりました。この議論から得られる主なポイントは次の 3 つです。

• マイケルもベンも、「I」（つまり擬人化）を使用する選択がユーザーに大きな影響を与える可能性があることに同意します。
• ベンは、人間と人間以外の知能の二項対立について明確な立場をとり、責任の重要性を強調しています。デザイナーと開発者は、AI を組み込んだツールに対して責任を負うべきです。
• それに比べてマイケルは、人間と動物の関係に数多くの類似点を提示することで、連続体としての知性に対してより流動的な態度をとっています。人間の知性とアメーバが示す知性の間には「曖昧な領域」があり、それは興味深いものであるが、デザイン空間としては十分に研究されていないと彼は主張する。

自分の視点を共有する

AI システムにおける擬人化の問題についてはどのような立場ですか? 誰の議論の方があなたを納得させましたか? 別の視点はありますか？ぜひご意見をお聞かせください。このディスカッションにあなたの十分な情報に基づいたコメントを含めたい場合は、Chenhao Tanまでご連絡ください。

ここでは、コミュニティ内の他の人が共有したコメントを紹介します。

• Pattie Maes (MIT メディア ラボ、米国) — 2023 年 4 月 10 日
• スーザン・ブレナン(ストーニーブルック大学、米国) — 2023 年 4 月 10 日
• ロン・ワッカリー(カナダ、サイモン・フレイジャー大学) — 2023 年 4 月 18 日
• Mary Lou Maher (ノースカロライナ大学、シャーロット、米国) — 2023 年 4 月 26 日

• ベンダー EM、ゲブルー T.、マクミラン メジャー A.、ミッチェル S. (2021 年 3 月)。確率的オウムの危険性について: 言語モデルは大きすぎる可能性がありますか? 公平性、説明責任、透明性に関する 2021 年 ACM 会議議事録( 610 ～ 623 ページ)。
• バーグマン、E. (編)。（2000年）。情報家電とその先: 消費者向け製品のインタラクション デザイン。モーガン・カウフマン。
• ボノモ、P.、（2023 年 3 月 25 日）倫理的な AI は「私」とは決して言いません。https://livepaola.substack.com/p/an-ethical-ai-never-says-i
• Capek、K. (2004)。RUR (ロッサムの万能ロボット)。ペンギン。
• Capek, K.、Weatherall, M.、および Weatherall, R. (1996)。ニュートとの戦争。ノースウェスタン大学出版局。
• ドン、A.、ブレナン、S.、ローレル、B.、シュナイダーマン、B. (1992 年 6 月)。擬人化: ELIZA からターミネーター 2 まで。コンピューティング システムにおけるヒューマン ファクターに関する SIGCHI 会議議事録(67 ～ 70 ページ)。
• エリオット、C.、ブレジンスキー、J. (1998)。合成キャラクターとしての自律エージェント。AI マガジン、19 (2)、13–13。
• フィン、N. (2011)。群れとともに生きる: モンゴルにおける人間と動物の共存。ケンブリッジ大学出版局。
• ハラウェイ、DJ (2003)。コンパニオン種のマニフェスト: 犬、人間、そして重要な他者性(Vol. 1、pp. 3–17)。シカゴ：Prickly Paradigm Press..
• カミンスキー、J.、ニッチェナー、M. (2013)。犬は要点を理解しているでしょうか？犬と人間のコミュニケーション能力のレビュー。学習とモチベーション、44 (4)、294–302。
• レイコフ、G. (1986)。思考の図。比喩と記号、1 (3)、215–225。
• レイコフ、G.、ジョンソン、M. (2008)。私たちが生きている比喩。シカゴ大学出版局。
• レッキー、A. (2013)。インペリアル・ラッチのボックス化三部作。軌道。
• Liang, Y. および Lee, SA (2017)。自律型ロボットと人工知能の恐怖: 確率サンプリングによる国家代表データからの証拠。インターナショナル・ジャーナル・オブ・ソーシャル・ロボティクス、 9(3): 379–84。
• MJ ミュラー (1995)。HCI のための民族批判的ヒューリスティック ユーザーおよびその他の利害関係者と協力します。『 Proceedings of Computers in Context: Joining Forces in Design』、10 ～ 19 ページ (オーフス デンマーク、1995 年)。
• ミュラー、M. (2004)。感情コンピューティングにおける複数のパラダイム。コンピュータとの対話16.4 (2004): 759–768。
• MJ ミュラー、A. ドルイン (2012)。参加型デザイン: 人間とコンピューターの相互作用における 3 番目の空間。J. Jacko (編)、The Human–Computer Interaction Handbook (pp. 1125–1153)。CRCプレス。
• マムフォード、L. (1936、2010)。技術と文明。シカゴ大学出版局。
• ナターレ。S. (2021)。欺瞞的なメディア: 人工知能とチューリング テスト後の社会生活。オックスフォード大学出版局、米国。
• E フィリップス、KE シェーファー、DR ビリングス、F ジェンチ、ペンシルベニア州ハンコック (2016)。将来の人間とロボットのチームの類似体としての人間と動物のチーム: 設計に影響を与え、信頼を育みます。ヒューマンロボットインタラクションジャーナル、5 (1)、100–125。
• リーブス、B.、およびナス、C. (1996)。メディアの方程式: 人々がコンピューター、テレビ、新しいメディアを実際の人間のように扱う方法。ケンブリッジ、イギリス。
• ロス、SI、マルティネス、F.、ハウデ、S.、ミューラー、M.、およびワイズ、JD (2023 年 3 月)。プログラマーのアシスタント: ソフトウェア開発のための大規模な言語モデルとの会話による対話。第 28 回インテリジェント ユーザー インターフェイスに関する国際会議の議事録 (491 ～ 514 ページ)。
• Shneiderman, B.、Plaisant, C.、Cohen, MS、Jacobs, S.、Elmqvist, N.、および Diakopoulos, N. (2016)。ユーザー インターフェイスの設計: 人間とコンピューターの効果的な対話のための戦略。ピアソン。
• 相馬 哲 (2013 年 4 月) 東アジアにおける古代鷹狩りの民族考古学。2013 年アジア文化研究会議: 公式会議議事録( 81 ～ 95 ページ)。
• スヘル、SF、シュクラ、VK、ヴィアス、S、ミシュラ、副社長（2020 年 6 月）。人工知能言語を使用したチャットボットを介した銀行業務の自動化への会話。2020年第 8 回信頼性、情報通信技術および最適化に関する国際会議 (トレンドと将来の方向性)(ICRITO) (pp. 611–618)。IEEE。
• スプリンクル、T. (2017)。ロボフォビア: 不気味の谷の橋を架ける。アメリカ機械学会。
• MK ストレイト、C. アギロン、V. コントレラス、N. ガルシア (2017)。人間のようなロボットに対する一般の認識: オンラインの社会評論は、外見に基づいた不気味の谷、「技術乗っ取り」に対する一般的な恐怖、女性の性別を持つロボットの恥ずかしがらない性的対象化を反映しています。手順 第 26 回ロボットと人間の対話型コミュニケーションに関する IEEE 国際シンポジウム (RO-MAN)。IEEE、1418–23。
• ヴァイディンガー、L.、上里、J.、ラウ、M.、グリフィン、C.、ファン、PS、メラー、J.、… & ガブリエル、I. (2022 年 6 月)。言語モデルによってもたらされるリスクの分類。2022 年の公平性、説明責任、透明性に関する ACM 会議(pp. 214–229)。