बेन श्नाइडरमैन (मैरीलैंड विश्वविद्यालय, यूएस) और माइकल मुलर (आईबीएम रिसर्च, यूएस) द्वारा

परिचय

एंथ्रोपोमोर्फिज्म मानव-समान गुणों या व्यवहार को गैर-मानव संस्थाओं पर प्रोजेक्ट करने का कार्य है, जैसे कि जब लोग जानवरों, वस्तुओं, या प्राकृतिक घटनाओं को मानव-जैसी विशेषताओं या भावनाओं को देते हैं। एआई-आधारित प्रणालियों के लिए एंथ्रोपोमोर्फिक डिजाइनों के उपयोग पर लंबे समय से बहस चल रही है, एसीएम कंप्यूटर-ह्यूमन इंटरेक्शन कॉन्फ्रेंस में एक प्रारंभिक पैनल के लिए वापस (कम से कम) खींचती है, जिसका शीर्षक है, "एंथ्रोपोमोर्फिज्म: एलिजा से टर्मिनेटर 2" (डॉन) एट अल।, 1992)।

नृविज्ञान के आसपास के डिजाइन के मुद्दों में शामिल हैं:

1. एक मानव एजेंट जैसा चरित्र एक स्क्रीन पर दिखाया जाना चाहिए,
2. कंप्यूटरों को टेक्स्ट या वॉयस यूजर इंटरफेस के साथ खुद को इंसानों की तरह सामाजिक अभिनेताओं के रूप में प्रस्तुत करना चाहिए,
3. कंप्यूटर संकेतों या प्रतिक्रियाओं में प्रथम पुरुष सर्वनाम का उपयोग किया जाना चाहिए, उदाहरण के लिए, "मुझे आपकी मदद करने में खुशी होगी" और
4. उपयोगकर्ता वैकल्पिक, प्रत्यक्ष हेरफेर डिज़ाइन पसंद करते हैं जो उन्हें क्लिक करने, खींचने, ज़ूम करने या स्पर्श करने की अनुमति देता है।

माइकल और बेन ने मार्च और अप्रैल 2023 के दौरान नोटों का आदान-प्रदान जारी रखा और एड. चेनहाओ टैन, जस्टिन वीज़ और वर्नर गीयर ने सुझाव दिया कि उनके तर्कों को सार्वजनिक किया जाए। यह आलेख ईमेल एक्सचेंज के एक हल्के से संपादित संस्करण का प्रतिनिधित्व करता है, जिसे चार भागों में विभाजित किया गया है:

• भाग I - एंथ्रोपोमोर्फिज्म पर
• भाग II - एंथ्रोपोमोर्फिक कंप्यूटिंग सिस्टम
• भाग III - बुद्धिमान, बुद्धिमान नहीं, या एक निरंतरता?
• भाग IV - "मैं" के प्रयोग पर

आदान-प्रदान के दौरान, टिप्पणी और परिप्रेक्ष्य जोड़ने के लिए अतिरिक्त लोगों को बातचीत में लाया गया। हम उनके दृष्टिकोण को आगामी लेखों में प्रकाशित करेंगे ( सूची के लिए नीचे देखें )। यदि आप मिश्रण में अपनी आवाज जोड़ना चाहते हैं, तो कृपया चेनहाओ टैन से संपर्क करें ।

बहस

भाग I - एंथ्रोपोमोर्फिज्म पर

बेन श्नाइडरमैन : मेरी एक विशेष चिंता यह है कि जिस तरह से GPT-4 आउटपुट पहले व्यक्ति के सर्वनाम का उपयोग करता है, यह सुझाव देता है कि यह मानव है, उदाहरण के लिए: "मुझे खेद है, लेकिन मैं उस अनुरोध के साथ आपकी मदद नहीं कर पाऊंगा।" "GPT-4 का सरल विकल्प OpenAI द्वारा डिज़ाइन किया गया है ताकि यह इस तरह के अनुरोधों का जवाब न दे" जिम्मेदारी को स्पष्ट करेगा और पहले व्यक्ति के सर्वनामों के भ्रामक उपयोग से बचाएगा। मेरी दुनिया में, मशीनें "मैं" नहीं हैं और उन्हें इंसान होने का दिखावा नहीं करना चाहिए।

माइकल मुलर : सबसे पहले, हम मनुष्य बहुत लंबे समय से कलाकृतियों और प्राकृतिक संस्थाओं को व्यक्ति-समान प्राणियों के रूप में संबोधित करते रहे हैं। फ़ेलेरम के डेमेट्रियस ने 280 ईसा पूर्व से पहले प्रोसोपोपिया (व्यक्तित्व) के बारे में लिखा था। प्रोसोपोपिया के बारे में विकिपीडिया प्रविष्टि सिराच की पुस्तक से एक उदाहरण प्रदान करती है, जिसमें "बुद्धि अपनी प्रशंसा गाती है, / अपने ही लोगों के बीच वह अपनी महिमा का बखान करती है।" सृजित प्राणियों के कई खाते हैं जो जागरूकता या एजेंसी का एक रूप लेते हैं, ऐतिहासिक गोलेम (न कि टोल्किन एक, जिसे "गोलम" कहा जाता है) से लेकर मैरी वोलस्टोनक्राफ्ट शेली तक और सभी तरह से पैग्मेलियन और गैलाटिया के मिथक तक।

इसलिए मुझे लगता है कि मानव-समान गुणों के रूप में बनी-बनाई चीजों को संबोधित करने के लिए हमारे पास बहुत सारी मिसालें हैं। रीव्स और नास (1996) ने इस अवधारणा को एक शोध कार्यक्रम के रूप में आगे बढ़ाया, विशेष रूप से सामाजिक अभिनेताओं के रूप में कंप्यूटर के बारे में। कंप्यूटर के साथ इंटरेक्टिंग (मुलर, 2004) में उनकी स्थिति की मेरी आलोचना भी देखें, जिसमें मैंने मानवीकरण के लंबे इतिहास की समीक्षा की।

दूसरा, हम अभी यह पता लगा रहे हैं कि एल्गोरिथम के लिए एक गैर-निर्धारित संवादी भागीदार होने का क्या अर्थ है। एलएलएम हैं, मैं मानता हूं, स्टोकास्टिक तोते, और इसलिए "दिमाग" -लेस। बहरहाल, उनके पास एक ठोस सामाजिक उपस्थिति है। हम अभी तक नहीं जानते कि हम उस सामाजिक उपस्थिति के साथ क्या कर सकते हैं। (मैं कहता हूं "करो" एक व्यावहारिक अर्थ में "हम इसके लिए क्या उपयोग कर सकते हैं।") सभी मौजूदा परेशान (और कभी-कभी खतरनाक) एआई प्रचार से परे, हम किस तरह की संस्थाओं का निर्माण कर रहे हैं, और इसके बारे में शोध प्रश्न हैं हम उनसे कैसे संबंधित होंगे। आईएमएचओ, हम अभी तक नहीं जानते हैं।

मुझे संदेह है कि हमें अपने मानव/गैर-मानव बाइनरी को एक आयाम में, या कई आयामों में तोड़ने की आवश्यकता होगी। परंपरागत यूरोवेस्टर्न तरीके से सोचने के तरीके में, हम पहले से ही जानवरों के साथ अपने संबंधों में ऐसा करते हैं। हम में से अधिकांश के लिए, एक चट्टान सिर्फ एक चट्टान है (लेकिन ध्यान दें कि कुछ स्वदेशी और आदिवासी दर्शन इस कथन को चुनौती देंगे)। इसी तरह, कुछ जानवर - न्यूट्स, उदाहरण के लिए - केवल कैपेक के काम में दिलचस्प व्यक्तित्व है (कैपेक एट अल।, 1996), लेकिन उनके साथ हमारी बातचीत में नहीं (और मुझे याद है कि कैपेक का साथी रिश्तों के बारे में काम करता है-गया-गलत, के बारे में था रोबोट (कैपेक, 2004))। एलिजाबेथ फिलिप्स और सहकर्मियों (2016) ने कुछ जानवरों के साथ हमारे गहरे संबंधों की खोज की है, कुत्तों के साथ सामाजिक उपस्थिति का प्राथमिक उदाहरण है। सहयोगी प्रजातियों में Haraway's (2003) की अवधारणाओं को भी देखें, और पेचीदा रूप से फ़िजन (2011) मंगोलियाई लैस्सो-पोल पोनीज़ के साथ मानवीय संबंधों पर काम करते हैं। और इसलिए, जानवरों से संबंधित एक साधारण मानव/गैर-मानव भेद के बजाय विचार करने के लिए उन्नयन हैं।

फिलिप्स एट अल। (2016) मानव-एआई संबंधों के बारे में सोचने के लिए मानव-पशु संबंधों का उपयोग कर रहे थे। मुझे लगता है कि, जानवरों की तरह, सामाजिकता की डिग्री या सामाजिक उपस्थिति की डिग्री होती है, जो कम्प्यूटेशनल चीजों पर लागू हो सकती है। मुझे नहीं लगता कि हम अभी तक इन संभावनाओं को समाप्त करने के लिए पर्याप्त जानते हैं।

यदि आप मुझसे धोखाधड़ी और हेरफेर के बारे में अपनी पोस्ट में विषयों के बारे में पूछते हैं, तो मैं लोगों की सुरक्षा के बारे में आपके साथ हूं, और मैं लोगों को मूर्ख बनाने के लिए मानवीयता का ढोंग करने वाले एआई से लोगों को बचाने के लिए सख्त नियमों का समर्थन करूंगा। मेरे लिए, यह चिंता का एक अलग सेट है कि हम नई तकनीकों, नई-प्रचारित तकनीकों और नई-पुनर्व्याख्या वाली तकनीकों का पता कैसे लगाते हैं (जिनमें से सभी का उपयोग संभावित भविष्य पर विचार करने के लिए किया जा सकता है), जब तक कि हमारे अन्वेषण ईमानदार हैं, पूरी तरह से- खुलासा, और द्वेष के बिना।

भाग II - एंथ्रोपोमोर्फिक कंप्यूटिंग सिस्टम

बेन श्नाइडरमैन: हां, मैं मानता हूं कि व्यक्तित्व का उपयोग अरस्तू की कलाकृतियों के लिए किया गया है और इसका उपयोग जारी रहेगा। मुझे नहीं लगता कि मैं इस ज़ोंबी विचार को मार सकता हूं।

हालाँकि, ज़ोंबी विचारों के समस्याग्रस्त प्रभाव हो सकते हैं। एक सामान्य आर्टिफैक्ट उपयोगकर्ता के लिए नावों, कारों या रोम्बास के लिए मानव-समान संदर्भ बनाना एक बात है, लेकिन मैं इसे एक समस्या के रूप में देखता हूं जब डिजाइनर उस भाषा का उपयोग करते हैं, जिसके परिणामस्वरूप खराब उत्पाद होते हैं। विफल एंथ्रोपोमोर्फिक सिस्टम का लंबा इतिहास Microsoft BOB और क्लिपी से पहले भी चला जाता है, लेकिन इसने अरबों डॉलर की विफलताओं का उत्पादन जारी रखा है। सबसे हालिया गंभीर घातक डिजाइन गलती एलोन मस्क की जिद थी कि चूंकि मानव चालक केवल आंखों का उपयोग करते हैं, उनके टेस्ला केवल वीडियो का उपयोग करेंगे। अपने इंजीनियरों की आपत्तियों पर राडार या लिडार के इस्तेमाल को रोककर उन्होंने एक सबऑप्टिमल सिस्टम तैयार किया है जो घातक परिणाम पैदा करता है।

मेरे लिए, रूपक मायने रखते हैं (लैकॉफ़ एंड जॉनसन, 2006), इसलिए डिजाइनरों को सतर्क रहना चाहिए कि कैसे उनका विश्वास है कि कंप्यूटर को प्राकृतिक भाषा में संवाद करना चाहिए, जैसे लोग करते हैं, कंप्यूटर क्षमताओं का उपयोग करने में उनकी विफलता का कारण बनता है जैसे कि दृश्य के प्रचुर मात्रा में प्रदर्शित होने वाली जानकारी जानकारी।

एंथ्रोपोमोर्फिज्म से डिज़ाइन करने के लिए और अधिक समर्थन जो उपयोगकर्ताओं को अधिक नियंत्रण प्रदान करता है, समाजशास्त्री लुईस ममफोर्ड से आता है। मैं उनकी क्लासिक किताब, टेक्निक्स एंड सिविलाइजेशन (1936) से काफी प्रभावित था ।जो "एनीमिज़्म की बाधा" पर अध्याय में एक स्पष्ट विश्लेषण प्रस्तुत करता है। ममफोर्ड का वर्णन है कि कैसे मानव या पशु मॉडल पर आधारित प्रारंभिक डिजाइन एक बाधा है जिसे नई तकनीकों को विकसित करने में दूर करने की आवश्यकता है: "मशीन का सबसे अप्रभावी प्रकार एक आदमी [/ महिला] या किसी अन्य जानवर की यथार्थवादी यांत्रिक नकल है।" ममफोर्ड का कहना है कि यदि डिजाइनर "जैव-प्रेरित" धारणाओं जैसे संवादी इंटरफेस के साथ चिपके रहते हैं, तो प्रौद्योगिकी की विशिष्ट क्षमताओं, जैसे पहियों, जेट इंजन, या उच्च रिज़ॉल्यूशन वाले कंप्यूटर डिस्प्ले को अनदेखा किया जा सकता है। इसलिए, यह समझ में आता है कि एआई सिस्टम के लिए प्रारंभिक डिजाइन के रूप में एंथ्रोपोमोर्फिक वाक्यांशों की पेशकश की जाएगी, लेकिन इस चरण से परे जाने से डिजाइनर परिष्कृत एल्गोरिदम, विशाल डेटाबेस, अलौकिक सेंसर, सूचना प्रचुर मात्रा में प्रदर्शित होने का बेहतर लाभ उठा सकेंगे।

माइकल मुलर : मेरे लिए, मूल प्रश्न यह है: "मनुष्य गैर-मानव बुद्धि से कैसे संबंधित हो सकता है?" नृविज्ञान एक संभावित प्रतिक्रिया है, लेकिन केवल एक ही नहीं, और एकमात्र प्रासंगिक विषय नहीं है।

आप और मैं इस बात से सहमत हैं कि शब्द मायने रखते हैं और रूपक मायने रखते हैं। इसलिए मुझे फिलिप्स व अन्य के काम में इतनी दिलचस्पी थी। (2016)। वे जानवरों के साथ मानवीय संबंधों को देखकर एआई (बहुवचन) के लिए उपयोगी रूपकों (बहुवचन) की तलाश कर रहे थे। यह सच है, एक अलग तरीके से, हार्वे के अधिकांश कार्य (2003) में।

जैसा कि मैंने पहले लिखा था, हमारे साझा प्रश्न के लिए मेरी भाषा है: "मनुष्य गैर-मानव बुद्धि से कैसे संबंधित हो सकता है?" मेरे लिए, यह मूल मुद्दे के करीब है, और अजीब गैर-मानव संस्थाओं के कई संभावित अन्वेषणों के बीच एंथ्रोपोमोर्फिज्म एक उप-प्रश्न है। नृविज्ञान नए विचारों और नई संस्थाओं के लिए एक रूपक दृष्टिकोण है। मेरे विचार में, रूपक विचार के पात्र बन जाते हैं, जिसके माध्यम से हम उस विचित्रता को व्यक्त कर सकते हैं। (समकालीन उदारवादी सिद्धांत के बाद, मैंने "विचार के आंकड़े" लिखे (उदाहरण के लिए, लैकॉफ़, 1986; लैकॉफ़ एंड जॉनसन, 2008) न केवल "आंकड़े और भाषण," और फिर से मुझे लगता है कि हम सहमत हैं।) मैं चाहता हूं कि हम रूपकों का पता लगाएं एलएलएम के बारे में, हमें यह सोचने में मदद करने के लिए कि वे "क्या" हैं, लेकिन यह भी कि वे क्या हो सकते हैं, या बन सकते हैं।

इस तरह से वाक्यांशबद्ध, मुझे आशा है कि (मानव) भाषा का हमारा उपयोग हमें कम्प्यूटेशनल चीजों की प्रकृति के बारे में एक वैचारिक स्थान खोलने में मदद कर सकता है जिसे हम बना रहे हैं और इसके साथ बातचीत कर रहे हैं। मुझे लगता है कि रूपक उपयोगी होगा, और समानता की व्यापक श्रेणी भी उपयोगी होगी। ये चीजें अब बहुत स्तरित हैं। उदाहरण के लिए, जबकि हर कोई एलएलएम और एफएम के बारे में बात कर रहा है, हममें से कुछ (आप और मैं सहित) उन एलएलएम के यूआई के बारे में सोच रहे हैं।

एलएलएम परत शायद एक "हम" है - आखिरकार, इसमें सैकड़ों हजारों मनुष्यों से गैर-सहमति से कटाई वाली सामग्री शामिल है। या शायद मुझे "कब्जा सामग्री" कहना चाहिए था। या “चोरी हुई आवाज़ें।”

यूआई परत एक "मैं" हो सकती है, क्योंकि यह बातचीत की शैली है जो हम मनुष्यों के लिए काम करती है। मुझे लगता है कि आप पसंद करेंगे कि यूआई परत एक "यह" है - या हो सकता है कि इसे तीसरे व्यक्ति में खुद को संदर्भित करना चाहिए, जैसे ऐन लेकी की इंपीरियल रेडच बुक्स (लेकी, 2013) में घायल सहायक (साइबोर्ग सैनिक) जो कोशिश करता है यह कहकर बचाव के प्रयास को विफल करें, "बेड़े के कप्तान ... पूरे सम्मान के साथ, यह चोट मरम्मत के लायक होने के लिए बहुत गंभीर है।"

चारित्रिक रूप से, मैं विफलताओं को रोकने की तुलना में संभावनाओं को खोलने में अधिक रुचि रखता हूं। हां, क्लिप्पी और बीओबी असफल थे, लेकिन इसका मतलब यह नहीं है कि सभी व्यक्तित्व विफल हो जाएंगे। एक एलएलएम के लिए एक मानवीकृत यूआई के साथ हमारे प्रयोग काफी सफल रहे हैं। हमारे प्रोग्रामर के सहायक प्रोटोटाइप (रॉस एट अल। 2023) का उपयोग करने वाला कोई भी व्यक्ति इसकी ऑन्कोलॉजिकल स्थिति के बारे में भ्रमित नहीं है। कोई भी इसे स्मार्ट टोस्टर के अलावा कुछ भी समझने की गलती नहीं करता है, लेकिन यह परिवर्तनकारी रूप से मददगार स्मार्ट टोस्टर साबित होता है। ("परिवर्तनकारी रूप से स्मार्ट" नहीं, बस "परिवर्तनकारी रूप से सहायक।") तो अब हमारे पास विफलताओं के उदाहरण के रूप में क्लिपी और बीओबी हैं, लेकिन हमारे पास हमारे प्रोग्रामर के सहायक भी सफलता के उदाहरण के रूप में हैं (और शायद कुछ पुराने नास और रीव्स ' प्रयोग भी)। एंथ्रोपोमोर्फिज्म आवश्यक रूप से समस्याओं का कारण नहीं बनता है।

IMHO, UI से LLM वास्तव में एक नया डिज़ाइन स्थान है। हम अभी तक नहीं जानते हैं कि इस स्थान के महत्वपूर्ण कारक क्या हैं। मुझे संदेह है कि वे कारक एक दूसरे के साथ बातचीत करेंगे। उदाहरण के लिए, एंथ्रोपोमोर्फिज्म कब फायदेमंद होता है और कब हानिकारक होता है? (अर्थात, कौन से अन्य कारक मानवीकरण के साथ इंटरैक्ट करते हैं?) जब हम एचसीएक्सएआई संदेश (और निहित संदेश) लिखते हैं, तो कौन सी विशेषताएँ महत्वपूर्ण होंगी, और कब, और किसके लिए? उदाहरण के लिए XAI पर उपोल एहसान और समीर पासी का पेपर देखें, जिसमें दो उपयोगकर्ता समूह और संदेशों की तीन शैलियाँ हैं (एहसान और अन्य, 2021)। और क्या "विचार उपकरण" (उदाहरण के लिए, विचार के आंकड़े) हमें इस नए डिजाइन स्थान का पता लगाने में मदद कर सकते हैं?

भाग III - बुद्धिमान, बुद्धिमान नहीं, या एक निरंतरता?

बेन श्नाइडरमैन: माइकल सुझाव देते हैं कि हमारा साझा प्रश्न है "मनुष्य गैर-मानव बुद्धि से कैसे संबंधित हो सकता है?" लेकिन मैं इस बात से असहमत हूं कि मशीनों को बुद्धिमान कहा जाना चाहिए। मैं लोगों के लिए सोचने, जानने, समझने, बुद्धि, ज्ञान, ज्ञान आदि जैसे कुछ शब्द आरक्षित करता हूं, और मशीनों का वर्णन करने के लिए अन्य शब्द ढूंढता हूं। मैंने इसे डिजाइनिंग द यूजर इंटरफेस (2016) के सभी छह संस्करणों में किया है और मुझे लगता है कि यह एक महत्वपूर्ण उत्पादक निर्णय था।

सिमोन नटले की किताब (2021) पढ़ना मददगार होगा। उनका कहना है कि एंथ्रोपोमोर्फिक और ह्यूमनॉइड रोबोट एक सम्मोहक विचार हैं, लेकिन उन्होंने ऐतिहासिक रूप से विफल उत्पादों का नेतृत्व किया है। वह कई अनुप्रयोगों के "भोले धोखे" और "सीधे जानबूझकर धोखे" का वर्णन करता है, जो दोनों "एआई के सर्किट, सॉफ्टवेयर और डेटा के रूप में कार्य करने के लिए केंद्रीय हैं जो इसे चलाते हैं।" लोगों को धोखा देने की इच्छा के बारे में नटले के पास अद्भुत अंतर्दृष्टि है।

मैं माइकल और सहभागी डिजाइन के प्रति उनकी लंबी भक्ति का सम्मान करता हूं और उन्हें एक सहयोगी के रूप में महत्व देता हूं, इसलिए मैं वास्तव में माइकल को गैर-मानवीय बुद्धि में एक समस्याग्रस्त विश्वास से दूर करने की उम्मीद करता हूं।

याद रखें कि लगभग एक चौथाई आबादी कंप्यूटर से डरती है, खासकर जब डिजाइन से पता चलता है कि कंप्यूटर लोगों की तरह हैं (लियांग और ली, 2017; स्प्रिंकल, 2017; स्ट्रेट एट अल।, 2017)। अन्य लोगों ने यह भी सुझाव दिया है कि "एन्थ्रोपोमोर्फाइजिंग सिस्टम अत्यधिक निर्भरता या असुरक्षित उपयोग को जन्म दे सकता है" (वीडिंगर एट अल।, 2022)।

मशीनों को मानवीय क्षमताओं तक बढ़ा कर हम लोगों की विशिष्टता को कम कर देते हैं। मैं भेद को बनाए रखने और जिम्मेदारी स्पष्ट करने के लिए उत्सुक हूं। इसलिए मुझे नहीं लगता कि मशीनों को प्रथम-व्यक्ति सर्वनाम का उपयोग करना चाहिए, लेकिन यह वर्णन करना चाहिए कि सिस्टम के लिए कौन जिम्मेदार है या बस मशीन की तरह प्रतिक्रिया दें। कभी-कभी सही वाक्यांश प्राप्त करने के लिए थोड़ी कल्पना की आवश्यकता होती है, लेकिन यह सबसे अच्छा होता है जब यह अधिक संक्षिप्त हो।

बैंकिंग मशीनों के शुरुआती दिनों में सोशल गेम को बार-बार "टिली द टेलर," "हार्वे वॉलबैंकर," आदि के साथ आजमाया गया था, जो बातूनी थे, जैसे, "गुड मॉर्निंग। मैं आज आपके लिये क्या कर सकता हूँ?" लेकिन ये विफल रहे, "क्या आप जमा करना या निकालना चाहेंगे?" या इससे भी अधिक कॉम्पैक्ट रूप से केवल बटन देना जो ग्राहक चाहते थे उसे छूने के लिए। उपयोगकर्ता उन डिज़ाइनों में स्थानांतरित हो गए जो उन्हें अपने कार्यों को जितनी जल्दी हो सके पूरा करने में सक्षम बनाते थे, जबकि उन्हें यह समझ देते थे कि वे एक मशीन का संचालन कर रहे थे।

मुद्दा यह नहीं है कि क्या मनुष्य एक भ्रामक सामाजिक मशीन से संबंधित हो सकते हैं - बेशक वे कर सकते हैं। मुद्दा यह है कि "क्या हम मानते हैं कि मनुष्य और मशीन अलग-अलग श्रेणियां हैं?" या "क्या हम मानव आत्म क्षमता और जिम्मेदारी को बढ़ाने वाली प्रभावी मशीनों को डिजाइन करके मानवीय गरिमा का सम्मान करेंगे?" Apple Store में 2M+ ऐप्स ज्यादातर प्रत्यक्ष हेरफेर पर आधारित हैं। अमेज़ॅन खरीदारी, Google खोज, नेविगेशन आदि जैसे प्रमुख एप्लिकेशन मानव-समान डिजाइनों से बचते हैं क्योंकि उन्हें यह समझ में आ गया है कि वे उप-इष्टतम और अलोकप्रिय हैं। क्या माइकल 3 व्यापक रूप से उपयोग किए जाने वाले ऐप्स की ओर इशारा कर सकता है जिनका इंटरफ़ेस मानव जैसा है?

माइकल मुलर: मेरी स्थिति का एक हिस्सा मानव-पशु संबंधों पर आधारित है। एक कुत्ते में किसी प्रकार की बुद्धिमत्ता होती है, और विशेष रूप से एक उच्च प्रशिक्षित कुत्ते जैसे गाइड डॉग या शीपडॉग (फिलिप्स एट अल।, 2016) या एक लासो-पोल पोनी (फजिन, 2011) में। एक बाज़ (सोमा, 2013) में एक अलग, बहुत ठंडी किस्म की बुद्धि होती है। और फिर भी एक बैल में एक अन्य प्रकार की बुद्धि (फिलिप्स एट अल।, 2016)। हमारे उन जानवरों के साथ संबंध हैं।

मुझे लगता है कि शीपडॉग और शिकारी कुत्ते दिलचस्प मामले पेश करते हैं। हम (मनुष्य, माइकल नहीं) उन्हें काम करने के लिए बाहर भेजते हैं (कामिंस्की और निट्ज़स्चनर, 2013)। हम उनके साथ अपने कार्यों का समन्वय करते हैं - कभी-कभी दूरियों पर। वे हमारे साथ अपने कार्यों का समन्वय करते हैं।

फिर अमीबा और पैरामेशिया हैं, जो समझ सकते हैं और प्रतिक्रिया दे सकते हैं, लेकिन हमारे पास इतना नहीं है कि हम मस्तिष्क के रूप में सोच सकें, और फिर भी दिमाग के रूप में कम।

लेकिन कुत्ते एक मध्यवर्ती मामला हैं। उनकी एक सामाजिक उपस्थिति है। उनके पास दिमाग जैसा कुछ है। उनके अपने लक्ष्य होते हैं, और कभी-कभी उनके लक्ष्य और हमारे लक्ष्य संरेखित हो सकते हैं, और कभी-कभी नहीं। कभी-कभी हम उनका मन बदल सकते हैं। कभी-कभी वे हमारे विचार बदल सकते हैं। मुझे लगता है कि यह उन्हें गैर-मानवीय बुद्धिमत्ता जैसा लगता है।

ऐसा कहा जा रहा है, मैं एलएलएम (या, अधिक ठीक से, एलएलएम के लिए यूआई) को लक्ष्य, इरादे और निश्चित रूप से दिमाग नहीं देखता हूं। हमने जो UI बनाए हैं, उनकी सामाजिक उपस्थिति है। हम उन्हें डिज़ाइन कर सकते हैं ताकि वे अलग-अलग व्यक्तित्व वाले दिखें - भले ही हम जानते हैं कि स्मार्ट टोस्टर में व्यक्तित्व नहीं होते हैं। तोते में व्यक्तित्व जैसा कुछ होता है, लेकिन स्टोचैस्टिक तोता नहीं (बेंडर एट अल।, 2021)। लेकिन स्टोकेस्टिक तोते की एक तरह की सामाजिक उपस्थिति हो सकती है। यह उन्हें अजीब और नया बनाता है, क्योंकि वे टोस्टर और सामाजिक प्राणियों के गुणों को मिलाते हैं। लोगों ने "अलौकिक घाटी" के बारे में लिखा है। जब मैंने कहा "अजीब," मैं कह सकता था "अलौकिक।" मुझे लगता है कि वे उपयोगी, उत्पादक रूप से अजीब हैं। वे हमें नए, प्रायोगिक विचार सोचने में मदद करते हैं।

मैं अभी भी बुद्धि को एक निरंतरता के रूप में सोचता हूं, बाइनरी नहीं। हम उस निरंतरता को एक छोर पर अमीबा और दूसरे छोर पर मनुष्यों के साथ लंगर डाल सकते हैं। यह बीच का धुंधला क्षेत्र है जो मुझे रूचि देता है। ऐसा इसलिए है क्योंकि मैं इसे संकरता या "तीसरे स्थान" के क्षेत्र के रूप में सोचता हूं। एक अजीब जगह। मेरे 1995 के आरहस पेपर (मुलर, 1995) में, और फिर एलीसन ड्रूइन (मुलर और ड्रूइन, 2012) के साथ हैंडबुक अध्याय में, हमने दावा किया कि संस्कृतियों के अंतर-मिश्रण के ये स्थान नई समझ और अलग ज्ञान के लिए उर्वर स्थान हैं, वास्तव में क्योंकि वे अजीब हैं। मुझे लगता है कि मानव-एआई संबंध नवीनता के संकर स्थान भी हो सकते हैं।

यदि आप कहते हैं कि न तो जानवरों और न ही एल्गोरिदम में विशेष रूप से मानव बुद्धि है, तो मैं आपके साथ वहीं हूं। अब तक, हम मनुष्य अभी भी विशेष प्रकार के हैं - हालाँकि हाल के नैतिक कागजात बताते हैं कि हम उतने विशेष नहीं हैं जितना हम सोचते थे कि हम हैं।

मेरे लिए, यह रूपक की बात नहीं है। यह संभावनाओं की बात है, और अस्पष्ट लेकिन बीच-बीच में दिलचस्प है।

मैं स्वीकार करता हूं कि आप गैर-मानव बुद्धि की धारणा को खारिज करते हैं। मुझे लगता है कि हमारी "बहस" यहीं केंद्रित हो सकती है। हमें सहमत होने की जरूरत नहीं है। हालाँकि, हमें एक शीर्षक पर सहमत होने की आवश्यकता है। यदि आप गैर-मानव बुद्धि के बारे में कोई शीर्षक नहीं चाहते हैं, तो शायद हम "मनुष्यों और एआई के संबंध" जैसे कम विशिष्ट शीर्षक का प्रयास कर सकते हैं?

बेन श्नाइडरमैन : आपके आगे के उत्तर और एक मध्यवर्ती मामले के रूप में जानवरों की चर्चा के लिए धन्यवाद। मेरे लिए विशिष्ट मुद्दा जिम्मेदारी है, इसलिए यह याद रखना महत्वपूर्ण है कि पालतू पशु मालिक अपने पालतू जानवरों के लिए कानूनी और नैतिक रूप से जिम्मेदार हैं।

चर्चा तब और जटिल हो जाती है जब हम उन मनुष्यों पर विचार करते हैं जो अपने कार्यों के लिए पूरी तरह से जिम्मेदार नहीं हैं, जैसे कि जिन्होंने शराब या नशीली दवाओं का सेवन किया है जो उनकी बुद्धि, स्मृति, अवधारणात्मक, संज्ञानात्मक और मोटर क्षमताओं के साथ हस्तक्षेप करते हैं।

तो आप कह सकते हैं कि बुद्धिमत्ता एक निरंतरता है, लेकिन जिम्मेदारी अधिक द्विआधारी है और डिजाइन में एक महत्वपूर्ण कारक है। मुझे लगता है कि चर्चा केवल बुद्धिमत्ता तक ही सीमित नहीं हो सकती है, लेकिन इसमें स्मृति, अवधारणात्मक, संज्ञानात्मक और मोटर क्षमताएं शामिल होनी चाहिए।

मुझे डिजाइन पर जोर देने में दिलचस्पी है जो स्पष्ट करता है कि एआई उपकरण मनुष्यों और संगठनों द्वारा डिजाइन किए गए हैं, जो कानूनी रूप से जिम्मेदार हैं कि वे क्या करते हैं और उपकरण क्या करते हैं, हालांकि उपकरण का दुरुपयोग किया जा सकता है, आदि।

हमारी बहस दिलचस्प है, लेकिन शीर्षक का चुनाव भी हमें विभाजित करता है। आप "मनुष्यों और एआई के संबंध" का सुझाव देते हैं? मुझे लगता है कि "मनुष्यों और कारों/नौकाओं/बुलडोजर/लाइटबल्ब्स के संबंधों" पर चर्चा करना उचित है, लेकिन शब्द "रिश्ते" एक सहकर्मी संबंध की तरह कुछ सुझाव देते हैं, जो एआई को बहुत अधिक देते हैं। मुझे "मानवीय जरूरतों को पूरा करने के लिए भविष्य के एआई सिस्टम डिजाइन करने" से खुशी होगी। मेरे लिए, मानव आवश्यकताओं में पर्यावरण और जैव विविधता संरक्षण और संयुक्त राष्ट्र सतत विकास लक्ष्य शामिल हैं ।

भाग IV - "मैं" के प्रयोग पर

माइकल मुलर: मैं उन व्यावसायिक चैटबॉट्स के बारे में प्रतिक्रिया देना भूल गया जो प्रथम-व्यक्ति एकवचन में प्रतिक्रिया करते हैं। बेशक, मौजूदा एलएलएम से कई उदाहरण हैं। क्या ये सेवाएं आज आर्थिक रूप से व्यवहार्य हैं, इन्हें बनाने वाली कंपनियां अपनी व्यावसायिक और प्रतिस्पर्धी व्यवहार्यता पर दांव लगा रही हैं : बार्ड, बिंग, हगिंगफेस ओपन असिस्टेंट, और इसी तरह।

हालाँकि, वे UI हैं जिन पर आप आपत्ति करते रहे हैं। यहाँ कुछ साल पहले के उदाहरण हैं। सुहेल एट अल। (2020) बैंकिंग चैटबॉट्स का वर्णन करें जो प्रथम-व्यक्ति एकवचन का उपयोग करते हैं। मेरे बैंक में एक समान सुविधा है। आईजीटी सॉल्यूशंस एयरलाइन आरक्षण और अक्सर पूछे जाने वाले प्रश्नों के लिए एक चैटबॉट प्रदान करता है। SABA हॉस्पिटैलिटी में होटल आरक्षण और अतिथि सेवाओं के लिए समान पेशकश है। ये व्यावसायिक प्रस्ताव हैं जो प्रथम-व्यक्ति एकवचन चैटबॉट का उपयोग करते हैं।

शोधकर्ताओं ने नास और रीव्स के शोध कार्यक्रम "कंप्यूटर सोशल एक्टर्स हैं" (उदाहरण के लिए, रीव्स और नास, 1996) से संबंधित काम में इस तरह के प्रतिमान (यानी एआई खुद को "आई" या "मी" के रूप में संदर्भित करते हुए) का इस्तेमाल किया है। मुझे 1998 (इलियट और ब्रेज़िंस्की, 1998) में एक उदाहरण मिल सकता है, और मुझे संदेह है कि पिछले दशक के कुछ पत्रों में भी इस तरह के संवाद थे। मुझे लगता है कि आप स्ट्रोमेन के बच्चों के खिलौनों के वर्णन पर अधिक दृढ़ता से आपत्ति करेंगे, जो खुद को "आई" (बर्गमैन (एड।), 2000) के रूप में संदर्भित करते हैं।

मैं मानता हूं कि चैटबॉट्स को अस्वीकार करने वाले लोगों का एक इतिहास है। हमारे अनुभव में, स्वीकृति का मुद्दा चैटबॉट के इरादों के सेट (यानी, प्रतिक्रिया के लिए मैपिंग अनुरोध) के लिए उपयोगकर्ता के अनुरोध के खराब मिलान के बारे में है। हम देख रहे हैं कि वर्तमान एलएलएम अधिक उपयुक्त प्रतिक्रियाएँ प्रदान करते हैं, शायद इसलिए कि वे पिछली पीढ़ी के उच्चारण-से-इरादों की मैपिंग का उपयोग नहीं करते हैं। मुझे यकीन नहीं है कि लोग सर्वनाम का उपयोग करने वाले चैटबॉट्स को अस्वीकार करते हैं। मुझे लगता है कि वे खराब सेवा प्रदान करने वाले चैटबॉट्स को अस्वीकार करते हैं। हमें उन कारकों का अधिक व्यवस्थित विश्लेषण करने की आवश्यकता हो सकती है जो स्वीकृति की ओर ले जाते हैं और कारक जो विफलता की ओर ले जाते हैं।

बेन श्नाइडरमैन: सर्वनामों के मुद्दे पर वापस आने के लिए धन्यवाद। आप सही हैं कि व्यावसायिक चैटबॉट हैं, जो "I" उपयोग के साथ सफल हुए हैं। हालाँकि, जैसा कि आप इंगित करते हैं कि कई पाठ्य ग्राहक सेवा चैटबॉट विफल हो गए हैं क्योंकि वे केवल सहायक नहीं थे।

आपके पक्ष में एक और उदाहरण एलेक्सा और सिरी की सफलता है, जो वॉयस-आधारित यूजर इंटरफेस (वीयूआई) हैं जो "आई" सर्वनाम का उपयोग करते हैं। VUIs के साथ कॉम्पैक्ट प्रस्तुतियों और चतुर डिजाइनों ने "I" को स्वीकार्य बना दिया है, लेकिन विज़ुअल यूजर इंटरफेस के साथ कैलकुलस बदल जाता है।

हालाँकि, टेलीफोन-आधारित वॉयस रिस्पांस सिस्टम जो एक मेनू ट्री के माध्यम से उपयोगकर्ताओं का मार्गदर्शन करते हैं, प्रतीत होता है कि "I" के प्रारंभिक उपयोग से "आप" सर्वनामों के उदाहरणों में मैंने देखा है, उदाहरण के लिए "आप खुलने के घंटे सुनने के लिए 1 टाइप या कह सकते हैं" ..." (अजीब के विपरीत "यदि आप टाइप करते हैं या 1 कहते हैं, तो मैं आपको शुरुआती घंटे दूंगा ...")।

एक और टिप्पणी यह ​​है कि आप लिखते हैं "चैटबॉट्स को अस्वीकार करने वाले लोगों का एक इतिहास है"। मुझे लगता है कि यदि हम विभिन्न उपयोगकर्ता समुदायों में अंतर करते हैं तो हमारी चर्चा अधिक ठोस होगी। अधिकांश उपयोगकर्ता ध्यान नहीं देते हैं कि इंटरफ़ेस "मैं" या "आप" है, लेकिन कुछ उपयोगकर्ता "मैं" के धोखे को दृढ़ता से नापसंद करते हैं, जबकि कुछ उपयोगकर्ता सशक्तिकरण की भावना को दृढ़ता से पसंद करते हैं जो उन्हें "आप" डिज़ाइन के साथ प्राप्त होता है। काश मुझे प्रत्येक श्रेणी में प्रतिशत पता होता, विशेष रूप से लिंग, आयु, कंप्यूटर अनुभव आदि से अलग। एक और दिलचस्प सवाल यह है कि क्या सर्वनामों की प्राथमिकता वर्षों से बदल रही है।

मेरा अंतिम बिंदु रीव्स और नास कासा सिद्धांत (1996) के बारे में है। मैंने इन मुद्दों के बारे में क्लिफ नैस के साथ अपने तर्कों का आनंद लिया, हालाँकि मैंने Microsoft BOB के भविष्य के बारे में 1995 की शर्त जीती थी, जिस पर उन्होंने परामर्श किया था, लेकिन मुझे असफल होने की उम्मीद थी - मुझे उम्मीद नहीं थी कि यह पूरी तरह से विफल हो जाएगा कोई संस्करण 2 नहीं था, इसे केवल एक वर्ष के भीतर बाजार से हटा दिया गया था। जबकि रीव्स एंड नास के अध्ययनों ने प्रदर्शित किया कि उपयोगकर्ता सामाजिक रूप से कंप्यूटरों पर प्रतिक्रिया देंगे, उन्होंने वैकल्पिक परिकल्पना पर विचार नहीं किया, जो यह था कि उपयोगकर्ता प्रत्यक्ष हेरफेर इंटरफेस को पसंद करेंगे जो कि ऐप्पल और एंड्रॉइड स्टोर्स और वेब-आधारित लैपटॉप डिज़ाइनों में प्रभावी रहे हैं।

अंत में, ऐसी स्थितियाँ हैं जिनमें कंप्यूटर एक व्यक्ति होने का दिखावा करके व्यावसायिक सफलता प्राप्त कर सकते हैं, प्रमुख डिज़ाइन मोबाइल डिवाइस टचस्क्रीन और वेब-आधारित माउस क्लिक हैं जो उपयोगकर्ताओं को नियंत्रण में रखते हैं और एंथ्रोपोमोर्फिक डिज़ाइन से बचते हैं (मैं कहूंगा) जाल!)। मुझे लगता है कि एंथ्रोपोमोर्फिज्म का एक स्पष्ट विकल्प है। मुद्दा सर्वनाम से बड़ा है।

जब हम इस चर्चा को समाप्त कर रहे थे, तब ऑनलाइन चर्चाएँ सामने आईं, जैसे पाओला बोनोमो (2023) का यह ब्लॉग पोस्ट ।

बहस सारांश

चेनहाओ टैन और जस्टिन डी. वाइज़ द्वारा

मानव-केंद्रित एआई माध्यम प्रकाशन के संपादकों के रूप में , हम आभारी हैं कि माइकल और बेन ने मानवरूपवाद के मुद्दे पर अपनी बहुमूल्य अंतर्दृष्टि साझा की। विशेष रूप से, हमने पाया कि उनकी चर्चा कई प्रमुख मुद्दों पर विचारोत्तेजक और स्पष्ट करने वाली थी। इस बहस के तीन मुख्य अंश इस प्रकार हैं:

• माइकल और बेन दोनों इस बात से सहमत हैं कि "I" (अर्थात, मानवरूपीवाद) का उपयोग करने का विकल्प उपयोगकर्ताओं पर महत्वपूर्ण प्रभाव डाल सकता है।
• बेन मानव और गैर-मानव बुद्धि के बीच एक द्विआधारी अंतर पर एक स्पष्ट रुख रखता है और जिम्मेदारी के महत्व पर प्रकाश डालता है: डिजाइनरों और डेवलपर्स को एआई-इन्फ्यूज्ड टूल्स की जिम्मेदारी लेनी चाहिए।
• माइकल, तुलना में, मानव-पशु संबंधों के साथ कई उपमाओं को प्रस्तुत करके एक निरंतरता के रूप में बुद्धि के प्रति अधिक तरल रवैया अपनाता है। उनका तर्क है कि मानव बुद्धि और अमीबा द्वारा प्रदर्शित बुद्धिमत्ता के बीच एक "अस्पष्ट क्षेत्र" है, जो एक डिजाइन स्थान के रूप में दिलचस्प और अविकसित है।

अपना दृष्टिकोण साझा करें

एआई सिस्टम में एंथ्रोपोमोर्फिज्म के मुद्दे पर आप कहां खड़े हैं? किसके तर्क ने आपको अधिक आश्वस्त किया? क्या आपका कोई अलग दृष्टिकोण है? हमें आपका दृष्टिकोण सुनना अच्छा लगेगा! यदि आप चाहते हैं कि आपकी सुविचारित टिप्पणी इस चर्चा में शामिल हो तो कृपया चेनहाओ टैन से संपर्क करें ।

यहां समुदाय में दूसरों द्वारा साझा की गई टिप्पणियां हैं।

• पैटी मेस (एमआईटी मीडिया लैब, यूएस) - 10 अप्रैल, 2023
• सुसान ब्रेनन (स्टोनी ब्रुक यूनिवर्सिटी, यूएस) - 10 अप्रैल, 2023
• रॉन वैकरी (साइमन फ्रेज़ियर यूनिवर्सिटी, कनाडा) - 18 अप्रैल, 2023
• मैरी लो माहेर (उत्तरी कैरोलिना विश्वविद्यालय, शार्लोट, यूएस) - 26 अप्रैल, 2023

• बेंडर, ईएम, गेब्रू, टी।, मैकमिलन-मेजर, ए।, और मिशेल, एस। (2021, मार्च)। स्टोचैस्टिक तोते के खतरों पर: क्या भाषा मॉडल बहुत बड़े हो सकते हैं? निष्पक्षता, जवाबदेही और पारदर्शिता पर 2021 एसीएम सम्मेलन की कार्यवाही में (पीपी। 610-623)।
• बर्गमैन, ई. (एड.)। (2000)। सूचना उपकरण और परे: उपभोक्ता उत्पादों के लिए इंटरैक्शन डिज़ाइन । मॉर्गन कॉफ़मैन।
• बोनोमो, पी., (25 मार्च, 2023). एक नैतिक एआई कभी "मैं" नहीं कहता।https://livepaola.substack.com/p/an-ethical-ai-never-says-i
• कैपेक, के. (2004). आरयूआर (रोसुम के सार्वभौमिक रोबोट) । पेंगुइन।
• कैपेक, के., वेदरऑल, एम., और वेदरऑल, आर. (1996)। न्यूट्स के साथ युद्ध । नॉर्थवेस्टर्न यूनिवर्सिटी प्रेस।
• डॉन, ए., ब्रेनन, एस., लॉरेल, बी., और श्नाइडरमैन, बी. (1992, जून)। एंथ्रोपोमोर्फिज्म: फ्रॉम एलिजा टू टर्मिनेटर 2. कंप्यूटिंग सिस्टम्स में मानव कारकों पर सिग्ची सम्मेलन की कार्यवाही में (पीपी। 67-70)।
• इलियट, सी।, और ब्रजज़िंस्की, जे (1998)। सिंथेटिक पात्रों के रूप में स्वायत्त एजेंट। एआई पत्रिका , 19 (2), 13–13।
• फिजन, एन। (2011)। झुंड के साथ रहना: मंगोलिया में मानव-पशु सह-अस्तित्व । कैम्ब्रिज यूनिवर्सिटी प्रेस.
• हरावे, डीजे (2003)। साथी प्रजातियों का घोषणापत्र: कुत्ते, लोग, और महत्वपूर्ण अन्यता (वॉल्यूम 1, पीपी। 3-17)। शिकागो: प्रिक्ली पैराडाइम प्रेस..
• कमिंसकी, जे।, और निट्ज़स्चनर, एम। (2013)। क्या कुत्तों को बात समझ में आती है? कुत्ते-मानव संचार क्षमता की समीक्षा। सीखना और प्रेरणा , 44 (4), 294-302।
• लैकॉफ़, जी. (1986). विचार का एक आंकड़ा। रूपक और प्रतीक , 1 (3), 215–225।
• लैकॉफ़, जी., और जॉनसन, एम. (2008)। रूपक जिनके द्वारा हम जीते हैं। शिकागो विश्वविद्यालय प्रेस।
• लेकी, ए। (2013)। इंपीरियल राड बॉक्सिंग त्रयी । की परिक्रमा।
• लिआंग, वाई और ली, एसए (2017)। स्वायत्त रोबोट और आर्टिफिशियल इंटेलिजेंस का डर: संभावना नमूनाकरण के साथ राष्ट्रीय प्रतिनिधि डेटा से साक्ष्य। इंटरनेशनल जर्नल ऑफ सोशल रोबोटिक्स, 9(3): 379-84।
• मुलर, एमजे (1995)। उपयोगकर्ताओं और अन्य हितधारकों के साथ HCI कार्य के लिए नृवंशविज्ञान संबंधी अनुमान। संदर्भ में कंप्यूटर की कार्यवाही में : डिजाइन में सेना में शामिल होना , पीपी। 10-19 (आरहस डेनमार्क, 1995)।
• मुलर, एम। (2004)। प्रभावशाली कंप्यूटिंग में एकाधिक प्रतिमान। कंप्यूटर के साथ इंटरैक्ट करना 16.4 (2004): 759-768।
• मुलर, एमजे, और ड्रुइन, ए (2012)। सहभागी डिजाइन: मानव-कंप्यूटर संपर्क में तीसरा स्थान। जे. जैको (एड) में, द ह्यूमन-कंप्यूटर इंटरेक्शन हैंडबुक (पीपी. 1125-1153)। सीआरसी प्रेस।
• ममफोर्ड, एल। (1936, 2010)। तकनीक और सभ्यता । शिकागो विश्वविद्यालय प्रेस।
• नटले। एस. (2021)। धोखेबाज मीडिया: ट्यूरिंग टेस्ट के बाद कृत्रिम बुद्धि और सामाजिक जीवन । ऑक्सफोर्ड यूनिवर्सिटी प्रेस, यूएसए।
• फिलिप्स, ई।, शेफर, केई, बिलिंग्स, डीआर, जेंट्सच, एफ।, और हैनकॉक, पीए (2016)। भविष्य की मानव-रोबोट टीमों के लिए एक एनालॉग के रूप में मानव-पशु टीम: डिजाइन को प्रभावित करना और विश्वास को बढ़ावा देना। जर्नल ऑफ़ ह्यूमन-रोबोट इंटरेक्शन , 5 (1), 100-125।
• रीव्स, बी।, और नास, सी। (1996)। मीडिया समीकरण: लोग कंप्यूटर, टेलीविजन और नए मीडिया को वास्तविक लोगों की तरह कैसे मानते हैं । कैम्ब्रिज, यूके।
• रॉस, एसआई, मार्टिनेज, एफ।, हौडे, एस।, मुलर, एम।, और वीज़, जेडी (2023, मार्च)। प्रोग्रामर का सहायक: सॉफ्टवेयर विकास के लिए एक बड़े भाषा मॉडल के साथ संवादी बातचीत। इंटेलिजेंट यूजर इंटरफेस पर 28वें अंतर्राष्ट्रीय सम्मेलन की कार्यवाही में (पीपी. 491-514)।
• श्नाइडरमैन, बी।, प्लाज़ेंट, सी।, कोहेन, एमएस, जैकब्स, एस।, एल्मक्विस्ट, एन।, और डायकोपोलोस, एन। (2016)। यूजर इंटरफेस डिजाइन करना: प्रभावी मानव-कंप्यूटर इंटरैक्शन के लिए रणनीतियां । पियर्सन।
• सोमा, टी। (2013, अप्रैल)। पूर्वी एशिया में प्राचीन बाज़ का नृवंशविज्ञान। सांस्कृतिक अध्ययन 2013 पर एशियाई सम्मेलन में : आधिकारिक सम्मेलन की कार्यवाही (पीपी। 81-95)।
• सुहेल, एसएफ, शुक्ला, वीके, व्यास, एस., और मिश्रा, वीपी (2020, जून)। आर्टिफिशियल मशीन इंटेलिजेंस लैंग्वेज का इस्तेमाल करते हुए चैटबॉट के जरिए बैंकिंग में ऑटोमेशन पर बातचीत। 2020 में 8वां अंतर्राष्ट्रीय सम्मेलन ऑन रिलायबिलिटी, इन्फोकॉम टेक्नोलॉजीज एंड ऑप्टिमाइज़ेशन (ट्रेंड्स एंड फ्यूचर डायरेक्शन्स) (आईसीआरआईटीओ) (पीपी। 611–618)। आईईईई।
• स्प्रिंकल, टी। (2017)। रोबोफोबिया: ब्रिजिंग द अनकेनी वैली । यांत्रिक इंजीनियरों का अमरीकी समुदाय।
• स्ट्रेट, एमके, एगुइलन, सी।, कॉन्ट्रेरास, वी। और गार्सिया, एन। (2017)। मानव जैसे रोबोटों की जनता की धारणा: ऑनलाइन सामाजिक टिप्पणी एक उपस्थिति-आधारित अलौकिक घाटी को दर्शाती है, एक "प्रौद्योगिकी अधिग्रहण" का एक सामान्य भय, और महिला-लिंग वाले रोबोटों का बेरोकटोक यौनकरण। प्रक्रिया। रोबोट और ह्यूमन इंटरएक्टिव कम्युनिकेशन (आरओ-मैन) पर 26वां आईईईई अंतर्राष्ट्रीय संगोष्ठी। आईईईई, 1418-23।
• वीडिंगर, एल।, उसाटो, जे।, रौह, एम।, ग्रिफिन, सी।, हुआंग, पीएस, मेलोर, जे।, … और गेब्रियल, आई। (2022, जून)। भाषा मॉडल द्वारा उत्पन्न जोखिमों का वर्गीकरण। 2022 में निष्पक्षता, जवाबदेही और पारदर्शिता पर ACM सम्मेलन (पीपी. 214–229)।