मानव-केंद्रित व्याख्या योग्य AI (XAI) क्या है?

व्याख्या योग्य AI (XAI) या व्याख्यात्मक AI, कृत्रिम बुद्धिमत्ता (AI) है जिसके निर्णय और भविष्यवाणियाँ मनुष्य द्वारा समझी जा सकती हैं। यह मशीन लर्निंग में "ब्लैक बॉक्स" अवधारणा के विपरीत है, जहां इसके डिजाइनर भी यह नहीं बता सकते हैं कि एआई एक विशिष्ट निर्णय पर क्यों पहुंचा। एआई सीसी को मोटे तौर पर दो श्रेणियों में विभाजित किया जा सकता है: ऑब्जेक्टिव एआई और सब्जेक्टिव एआई। XAI, मेरी चर्चा का विषय, बाद वाले का है। यह ऑब्जेक्टिव एआई की तुलना में एआई का अधिक उन्नत संस्करण है, जो मेरी मीडिया कलाकृति 'ईएक्सप्लेनेबल ह्यूमन' की एक प्रमुख प्रमुख तकनीक भी है।

सब्जेक्टिव एआई स्पष्टीकरण की मांग करता है।

जैसे-जैसे हमारा समाज अधिक जटिल होता गया है, हमने वित्त, बीमा और चिकित्सा देखभाल के क्षेत्र में ग्राहकों के भरोसे पर आधारित व्यक्तिगत जानकारी और संपत्तियों से निपटना शुरू कर दिया है। केवल छवियों को वर्गीकृत करने या संख्याओं की भविष्यवाणी करने से परे, एआई को अब "स्पष्ट निर्णय लेने" के लिए बनाया जा रहा है। नतीजतन, निष्पक्षता, विश्वसनीयता और सटीकता सुनिश्चित करने के लिए एआई और एल्गोरिदम विकसित करने की आवश्यकता है। दूसरे शब्दों में, उनके एआई सिस्टम से उत्पन्न परिणाम प्राप्त करने के आधार और व्युत्पन्न प्रक्रियाओं की वैधता की पुष्टि करना आवश्यक है।

XAI के साथ व्याख्या योग्य मानव

परियोजना सारांश

वित्त, चिकित्सा देखभाल और शिक्षा जैसे कई विशिष्ट क्षेत्रों में आर्टिफिशियल इंटेलिजेंस पेश किया जा रहा है, लेकिन ऐसा लगता है कि आर्टिफिशियल इंटेलिजेंस अभी तक हमारे आंतरिक दिमाग और हमारी आत्म-छवि की समझ तक नहीं पहुंचा है। क्या एआई मानव अहंकार की व्याख्या कर सकता है? इस प्रश्न को ध्यान में रखते हुए, मैंने और मेरी टीम ने इंटरैक्टिव मीडिया आर्टवर्क की स्थापना की योजना बनाई।

क्या अहंकार को समझाया जा सकता है? प्रदर्शनी की शुरुआत इस आसान से सवाल से हुई। एक वाक्य में 'स्व' का वर्णन करना असंभव लगता है। अस्पष्टीकृत अनिश्चितता ने एआई के क्षेत्र को भी प्रभावित किया है, और इस समस्या को हल करने के लिए eExplainable AI (व्याख्यात्मक कृत्रिम बुद्धिमत्ता) की अवधारणा उभरी है। यह परिणाम देने के लिए एआई द्वारा उपयोग किए जाने वाले कारणों और प्रक्रियाओं की व्याख्या करके अधिक विश्वसनीयता का पीछा करने की मानवीय इच्छा को दर्शाता है।

यहाँ एक और सवाल है। फिर, क्या वह सब कुछ विश्वसनीय है जिसे समझाया जा सकता है? हमने 'स्वयं' के सबसे कठिन विषय को अपनी वस्तु व्याख्या के रूप में चुना और यह देखने की कोशिश की कि क्या एआई के साथ संवाद के माध्यम से इसे बेहतर ढंग से समझा जा सकता है। हम एआई द्वारा वर्णित 'स्व' और दर्शकों के सदस्यों द्वारा वर्णित 'स्व' के बीच होने वाले संयोग और संघर्ष का भी अनुभव करना चाहते हैं।

प्राकृतिक भाषा के ब्लॉक बनाएं; इरादा और संस्थाएं

इस प्रदर्शनी में क्रियान्वित एआई श्रोताओं से अपना परिचय देने के लिए प्रश्न पूछता है, श्रोताओं के उत्तर एकत्र करता है, और खोजशब्दों को निकालता है और उनकी व्याख्या करता है। उसके बाद, एआई व्याख्या की गई सामग्री के आधार पर वाक्यों का पुनर्निर्माण करके दर्शकों के सामूहिक अहंकार का अनुमान लगाता है।

इस AI को बनाने के लिए, एक डेटा आर्किटेक्ट और IxD डिज़ाइनर के रूप में, मैं एक प्रोजेक्ट के इस मैराथन में पहला धावक था। मैंने प्रश्नों की तीन-चरणीय प्रणाली का निर्माण किया जिसका उपयोग हमारा AI लोगों को समझने के लिए कर सकता है।

पहला चरण "लिंग," और "आयु" जैसे जनसांख्यिकीय प्रश्न हैं। दूसरा इस दुनिया में दोस्ती और नफरत के बारे में समाजशास्त्रीय सवाल है। यह पहले चरण की तुलना में अधिक कट्टरपंथी है। तीसरे चरण में अधिक गोपनीय प्रश्न शामिल हैं। हमारा एआई दर्शकों से पूछता है कि वे कौन से रहस्य संजोते हैं और वे एआई पर भरोसा करते हैं। इन सवालों के जवाब हमारे अपने नियम-आधारित मैट्रिक्स में शामिल किए गए हैं, और प्रत्येक व्यक्ति की आत्म-छवि को व्यक्त करने वाले वाक्यों की एक पंक्ति निकाली गई है।

ओपन AI GPT-3 की यात्रा

इस परियोजना के केंद्र में, हम निकाले गए वाक्यों की इस सरल रेखा का विस्तार करने के लिए "GPT-3" भाषा मॉडल का उपयोग करते हैं। जनरेटिव पूर्व-प्रशिक्षित ट्रांसफॉर्मर 3 (GPT-3; शैलीबद्ध GPT·3) एक स्वप्रतिगामी भाषा मॉडल है जो मानव-समान पाठ का उत्पादन करने के लिए गहन शिक्षण का उपयोग करता है। प्रारंभिक पाठ को एक संकेत के रूप में देखते हुए, यह उस पाठ का उत्पादन करेगा जो संकेत को जारी रखता है। हमने 172.5 बिलियन मापदंडों का उपयोग करके अपने दर्शकों के सदस्यों को "उचित" उत्तर देने का लक्ष्य रखा है। हमारे द्वारा उपयोग किए जाने वाले उदाहरण इस प्रकार हैं।

हमारा मूल परिणाम (नियम-आधारित मैट्रिक्स)

आप एक ऐसे व्यक्ति हैं जिसने बहुत सी कठिनाइयों का अनुभव किया है, और दुनिया की हर चीज में दिलचस्पी रखता है, लेकिन अकेला है।

विस्तारित परिणाम (GPT-3)

आपने अपने जीवन में कई कठिनाइयों का अनुभव किया है और परिणामस्वरूप आप दुनिया में होने वाली हर चीज में रुचि रखते हैं, हालांकि आपके आसपास की दुनिया में आपकी गहरी दिलचस्पी के बावजूद, आप एक गहरा आंतरिक अकेलापन महसूस करते हैं। यह आंतरिक अकेलापन कुछ ऐसा है जिसे आपने हमेशा महसूस किया है और यह कुछ ऐसा है जिसे आप अब और भी अधिक मजबूती से महसूस करते हैं। आप दूसरों के साथ घनिष्ठ संबंधों के लिए तरसते हैं लेकिन आपको लोगों के साथ गहरे स्तर पर जुड़ने में मुश्किल होती है जिसके परिणामस्वरूप आप अक्सर अलग-थलग और अकेला महसूस करते हैं।

दर्शकों को एक उत्तर मिलेगा जैसे कि वे एक भाग्य-बताने वाली दुकान पर अपने लिए एक सही व्याख्या सुन रहे थे, या बेहोशी की थोड़ी सी अप्रिय भावना के साथ। क्या एआई वास्तव में हमें समझा सकता है? उस अस्पष्ट प्रश्न का उत्तर देना ही हमारी प्रदर्शनी का एकमात्र उद्देश्य था।