कारण अनुमान और सीखने के लिए न्यूरल स्पाइकिंग | पीएलओएस कम्प्यूटेशनल बायोलॉजी

लैंसडेल, बेंजामिन जेम्स और कोनराड पॉल कोर्डिंग। "कारण अनुमान और सीखने के लिए तंत्रिका स्पाइकिंग।" पीएलओएस कम्प्यूटेशनल बायोलॉजी 19.4 (2023): ई1011005।

त्वरित सारांश

तथ्य यह है कि जब न्यूरॉन्स अपनी दहलीज से परे चलाए जाते हैं तो स्पाइक अक्सर एक कम्प्यूटेशनल सीमा के रूप में देखा जाता है। हालांकि, इस अध्ययन से पता चलता है कि स्पाइकिंग न्यूरॉन्स को उनके कारण प्रभाव और अनुमानित ग्रेडिएंट डिसेंट-आधारित सीखने का एक निष्पक्ष अनुमान उत्पन्न करने की अनुमति देता है। यह स्पाइकिंग तंत्र न्यूरॉन्स को कारण अनुमान समस्याओं को हल करने और कन्फ्यूडर और डाउनस्ट्रीम गैर-रैखिकताओं को दूर करने में सक्षम बनाता है। शोध से पता चलता है कि स्पाइकिंग न्यूरल नेटवर्क क्रेडिट असाइनमेंट समस्या को प्रभावी ढंग से हल कर सकते हैं और सीखने के कार्यों में स्पाइकिंग के अनूठे कार्य में अंतर्दृष्टि प्रदान करते हैं।

पृष्ठभूमि

स्पाइकिंग तंत्रिका नेटवर्क, जो जैविक न्यूरॉन्स के व्यवहार की नकल करते हैं, प्रशिक्षित करने के लिए चुनौतीपूर्ण रहे हैं और अक्सर निरंतर गतिविधियों वाले कृत्रिम तंत्रिका नेटवर्क की तुलना में कम प्रभावी ढंग से प्रदर्शन करते हैं। स्पाइकिंग को आमतौर पर विच्छिन्नता के माध्यम से ग्रेडिएंट्स के प्रसार में कठिनाइयों के कारण एक नुकसान के रूप में देखा जाता है। हालाँकि, यह लेख स्पाइकिंग के कम्प्यूटेशनल लाभों की पड़ताल करता है।

एक कम्प्यूटेशनल समस्या दोनों जैविक और कृत्रिम प्रणालियों का सामना क्रेडिट असाइनमेंट समस्या है, यह निर्धारित करना कि उप-इष्टतम प्रदर्शन के लिए कौन सी गतिविधियां या भार जिम्मेदार हैं। इस समस्या के लिए कारणात्मक आकलन की आवश्यकता है, यह पहचानने के लिए कि कौन से न्यूरॉन प्रदर्शन के लिए वास्तव में जिम्मेदार हैं, न कि केवल इसके साथ सहसंबद्ध होने के लिए। भ्रमित करना, जहां अन्य चर रुचि और प्रदर्शन दोनों के चर को प्रभावित करते हैं, इस अनुमान को कठिन बनाते हैं।

यादृच्छिक गड़बड़ी, जहां न्यूरॉन्स कभी-कभी अतिरिक्त स्पाइक्स पेश करते हैं या स्पाइक्स को हटाते हैं, कारण अनुमान के लिए एक स्वर्ण-मानक दृष्टिकोण है। हालांकि, यह प्रदर्शन में गिरावट की लागत के साथ आता है, और यह स्पष्ट नहीं है कि सटीक अनुमान के लिए न्यूरॉन्स अपने स्वयं के शोर स्तर को कैसे जानेंगे।

लेख स्पाइकिंग डिसकंटिनिटी के आधार पर एक वैकल्पिक दृष्टिकोण का सुझाव देता है। औसत इनाम की तुलना जब एक न्यूरॉन बमुश्किल स्पाइक्स बनाम जब यह लगभग स्पाइक्स होता है, तो न्यूरॉन इसके कारण प्रभाव का अनुमान लगा सकता है। इन मामलों के बीच एकमात्र अंतर यह है कि न्यूरॉन नुकीला है या नहीं, और इनाम में किसी भी अंतर को न्यूरॉन की गतिविधि के लिए जिम्मेदार ठहराया जा सकता है। यह न्यूरॉन्स को उनके कारण प्रभाव का कुशलता से अनुमान लगाने की अनुमति देता है।

प्रस्तावित विधि न्यूरॉन्स को ग्रेडिएंट्स की गणना करने और सिनैप्टिक शक्तियों को समायोजित करने में सक्षम बनाती है, जिससे भ्रमित इनपुट की उपस्थिति में भी इनाम को अधिकतम करने के लिए सीखने की सुविधा मिलती है। विच्छिन्नता-आधारित शिक्षण नियम स्पाइकिंग के कम्प्यूटेशनल लाभों में अंतर्दृष्टि प्रदान करते हुए, न्यूरॉन्स अपने कारण प्रभाव को कैसे सीखते हैं, इसका एक प्रशंसनीय खाता प्रदान करता है।

परिणाम

1. गतिशील तंत्रिका नेटवर्क से संभाव्य ग्राफिकल मॉडल तक। ग्राफिकल मॉडल बताते हैं कि कैसे एक स्पाइकिंग न्यूरल नेटवर्क में इनाम पर न्यूरॉन का कारण प्रभाव औपचारिक रूप से होता है। मॉडल चर के बीच कारण संबंधों और निर्भरता को पकड़ने के लिए नेटवर्क की गतिशीलता, कुल चर और हस्तक्षेप पर विचार करते हैं।

बहस

इस पाठ में प्रस्तुत शोध तंत्रिका नेटवर्क में ढाल-आधारित शिक्षा और कारण अनुमान के बीच संबंधों पर केंद्रित है। लेखक "स्पाइकिंग डिसकंटीनिटी" नामक एक विधि का प्रस्ताव करते हैं जो न्यूरॉन्स को उनके स्पाइकिंग तंत्र का उपयोग करके उनके कारण प्रभाव का अनुमान लगाने की अनुमति देता है। यह दृष्टिकोण अर्थमिति में प्रयुक्त प्रतिगमन विच्छिन्नता डिजाइन से प्रेरित है।

लेखक इस बात पर जोर देते हैं कि अन्य तंत्रिका सीखने के नियम भी कारणात्मक अनुमान लगाते हैं। सुदृढीकरण सीखने के एल्गोरिदम, उदाहरण के लिए, एक इनाम संकेत पर एक एजेंट या न्यूरॉन की गतिविधि के प्रभाव का अनुमान लगाते हैं। सुदृढीकरण सीखने में कारणात्मक निष्कर्ष निहित है, और मस्तिष्क में विभिन्न न्यूरोमॉड्यूलेटर्स इनाम या अपेक्षित इनाम का प्रतिनिधित्व करने के लिए जाने जाते हैं। ये एल्गोरिदम स्वतंत्र शोर पर भरोसा करते हैं, यह मानते हुए कि शोर प्रत्येक न्यूरॉन के लिए निजी है और अन्य न्यूरॉन्स के साथ असंबद्ध है। हालांकि, मस्तिष्क में न्यूरॉन्स के बीच शोर सहसंबंध देखा जाता है, और सहसंबद्ध शोर एक कन्फ़्यूडर के रूप में कार्य कर सकता है, जिससे यह निर्धारित करना मुश्किल हो जाता है कि पुरस्कार में परिवर्तन के लिए न्यूरॉन की कौन सी गतिविधि जिम्मेदार है। स्पाइकिंग डिसकंटिनिटी मेथड इस मुद्दे को एक निष्पक्ष तरीके से इनाम सिग्नल पर उनके कारण प्रभाव का अनुमान लगाने की अनुमति देकर इस मुद्दे को संबोधित करता है।

पाठ बड़े पैमाने पर सीखने की समस्याओं के लिए गड़बड़ी-आधारित विधियों की सीमाओं और क्रेडिट असाइनमेंट समस्याओं को हल करने में बैकप्रोपैगेशन एल्गोरिदम की दक्षता पर भी चर्चा करता है। स्पाइकिंग डिसकंटिनिटी लर्निंग नियम सुदृढीकरण सीखने के एल्गोरिदम की तुलना में अधिक कुशल नहीं है, लेकिन शोर सहसंबंधों के लिए अधिक मजबूत है। तंत्रिका आर्किटेक्चर में क्रेडिट असाइनमेंट समस्या को हल करने के लिए इसका उपयोग बैकप्रोपैजेशन-जैसे शिक्षण तंत्र के साथ किया जा सकता है।

इसके अलावा, लेखक ध्यान दें कि स्पाइकिंग डिसकंटिनिटी लर्निंग रूल अन्य जैविक रूप से प्रशंसनीय स्पाइकिंग लर्निंग मॉडल में अंतर्दृष्टि प्रदान करता है, जैसे कि स्पाइक-आधारित सीखने के प्रतिमान जैसे स्पाइक टाइमिंग-डिपेंडेंट प्लास्टिसिटी (एसटीडीपी)। वे न्यूरॉन्स के ज्ञात शारीरिक गुणों के साथ सीखने के नियम की अनुकूलता पर भी चर्चा करते हैं, जिसमें अनियमित स्पाइकिंग शासन, उप-दहलीज पर निर्भर प्लास्टिसिटी और न्यूरोमॉड्यूलेशन पर निर्भरता शामिल है।

सारांश में, स्पाइकिंग डिसकंटीनिटी विधि न्यूरॉन्स को एक निष्पक्ष तरीके से एक इनाम संकेत पर उनके कारण प्रभाव का अनुमान लगाने की अनुमति देती है। इसे तंत्रिका सीखने में कारणात्मक निष्कर्ष के रूप में देखा जा सकता है और शोर सहसंबंधों की भूमिका, शारीरिक गुणों के साथ संगतता और मस्तिष्क में अन्य शिक्षण मॉडल के संबंध में अंतर्दृष्टि प्रदान करता है।

मुफ्त पीडीएफ से टेक्स्ट कन्वर्टर यहां क्लिक करें : पीडीएफ को टेक्स्ट में मुफ्त में कन्वर्ट करें!

मुफ़्त चैटजीपीटी दस्तावेज़ क्यू एंड ए : किसी भी लम्बाई के किसी भी प्रकार के दस्तावेज़ के बारे में सवालों के जवाब पाएं!

प्लग: कृपया मेरी पुस्तक तभी खरीदें जब आपके पास ऐसा करने का साधन हो, मैं आमतौर पर विज्ञापन नहीं करता, लेकिन मैं बचाए रखने के लिए संघर्ष कर रहा हूं। इमेजिनेशन अनलेशेड: कैनवस एंड कलर, विज़न्स फ्रॉम द आर्टिफिशियल: कम्पेंडियम ऑफ़ डिजिटल आर्ट वॉल्यूम 1 (आर्टिफिशियल इंटेलिजेंस ड्रॉ आर्ट) - पी, शाक्सीब, ए, बिक्सजेश द्वारा किंडल संस्करण। कला और फोटोग्राफी किंडल ई-बुक्स @ Amazon.com।