बस रैखिक और कई रैखिक प्रतिगमन गुणांक के बीच संबंध क्या है?
इतनी सरलता, चलो 2 भविष्यवक्ताओं के लिए कई रैखिक प्रतिगमन मामले को प्रतिबंधित करते हैं, $x_1, x_2$। आप पुनः प्राप्त करें$y$ प्रत्येक पर व्यक्तिगत रूप से और मिलता है $\hat{\beta}_1, \hat{\beta}_2$। अब आप पुनः प्राप्त करें$y$ दोनों पर और मिलता है $\hat{\gamma}_1, \hat{\gamma}_2$।
तो मुझे पता है अगर $x_1 \perp x_2$, फिर $\hat{\beta}_i = \hat{\gamma}_i$, लेकिन अगर वे ऑर्थोगोनल नहीं हैं, तो उनके बीच के रिश्ते के बारे में क्या कहा जा सकता है?
यदि प्रत्येक सरल रैखिक प्रतिगमन मामलों में, ढलान सकारात्मक था, अर्थात, $\hat{\beta}_1, \hat{\beta_2} > 0$, हम उम्मीद कर सकते हैं $\hat{\gamma}_1, \hat{\gamma}_2 > 0$?
मैंने सिर्फ गणित एसई पर यह सवाल पूछा था (https://math.stackexchange.com/questions/3791992/relationship-between-projection-of-y-onto-x-1-x-2-individually-vs-projecti), लेकिन मैं उस प्रश्न में एक रेखीय बीजगणित अंतर्ज्ञान के लिए देख रहा हूँ। यहां, मैं किसी भी तरह के अंतर्ज्ञान, सांख्यिकीय या नहीं के लिए खोल रहा हूं।
जवाब
यहाँ एक सरल उदाहरण है जो अंतर्दृष्टि प्रदान करता है।
y = c(5.8,5.2,4.7,8.7,8.1,7.7,10.2,9.6,9.0)
x1 = c(1,1.5,2,1.8,2.7,3.5,3,4,4.5)
x2 = c(1,1,1,2,2,2,3,3,3)
summary(lm(y~x1))
summary(lm(y~x2))
summary(lm(y~x1+x2))
plot(x1,y,col=x2)
legend("topleft", c("x2=1", "x2=2", "x2=3"), pch=1, col=1:3)
सरल प्रतिगमन में महत्वपूर्ण सकारात्मक संबंध होते हैं, लेकिन एकाधिक प्रतिगमन से पता चलता है कि X1 का प्रभाव महत्वपूर्ण और नकारात्मक है। ग्राफ स्पष्ट रूप से अंतर्ज्ञान देता है:
X1 को अनदेखा करना, बड़े x2 के लिए आम तौर पर y के उच्च मूल्य हैं। इसी तरह, x2 को नजरअंदाज करते हुए, आमतौर पर बड़े X1 के लिए y के बड़े मूल्य हैं। ये अवलोकन सरल प्रतिगमन परिणामों की व्याख्या करते हैं।
एकाधिक प्रतिगमन मॉडल में, ढलान गुणांक एक एक्स के प्रभाव का अनुमान है, जबकि दूसरा तय किया जाता है । और आप आसानी से ग्राफ में देख सकते हैं कि y का मान X1 से तीन समूहों में से किसी एक में x बढ़ जाता है जहां x2 को निर्धारित किया जाता है (या तो 1,2, या 3 पर)।