'Taille' de l'interception à la régression linéaire
J'ai une question sur ce tableau.
Pourquoi la constante (interception) change-t-elle si radicalement du modèle 1 au modèle 2?
Réponses
Les coefficients de chaque prédicteur vont presque toujours changer lorsque vous ajoutez d'autres prédicteurs. Voici un exemple de changement de réponse lorsque vous posez une question différente.
Votre logiciel devrait vous permettre d'ajuster une régression sans aucun prédicteur. Par exemple, si j'essaie de prédire le poids des gens avec une régression sans prédicteur, alors j'obtiendrai le poids moyen comme prédiction. Cela sera affiché comme l'interception ou la constante.
Si j'ajoute ensuite la hauteur comme prédicteur, l'interception $b_0$ dans
poids prédit $= b_0 + b_1$ la taille
est la prédiction pour une personne hypothétique de hauteur nulle. (Imaginez brancher en hauteur$= 0$; puis le terme avec coefficient$b_1$ disparaît.) L'interception signalée pour $b_0$ dans ce cas, cela sera bien en dehors des données et peut même être renvoyé sous forme de nombre négatif.
Si j'ajoute un indicateur, dites 1 si homme et 0 si femme, pour que le modèle soit maintenant
poids prédit $= b_0 + b_1$ la taille $+\ b_2$ Masculin
l'interception est maintenant la prédiction pour une personne hypothétique de taille nulle et qui est une femme (pour qui un homme $= 0$). Ce sera encore différent, mais pas tellement.
En général dans
$\hat y = b_0 + b_1 x_1 + \cdots + b_J x_J = b_0 + \sum_{j=1}^J x_j$
L'interception $b_0$est ce qui est prédit lorsque tous les$x_j$ (donc tout $x_1$ à $x_J$) sont nuls. L'interception peut être, en pratique, une valeur invraisemblable ou impossible, mais cela ne change rien au principe. Donc, comme l'ensemble de$x_j$s change, ainsi que l'interception.
Nick Cox a fourni une excellente réponse et je voulais ajouter une réponse plus intuitive.
Modèle 1
Le modèle 1 étudie la relation entre le QI et la taille du cerveau parmi les sujets représentés par ceux de l'étude, quels que soient le sexe , la taille et le poids de ces sujets .
En d'autres termes, si vous imaginez la population cible de sujets à partir de laquelle les sujets de l'étude ont été sélectionnés, cette population comprend un mélange de sujets - certains peuvent être des femmes, certains peuvent être des hommes, certains peuvent mesurer 5 pieds 9 pouces. , certains peuvent avoir une taille de 5 pieds 5 pouces, etc., certains peuvent peser 160 livres, certains peuvent peser 120 livres, etc. Le modèle 1 prend tous ces sujets et étudie la relation entre leur QI et leur cerveau taille ignorant (ou ne tenant pas compte) de leur sexe , taille et poids . En d'autres termes, le modèle 1 mélange tous ces sujets ensemble, puis étudie la relation d'intérêt pour les sujets mixtes.
Modèle 2
Le modèle 2 étudie la relation entre le QI et la taille du cerveau parmi les sujets représentés par celui de l'étude qui ont: le même sexe , la même taille et le même poids .
Par exemple, le modèle 2 étudie la relation entre le QI et la taille du cerveau parmi:
- les mâles mesurant 5 pieds 9 pouces et pesant 160 livres;
- les femelles mesurant 5 pieds 5 pouces et pesant 120 livres, etc.
Le modèle 2 part de l'hypothèse que la relation entre le QI et la taille du cerveau est la même pour tous ces sous-ensembles de population définis par des combinaisons de valeurs de sexe , de taille et de poids soutenues par celles présentes dans vos données. Cette relation est appelée une relation ajustée , car elle est ajustée pour le sexe , la taille et le poids . En revanche, la relation entre le QI et la taille du cerveau étudiée via le modèle 1 est une relation non ajustée.
Le modèle 2 est sélectif sur les sujets qu'il considère - plutôt que de mélanger tous les sujets ensemble, il se concentre sur des sous-ensembles de sujets de la population cible partageant le même sexe , la même taille et le même poids .
Interprétation d'interception dans le modèle 1
Pour le modèle 1 , l'interception (vraie) représente la valeur moyenne du QI dans la population cible pour les sujets pour lesquels la taille du cerveau est égale à 0. De toute évidence, ces sujets n'existent pas - s'ils le faisaient, ils seraient sans cervelle.
Interprétation d'interception dans le modèle 2
Pour le modèle 2 , l'interception (vraie) représente la valeur moyenne du QI dans la population cible pour les sujets pour lesquels la taille du cerveau est égale à 0, le sexe est égal à l'homme, la taille est égale à 0 pouce et le poids est égal à 0 lb . Encore une fois, de tels sujets n'existent pas.
Aucune des deux interceptions n'a une interprétation réaliste. Si vous centrez la variable Taille du cerveau dans le modèle 1 et les variables Taille , taille et poids du cerveau dans le modèle 2 , vous obtiendrez des interceptions avec une interprétation plus réaliste des modèles réaménagés. Notez, cependant, que les coefficients de pente dans les deux modèles de régression que vous avez ici sont interprétables même si l'intersection n'a pas d'interprétation significative en pratique.
Interprétation d'interception dans le modèle 1 après la taille du cerveau à centrage moyen
Pour le modèle 1 révisé , l'interception (vraie) représente la valeur moyenne du QI dans la population cible pour les sujets ayant une taille moyenne de cerveau .
Interprétation d'interception dans le modèle 2 après centrage moyen de la taille, de la taille et du poids du cerveau
Pour la version révisée modèle 2 interception, le (vrai) représente la valeur moyenne du QI dans la population cible pour les sujets de sexe masculin avec une moyenne taille du cerveau , moyenne taille et moyenne poids .