"Dimensione" dell'intercetta alla regressione lineare

Oct 11 2020

Ho una domanda su questo tavolo.

Perché la costante (intercetta) cambia così drasticamente dal Modello 1 al Modello 2?

Risposte

13 NickCox Oct 11 2020 at 18:38

I coefficienti di ogni predittore cambieranno quasi sempre quando si aggiungono altri predittori. Questo è un esempio della risposta che cambia quando poni una domanda diversa.

Il tuo software dovrebbe consentirti di adattare una regressione senza alcun predittore. Ad esempio, se provo a prevedere i pesi delle persone con una regressione senza predittori, otterrò il peso medio come previsione. Questo verrà mostrato come l'intercetta o la costante.

Se poi aggiungo l'altezza come predittore, l'intercetta $b_0$ in

peso previsto $= b_0 + b_1$ altezza

è la previsione per un ipotetico qualcuno con altezza zero. (Immagina di collegare in altezza$= 0$; quindi il termine con coefficiente$b_1$ svanisce.) L'intercetta segnalata per $b_0$ in questo caso sarà molto al di fuori dei dati e potrebbe anche essere restituito come numero negativo.

Se aggiungo un indicatore dico 1 se maschio e 0 se femmina, in modo che il modello ora lo sia

peso previsto $= b_0 + b_1$ altezza $+\ b_2$ maschio

l'intercetta è ora la previsione per un ipotetico qualcuno con altezza zero e che è femmina (per chi maschio $= 0$). Sarà di nuovo diverso, ma non così tanto.

In generale in

$\hat y = b_0 + b_1 x_1 + \cdots + b_J x_J = b_0 + \sum_{j=1}^J x_j$

l'intercetta $b_0$è ciò che è previsto quando tutti i file$x_j$ (quindi tutti $x_1$ per $x_J$) sono zero. L'intercetta può essere, in pratica, un valore non plausibile o impossibile, ma ciò non fa differenza per il principio. Quindi, come set di$x_j$s cambia, così sarà anche l'intercettazione.

8 IsabellaGhement Oct 12 2020 at 03:46

Nick Cox ha fornito un'ottima risposta e volevo aggiungere una risposta più intuitiva.

Modello 1

Il modello 1 indaga la relazione tra QI e dimensione del cervello tra i soggetti rappresentati da quelli nello studio, indipendentemente da sesso , altezza e peso di tali soggetti .

In altre parole, se si immagina la popolazione target di soggetti da cui sono stati selezionati i soggetti nello studio, quella popolazione include un misto di soggetti: alcuni possono essere femmine, alcuni possono essere maschi, alcuni possono avere un'altezza di 5 piedi e 9 pollici , alcuni possono avere un'altezza di 5 piedi e 5 pollici, ecc., Alcuni possono avere un peso di 160 libbre, altri possono avere un peso di 120 libbre, ecc. Il modello 1 prende tutti questi soggetti e studia la relazione tra il loro QI e il cervello la taglia ignora (o non tiene conto) il sesso , l' altezza e il peso . In altre parole, il Modello 1 mescola tutti questi soggetti insieme e quindi studia la relazione di interesse per i soggetti misti.

Modello 2

Il modello 2 indaga la relazione tra QI e dimensione del cervello tra soggetti rappresentati da quello nello studio che hanno: lo stesso sesso , la stessa altezza e lo stesso peso .

Ad esempio, il Modello 2 indaga la relazione tra QI e dimensione del cervello tra:

  • maschi con un'altezza di 5 piedi e 9 pollici e un peso di 160 libbre;
  • femmine con un'altezza di 5 piedi e 5 pollici e un peso di 120 libbre, ecc.

Il modello 2 presuppone che la relazione tra QI e dimensione del cervello sia la stessa per tutti questi sottoinsiemi di popolazione definiti da combinazioni di valori di Genere , Altezza e Peso supportati da quelli presenti nei dati. Questa relazione è chiamata relazione adattata , poiché è regolata per sesso , altezza e peso . Al contrario, la relazione tra il QI e la dimensione del cervello studiata tramite il Modello 1 è una relazione non aggiustata.

Il modello 2 è selettivo su quali soggetti considera - piuttosto che mescolare tutti i soggetti insieme, si concentra su sottoinsiemi di soggetti nella popolazione target che condividono lo stesso sesso , la stessa altezza e lo stesso peso .

Interpretazione delle intercettazioni nel modello 1

Per il Modello 1 , l'intercetta (vera) rappresenta il valore medio del QI nella popolazione target per quei soggetti per i quali la dimensione del cervello è uguale a 0. Chiaramente, tali soggetti non esistono - se lo facessero, sarebbero senza cervello.

Interpretazione delle intercettazioni nel modello 2

Per il Modello 2 , l'intercetta (vera) rappresenta il valore medio del QI nella popolazione target per quei soggetti per i quali la dimensione del cervello è uguale a 0, il sesso è uguale al maschio, l' altezza è uguale a 0 pollici e il peso è uguale a 0 libbre . Ancora una volta, tali soggetti non esistono.

Nessuna delle due intercettazioni ha un'interpretazione realistica. Se intendi centrare la variabile Brain size nel Modello 1 e le variabili Brain size , Altezza e Peso nel Modello 2 , otterrai delle intercettazioni con un'interpretazione più realistica dai modelli rimontati. Si noti, tuttavia, che i coefficienti di pendenza nei due modelli di regressione qui disponibili sono interpretabili anche se l'intercetta non ha un'interpretazione significativa nella pratica.

Interpretazione dell'interpretazione nel modello 1 dopo la dimensione del cervello centrato sulla media

Per il Modello 1 rivisto , l'intercetta (vera) rappresenta il valore medio del QI nella popolazione target per quei soggetti con una dimensione media del cervello .

Interpretazione delle intercettazioni nel modello 2 dopo la dimensione, l'altezza e il peso del cervello a centraggio medio

Per il Modello 2 rivisto , l'intercetta (vera) rappresenta il valore medio del QI nella popolazione target per i soggetti di sesso maschile con una dimensione media del cervello , altezza media e peso medio .