$\mathbf{Y} = \mathbf{X}^T \beta$: dimensione e iperspazio

Sep 03 2020

Diciamo che ce l'abbiamo$\mathbf{X}^T$è$1 \times p$e$\beta$è$p \times K$, così che

$$\mathbf{Y} = \mathbf{X}^T \beta$$

significa che$\mathbf{Y}$è$1 \times K$. Da$\mathbf{X}$ha$p$righe e solo una singola colonna, significa che lo spazio di input-output$(\mathbf{X}, \mathbf{Y})$è$p$-dimensionale, poiché la lunghezza della base standard per questo spazio input-output (vettoriale) sarebbe$\{ (1, 0, \dots, 0)_1, (0, 1, 0, \dots, 0)_2, \dots, (0, 0, \dots, 0, 1)_p \}$?

E quindi, non possiamo concludere che, nel$(p + 1)$-spazio dimensionale input-output,$(\mathbf{X}, \mathbf{Y})$è un iperpiano, poiché un iperpiano è un sottospazio la cui dimensione è una in meno rispetto a quella del suo spazio ambientale?

Risposte

1 Epiousios Sep 10 2020 at 20:11

Considera la funzione$f: \mathbb R^p \to \mathbb R^K$dato da$$f(\mathbf X) = \mathbf X^T \beta.$$Nota che$f$è una funzione lineare poiché è definita dalla moltiplicazione (a sinistra) per il$p\times K$matrice$\beta$.

Ora definisci l'insieme$G_f \subset \mathbb R^{p + K}$di\begin{align*} G_f &=\{(\mathbf{X}, \mathbf Y) \subset \mathbb R^{p + K}: \mathbf{X} \in \mathbb R^p, \mathbf Y = f(\mathbf X)\} \\ &=\{(\mathbf{X}, f(\mathbf X)) \subset \mathbb R^{p + K}: \mathbf{X} \in \mathbb R^p\} \end{align*}Il set$G_f$è solitamente chiamato il grafico di$f$e suppongo che questo sia ciò che intendi per spazio di input-output.

Lo sostengo$G_f$è un$p$-sottospazio lineare dimensionale di$\mathbb R^{p+K}.$Lo verificheremo prima$G_f$è un sottospazio lineare e quindi trova una base di$G_f$insieme a$p$elementi.

Per mostrarlo$G_f$è un sottospazio lineare è sufficiente verificare che non sia vuoto e chiuso per combinazioni lineari.$G_f$è chiaramente non vuoto perché$0 \in \mathbb{R}^{p+K}$e$0 \in G_f$: Questo è da allora$f(0) = 0$per linearità di$f$e così$(0,0) = (0, f(0)) \in G_f$. Adesso molla$a, b \in \mathbb R$essere numeri arbitrari. Quindi per qualsiasi$\mathbf X_1, \mathbf X_2 \in \mathbb R^p$, per linearità di$f$:$$a(\mathbf X_1, f(\mathbf X_1)) + b (\mathbf X_2, f(\mathbf X_2)) = (a\mathbf X_1+b\mathbf X_2,f(a\mathbf X_1 + b\mathbf X_2)) \in G_f.$$Quindi$G_f$è un sottospazio lineare di$\mathbb R^{p+K}$.

Adesso molla$e_i \in \mathbb R^p$essere il$i$esimo vettore unitario di$\mathbb R^p$e definire per$i=1,\dots,p$i seguenti vettori:$$v_i = (e_i, f(e_i)) \in \mathbb R^{p+K}.$$Dal momento che il$e_i$sono linearmente indipendenti, così sono i$v_i$. Inoltre, il$v_i$generare il sottospazio$G_f$: In effetti, lascia$(\mathbf X, f(\mathbf X)) \in G_f$. Permettere$a_i \in \mathbb R$essere coefficienti tali che$\mathbf X = \sum_{i=1}^p a_i e_i.$Quindi\begin{align*} (\mathbf X, f(\mathbf X)) &= (\sum_{i=1}^p a_i e_i, f(\sum_{i=1}^p a_i e_i)) \\ &= (\sum_{i=1}^p a_i e_i, \sum_{i=1}^p a_i f(e_i)) \\ &= \sum_{i=1}^p a_i (e_i, f(e_i)) \\ &= \sum_{i=1}^p a_i v_i. \end{align*}Quindi il$v_i$sono un insieme di vettori linearmente indipendenti che generano il sottospazio$G_f \subset \mathbb R^{p+K}$. Vale a dire, il set$\{v_1,\dots,v_p\}$costituisce una base di$G_f$.

Quindi,$G_f$è un$p$-sottospazio lineare dimensionale di$\mathbb R^{p+K}$.

Ora, per$K=1$ne consegue che$G_f$è un iperpiano in$\mathbb R^{p+1}$. Infatti, in quel caso\begin{align*} G_f &= \{(\mathbf X,y) \in \mathbb R^{p+1}: y = \mathbf X^T \beta\} \\ &= \{(\mathbf X,y) \in \mathbb R^{p+1}: (-\beta, 1)(\mathbf X, y) = 0\}, \\ \end{align*}Così$G_f$è un iperpiano passante per l'origine con vettore normale$(-\beta, 1)$.

Se$K>1$poi$G_f$non è un iperpiano ma semplicemente un sottospazio lineare di dimensione$p$(notare che per$K>1$la dimensione$p+K$dello spazio ambientale$\mathbb R^{p+K}$è più di uno maggiore di$p$, la dimensione di$G_f$).