$\mathbf{Y} = \mathbf{X}^T \beta$: dimensión e hiperespacio

Question

Digamos que tenemos eso $\mathbf{X}^T$ es $1 \times p$ y $\beta$ es $p \times K$, de modo que

$$\mathbf{Y} = \mathbf{X}^T \beta$$

significa que $\mathbf{Y}$ es $1 \times K$. Ya que$\mathbf{X}$ tiene $p$ filas y solo una columna, ¿significa esto que el espacio de entrada-salida $(\mathbf{X}, \mathbf{Y})$ es $p$-dimensional, ya que la longitud de la base estándar para este espacio de entrada-salida (vector) sería $\{ (1, 0, \dots, 0)_1, (0, 1, 0, \dots, 0)_2, \dots, (0, 0, \dots, 0, 1)_p \}$ ?

Y por tanto, ¿no podemos concluir que, en el $(p + 1)$-espacio de entrada-salida dimensional, $(\mathbf{X}, \mathbf{Y})$Qué es un hiperplano, ya que un hiperplano es un subespacio cuya dimensión es uno menos que la de su espacio ambiental?

Answer 1

Considere la función $f: \mathbb R^p \to \mathbb R^K$ dada por $$f(\mathbf X) = \mathbf X^T \beta.$$ Tenga en cuenta que $f$ es una función lineal ya que está definida por (izquierda) multiplicación por el $p\times K$ matriz $\beta$.

Ahora define el conjunto $G_f \subset \mathbb R^{p + K}$ por \begin{align*} G_f &=\{(\mathbf{X}, \mathbf Y) \subset \mathbb R^{p + K}: \mathbf{X} \in \mathbb R^p, \mathbf Y = f(\mathbf X)\} \\ &=\{(\mathbf{X}, f(\mathbf X)) \subset \mathbb R^{p + K}: \mathbf{X} \in \mathbb R^p\} \end{align*} El conjunto $G_f$generalmente se llama la gráfica de$f$ y supongo que esto es lo que quiere decir con espacio de entrada-salida.

Yo reclamo que $G_f$ es un $p$-subespacio lineal dimensional de $\mathbb R^{p+K}.$ Primero verificaremos que $G_f$ es un subespacio lineal y luego encontrar una base de $G_f$ con $p$ elementos.

Para mostrar que $G_f$es un subespacio lineal basta verificar que no está vacío y cerrado bajo combinaciones lineales.$G_f$ claramente no está vacío porque $0 \in \mathbb{R}^{p+K}$ y $0 \in G_f$: Esto es desde $f(0) = 0$ por linealidad de $f$ y entonces $(0,0) = (0, f(0)) \in G_f$. Ahora deja$a, b \in \mathbb R$ser números arbitrarios. Entonces para cualquier$\mathbf X_1, \mathbf X_2 \in \mathbb R^p$, por linealidad de $f$: $$a(\mathbf X_1, f(\mathbf X_1)) + b (\mathbf X_2, f(\mathbf X_2)) = (a\mathbf X_1+b\mathbf X_2,f(a\mathbf X_1 + b\mathbf X_2)) \in G_f.$$ Por lo tanto $G_f$ es un subespacio lineal de $\mathbb R^{p+K}$.

Ahora deja $e_i \in \mathbb R^p$ ser el $i$th vector unitario de $\mathbb R^p$ y definir para $i=1,\dots,p$ los siguientes vectores: $$v_i = (e_i, f(e_i)) \in \mathbb R^{p+K}.$$ Desde el $e_i$ son linealmente independientes, también lo son $v_i$. Además, el$v_i$ generar el subespacio $G_f$: De hecho, deja $(\mathbf X, f(\mathbf X)) \in G_f$. Dejar$a_i \in \mathbb R$ ser coeficientes tales que $\mathbf X = \sum_{i=1}^p a_i e_i.$ Entonces \begin{align*} (\mathbf X, f(\mathbf X)) &= (\sum_{i=1}^p a_i e_i, f(\sum_{i=1}^p a_i e_i)) \\ &= (\sum_{i=1}^p a_i e_i, \sum_{i=1}^p a_i f(e_i)) \\ &= \sum_{i=1}^p a_i (e_i, f(e_i)) \\ &= \sum_{i=1}^p a_i v_i. \end{align*} Por lo tanto, la $v_i$ son un conjunto de vectores linealmente independientes que generan el subespacio $G_f \subset \mathbb R^{p+K}$. Es decir, el conjunto$\{v_1,\dots,v_p\}$ forma una base de $G_f$.

Por lo tanto, $G_f$ es un $p$-subespacio lineal dimensional de $\mathbb R^{p+K}$.

Ahora para $K=1$ resulta que $G_f$ es un hiperplano en $\mathbb R^{p+1}$. De hecho, en ese caso\begin{align*} G_f &= \{(\mathbf X,y) \in \mathbb R^{p+1}: y = \mathbf X^T \beta\} \\ &= \{(\mathbf X,y) \in \mathbb R^{p+1}: (-\beta, 1)(\mathbf X, y) = 0\}, \\ \end{align*} entonces $G_f$ es un hiperplano que pasa por el origen con un vector normal $(-\beta, 1)$.

Si $K>1$ entonces $G_f$ no es un hiperplano, sino simplemente un subespacio lineal de dimensión $p$ (tenga en cuenta que para $K>1$ la dimensión $p+K$ del espacio ambiental $\mathbb R^{p+K}$ es más de uno mayor que $p$, la dimensión de $G_f$).