quel est le dérivé de $\exp(X\beta)$ wrt $\beta$

Question

J'utilise la disposition du dénominateur, c'est-à-dire $$\frac{\partial X\beta}{\partial \beta} = X^T,$$ où $X$ est $n\times p$ et $\beta$ est $p\times 1$.

Quel est le résultat de $$\frac{\partial \exp(X\beta)}{\partial \beta} \text{ ?}$$

Depuis $\exp(X\beta)$ est $n\times1$ et $\beta$ est $p\times 1$, le dérivé doit être un $p\times n$matrice. Cependant, voici ce que j'ai dérivé:

$$\frac{\partial \exp(X\beta)}{\partial \beta} = \frac{\partial X\beta}{\partial \beta}\frac{\partial \exp(X\beta)}{\partial X\beta} = X^T\exp(X\beta),$$ qui est un $p\times1$. Où ai-je commis une erreur?

Answer 1

Ceci est une application de la règle de la chaîne:

$$f(\mathbf{x})=[e^{x_1},\ldots,e^{x_n}]^\intercal$$ $$f'(\mathbf{x})=\operatorname{diag}(e^{x_1},\ldots,e^{x_n})$$

Dénotant le $i$-ème rangée de $X$ par $\mathbf{x}_i$, $1\leq i\leq n$, $$g(\boldsymbol{\beta})=X\boldsymbol{\beta}=[\mathbf{x}^\top_1\boldsymbol{\beta},\ldots,\mathbf{x}^\top_n\boldsymbol{\beta}]^\intercal$$ $$g'(\boldsymbol{\beta})=X$$

on obtient $$h(\boldsymbol{\beta})=f\circ g(\boldsymbol{\beta})=[\exp(\mathbf{x}^\top_1\boldsymbol{\beta}),\ldots,\exp(\mathbf{x}^\top_n\boldsymbol{\beta})]^\intercal$$

et donc,

$$ \begin{align} h'(\boldsymbol{\beta})&=f'(g(\boldsymbol{\beta}))\,g'(\boldsymbol{\beta})=\operatorname{diag}\big(\exp(\mathbf{x}^\top_1\boldsymbol{\beta}),\ldots,\exp(\mathbf{x}^\top_n\boldsymbol{\beta})\big)\,X\\ &=\begin{pmatrix} e^{\mathbf{x}_1^\top\beta}x_{11} &\ldots&e^{\mathbf{x}_1^\top\beta}x_{1p}\\ \vdots & \vdots & \vdots\\ e^{\mathbf{x}^\top_n\beta}x_{n1} &\ldots& e^{\mathbf{x}^\top_n\beta}x_{np} \end{pmatrix} \end{align} $$

La dernière matrice peut être exprimée de manière plus compacte en termes de produit Kronecker, qui est très utilisé dans les langages de plus haut niveau tels que MatLab, R, etc.

Answer 2

Pour faciliter la saisie, définissez les vecteurs $$\eqalign{ y &= X\beta \quad&\implies\quad &dy = X\,d\beta \\ e &= \exp(y) \quad&\implies\quad &E = {\rm Diag}(e) \\ }$$ Le différentiel d'une fonction élément par élément nécessite un produit élément par élément / Hadamard, qui peut être remplacé par le produit standard avec une matrice diagonale. $$\eqalign{ de &= e\odot dy = E\,dy \\ }$$ Remplacer $dy\,$ obtenir $$\eqalign{ de &= EX\,d\beta \\ \frac{\partial e}{\partial\beta} &= EX \\ }$$ Ou dans votre convention de mise en page préférée $\,X^TE^T$ $$\eqalign{ }$$