อนุพันธ์ของ $\exp(X\beta)$ WRT $\beta$

Question

ฉันกำลังใช้เค้าโครงตัวหารเช่น $$\frac{\partial X\beta}{\partial \beta} = X^T,$$ ที่ไหน $X$ คือ $n\times p$ และ $\beta$ คือ $p\times 1$.

เป็นผลมาจากอะไร $$\frac{\partial \exp(X\beta)}{\partial \beta} \text{ ?}$$

ตั้งแต่ $\exp(X\beta)$ คือ $n\times1$ และ $\beta$ คือ $p\times 1$อนุพันธ์ควรเป็น $p\times n$เมทริกซ์ อย่างไรก็ตามนี่คือสิ่งที่ฉันได้รับ:

$$\frac{\partial \exp(X\beta)}{\partial \beta} = \frac{\partial X\beta}{\partial \beta}\frac{\partial \exp(X\beta)}{\partial X\beta} = X^T\exp(X\beta),$$ ซึ่งคือ $p\times1$. ฉันทำผิดพลาดตรงไหน?

Answer 1

นี่คือการประยุกต์ใช้กฎลูกโซ่:

$$f(\mathbf{x})=[e^{x_1},\ldots,e^{x_n}]^\intercal$$ $$f'(\mathbf{x})=\operatorname{diag}(e^{x_1},\ldots,e^{x_n})$$

แสดงถึงไฟล์ $i$แถวที่ - ของ $X$ โดย $\mathbf{x}_i$, $1\leq i\leq n$, $$g(\boldsymbol{\beta})=X\boldsymbol{\beta}=[\mathbf{x}^\top_1\boldsymbol{\beta},\ldots,\mathbf{x}^\top_n\boldsymbol{\beta}]^\intercal$$ $$g'(\boldsymbol{\beta})=X$$

เราได้รับ $$h(\boldsymbol{\beta})=f\circ g(\boldsymbol{\beta})=[\exp(\mathbf{x}^\top_1\boldsymbol{\beta}),\ldots,\exp(\mathbf{x}^\top_n\boldsymbol{\beta})]^\intercal$$

และอื่น ๆ

$$ \begin{align} h'(\boldsymbol{\beta})&=f'(g(\boldsymbol{\beta}))\,g'(\boldsymbol{\beta})=\operatorname{diag}\big(\exp(\mathbf{x}^\top_1\boldsymbol{\beta}),\ldots,\exp(\mathbf{x}^\top_n\boldsymbol{\beta})\big)\,X\\ &=\begin{pmatrix} e^{\mathbf{x}_1^\top\beta}x_{11} &\ldots&e^{\mathbf{x}_1^\top\beta}x_{1p}\\ \vdots & \vdots & \vdots\\ e^{\mathbf{x}^\top_n\beta}x_{n1} &\ldots& e^{\mathbf{x}^\top_n\beta}x_{np} \end{pmatrix} \end{align} $$

เมทริกซ์สุดท้ายสามารถแสดงในรูปแบบที่กะทัดรัดกว่าในแง่ของผลิตภัณฑ์ Kronecker ซึ่งใช้กันมากในภาษาระดับสูงเช่น MatLab, R เป็นต้น

Answer 2

เพื่อความสะดวกในการพิมพ์ให้กำหนดเวกเตอร์ $$\eqalign{ y &= X\beta \quad&\implies\quad &dy = X\,d\beta \\ e &= \exp(y) \quad&\implies\quad &E = {\rm Diag}(e) \\ }$$ ความแตกต่างของฟังก์ชัน elementwise ต้องการผลิตภัณฑ์ elementwise / Hadamard ซึ่งสามารถแทนที่ได้ด้วยผลิตภัณฑ์มาตรฐานที่มีเมทริกซ์แนวทแยงมุม $$\eqalign{ de &= e\odot dy = E\,dy \\ }$$ ทดแทน $dy\,$ ที่จะได้รับ $$\eqalign{ de &= EX\,d\beta \\ \frac{\partial e}{\partial\beta} &= EX \\ }$$ หรือในรูปแบบการจัดวางที่คุณต้องการ $\,X^TE^T$ $$\eqalign{ }$$