แกรมเมทริกซ์ดิฟเฟอเรนเชียล

Question

ฉันมีฟังก์ชันมูลค่าเมทริกซ์ $M=AXX^\top A^\top$และฉันกำลังมองหานิพจน์สำหรับอนุพันธ์ที่เกี่ยวกับแต่ละองค์ประกอบของ $X$. ที่นี่$A$ คือ $n\times n$ และ $X$ คือ $n\times m$ ด้วย $m\leq n$

ดังนั้นฉันกำลังมองหาบางอย่างในรูปแบบ $\frac{\partial M}{\partial X_{ij}} = D^{ij}$ ด้วย $D^{ij}_{kl} = \frac{\partial M_{kl}}{\partial X_{ij}}$.

เมื่อขุดผ่าน Matrix Cookbook ฉันไม่พบสิ่งนี้หรือนิพจน์ทั่วไปใด ๆ ที่ดูเหมือนว่าจะเป็นประโยชน์

สิ่งที่ใกล้เคียงที่สุดที่ฉันพบคือตัวตน:$$\frac{\partial}{\partial X} b^\top X^\top X c = X (bc^\top + cb^\top)$$ ที่ไหน $b$ และ $c$เป็นเวกเตอร์ ฉันรู้สึกว่านี่อาจมีวิธีแก้ปัญหา แต่ฉันไม่แน่ใจว่าจะสรุปอย่างไร

Answer 1

เราสามารถคำนวณอนุพันธ์ได้ $\frac{dM}{dX}$ เป็นอนุพันธ์ทิศทาง: \begin{align*} \frac{dM}{dX}(Y) &= \lim_{t \to 0} \frac{M(X + tY) - M(X)}{t} = \lim_{t \to 0} \frac{A(X+tY) (X+tY)^\top A^\top - AXX^\top A^\top}{t} \, . \end{align*} เราพบว่าตัวเศษง่ายขึ้น \begin{align*} A(X+tY) (X^\top+tY^\top) A^\top - AXX^\top A^\top &= A(X+tY) (X^\top+tY^\top) A^\top - AXX^\top A^\top\\ &= A (X X^\top + tY X^\top + tXY^\top + t^2 Y Y^\top) A^\top - AXX^\top A^\top\\ &= tA(Y X^\top + XY^\top)A^\top + t^2 A Y Y^\top A^\top \, . \end{align*} ด้วยประการฉะนี้ \begin{align*} \lim_{t \to 0} \frac{A(X+tY) (X+tY)^\top A^\top - AXX^\top A^\top}{t} &= \lim_{t \to 0} \frac{tA(Y X^\top + XY^\top)A^\top + t^2 A Y Y^\top A^\top}{t}\\ &= \lim_{t \to 0} A(Y X^\top + XY^\top)A^\top + t A Y Y^\top A^\top\\ &= A(Y X^\top + XY^\top)A^\top \, . \end{align*}

ดังที่กล่าวไว้ในความคิดเห็นบางส่วน $\frac{\partial M}{\partial X_{ij}}$ สามารถพบได้โดยการแทนที่ $Y = E_{ij}$เมทริกซ์ที่มี $1$ ใน $i,j$รายการและศูนย์ที่อื่น ดังนั้น\begin{align*} \frac{\partial M}{\partial X_{ij}} &= \frac{dM}{dX}(E_{ij}) = A(E_{ij} X^\top + XE_{ij}^\top)A^\top = A(E_{ij} X^\top + X E_{ji})A^\top \, . \end{align*}