Gramm Matrix Differential

Question

Ich habe die Matrixwertfunktion $M=AXX^\top A^\top$und ich suche nach einem Ausdruck für seine Ableitung in Bezug auf jedes Element von $X$. Hier$A$ ist $n\times n$ und $X$ ist $n\times m$ mit $m\leq n$

Also suche ich etwas von der Form $\frac{\partial M}{\partial X_{ij}} = D^{ij}$ mit $D^{ij}_{kl} = \frac{\partial M_{kl}}{\partial X_{ij}}$.

Beim Durchstöbern des Matrix-Kochbuchs konnte ich diesen oder andere allgemeinere Ausdrücke nicht finden, die mir als hilfreich erschienen.

Das nächste, was ich finden konnte, war die Identität:$$\frac{\partial}{\partial X} b^\top X^\top X c = X (bc^\top + cb^\top)$$ wo $b$ und $c$sind Vektoren. Ich habe das Gefühl, dass dies die Lösung enthalten kann, bin mir aber nicht sicher, wie ich sie verallgemeinern soll.

Answer 1

Wir können die Ableitung berechnen $\frac{dM}{dX}$ als Richtungsableitung: \begin{align*} \frac{dM}{dX}(Y) &= \lim_{t \to 0} \frac{M(X + tY) - M(X)}{t} = \lim_{t \to 0} \frac{A(X+tY) (X+tY)^\top A^\top - AXX^\top A^\top}{t} \, . \end{align*} Wir finden, den Zähler zu vereinfachen \begin{align*} A(X+tY) (X^\top+tY^\top) A^\top - AXX^\top A^\top &= A(X+tY) (X^\top+tY^\top) A^\top - AXX^\top A^\top\\ &= A (X X^\top + tY X^\top + tXY^\top + t^2 Y Y^\top) A^\top - AXX^\top A^\top\\ &= tA(Y X^\top + XY^\top)A^\top + t^2 A Y Y^\top A^\top \, . \end{align*} So \begin{align*} \lim_{t \to 0} \frac{A(X+tY) (X+tY)^\top A^\top - AXX^\top A^\top}{t} &= \lim_{t \to 0} \frac{tA(Y X^\top + XY^\top)A^\top + t^2 A Y Y^\top A^\top}{t}\\ &= \lim_{t \to 0} A(Y X^\top + XY^\top)A^\top + t A Y Y^\top A^\top\\ &= A(Y X^\top + XY^\top)A^\top \, . \end{align*}

Wie in den Kommentaren erwähnt, ist der Teil $\frac{\partial M}{\partial X_{ij}}$ kann dann durch Ersetzen gefunden werden $Y = E_{ij}$, die Matrix mit a $1$ in dem $i,j$Eintrag und Nullen an anderer Stelle. So\begin{align*} \frac{\partial M}{\partial X_{ij}} &= \frac{dM}{dX}(E_{ij}) = A(E_{ij} X^\top + XE_{ij}^\top)A^\top = A(E_{ij} X^\top + X E_{ji})A^\top \, . \end{align*}