矩阵求导公式.docxVIP

基本公式：Y = A * X -- DY/DX = AY 基本公式： Y = A * X -- DY/DX = A Y = X * A -- DY/DX = A Y = A * X * B -- DY/DX = A * B Y = A * X * B -- DY/DX = B * A 1. 矩阵 Y 对标量 x 求导： 相当于每个元素求导数后转置一下，注意 M×N 矩阵求导后变成 N×M 了 Y = [y(ij)] -- dY/dx = [dy(ji)/dx] 2. 标量 y 对列向量 X 求导： 注意与上面不同，这次括号内是求偏导，不转置，对 N×1 向量求导后还是 N×1 向量 y = f(x1,x2,..,xn) -- dy/dX = (Dy/Dx1,Dy/Dx2,..,Dy/Dxn) 3. 行向量 Y对列向量 X 求导： 注意 1×M 向量对 N×1 向量求导后是 N×M 矩阵。 将 Y 的每一列对 X 求偏导，将各列构成一个矩阵。 重要结论： dX/dX = I d(AX)/dX = A 4. 列向量 Y 对行向量 X’求导： 转化为行向量 Y’对列向量 X 的导数，然后转置。 注意 M×1 向量对 1×N 向量求导结果为 M×N 矩阵。 dY/dX = (dY/dX) 5. 向量积对列向量 X 求导运算法则： 注意与标量求导有点不同。 d(UV)/dX = (dU/dX)V + U(dV/dX) 转载]矩阵求导公式【转】 (2011-11-15 11:03:34) 转 载  ▼ 标签： 转载 原文地址： 矩 阵 求 导 公 式 【 转 】作者： 三 寅 今天推导公式，发现居然有对矩阵的求导，狂汗--完全不会。不过还好网上有人总结了。 吼吼，赶紧搬过来收藏备份。 结论d(xAx)=(d(x)/dx)Ax+(d(Ax)/dx)(x)=Ax+Ax（注意：是表示两次转置）d(UV)/dX = (dU/dX)V + (dV/dX)U重要 结论 d(xAx)=(d(x)/dx)Ax+(d(Ax)/dx)(x)=Ax+Ax （注意：是表示两次转置） d(UV)/dX = (dU/dX)V + (dV/dX)U 重要结论： d(XA)/dX = (dX/dX)A + (dA/dX)X = IA + 0X = A d(AX)/dX = (d(XA)/dX) = (A) = A d(XAX)/dX = (dX/dX)AX + (d(AX)/dX)X = AX + AX 6. 矩阵 Y 对列向量 X 求导： 将 Y 对 X 的每一个分量求偏导，构成一个超向量。 注意该向量的每一个元素都是一个矩阵。 7. 矩阵积对列向量求导法则： d(uV)/dX = (du/dX)V + u(dV/dX) d(UV)/dX = (dU/dX)V + U(dV/dX) 重要结论： d(XA)/dX = (dX/dX)A + X(dA/dX) = IA + X0 = A 8. 标量 y 对矩阵 X 的导数： 类似标量 y 对列向量 X 的导数， 把 y 对每个 X 的元素求偏导，不用转置。 dy/dX = [ Dy/Dx(ij) ] 重要结论： y = UXV = ΣΣu(i)x(ij)v(j) 于是 dy/dX = [u(i)v(j)] = UV y = UXXU 则 dy/dX = 2XUU y = (XU-V)(XU-V) 则 dy/dX = d(UXXU - 2VXU + VV)/dX = 2XUU - 2VU + 0 = 2(XU-V)U 9. 矩阵 Y 对矩阵 X 的导数： 将 Y 的每个元素对 X 求导，然后排在一起形成超级矩阵。 10.乘积的导数 d(f*g)/dx=(df/dx)g+(dg/dx)f 比较 比较详细点的如下： /blog/static/145880136201051113615571/ /wangwen926/blog/item/eb189bf6b0fb702b720eec94.html其他参考：ContentsNotationDerivatives /blog/static/145880136201051113615571/ /wangwen926/blog/item/eb189bf6b0fb702b720eec94.html 其他参考： Contents Notation Derivatives of Linear Products Derivatives of Quadratic Products Notation ? ? ? ?  d/dx (y) is a vector whose (i) element is dy(i)/dx TNote that