向量矩阵求导.pdfVIP

矩阵 Y 对标量 x 求导： 相当于每个元素求导数后转置一下，注意 M×N 矩阵求导后变成 N×M 了 Y = [y (ij)] -- dY/dx = [dy(ji)/dx] 2. 标量 y 对列向量 X 求导： 注意与上面不同，这次括号内是求偏导，不转置，对 N×1 向量求导 后还是 N×1 向量 y = f(x1,x2,..,xn) -- dy/dX = (Dy/Dx1,Dy/Dx2,..,Dy/Dxn) 3. 行向量 Y对列向量 X 求导： 注意 1×M 向量对N×1 向量求导后是N×M 矩阵。 将 Y 的每一列对X 求偏导，将各列构成一个矩阵。 重要结论： dX/dX = I d(AX)/dX = A 4. 列向量 Y 对行向量 X’求导： 转化为行向量 Y’对列向量 X 的导数，然后转置。 注意 M×1 向量对 1×N 向量求导结果为M×N 矩阵。 dY/dX = (dY/dX) 5. 向量积对列向量X 求导运算法则： 注意与标量求导有点不同。 d(UV)/dX = (dU/dX)V + U(dV/dX) d(UV)/dX = (dU/dX)V + (dV/dX)U 重要结论： d(XA)/dX = (dX/dX)A + (dA/dX)X = IA + 0X = A d(AX)/dX = (d(XA)/dX) = (A) = A d(XAX)/dX = (dX/dX)AX + (d(AX)/dX)X = AX + AX 6. 矩阵 Y 对列向量 X 求导： 将 Y 对 X 的每一个分量求偏导，构成一个超向量。 注意该向量的每一个元素都是一个矩阵。 7. 矩阵积对列向量求导法则： d(uV)/dX = (du/dX)V + u(dV/dX) d(UV)/dX = (dU/dX)V + U(dV/dX) 重要结论： d(XA)/dX = (dX/dX)A + X(dA/dX) = IA + X0 = A 8. 标量 y 对矩阵 X 的导数： 类似标量 y 对列向量 X 的导数， 把 y 对每个 X 的元素求偏导，不用转置。 dy/dX = [ Dy/Dx(ij) ] 重要结论： y = UXV = ΣΣu(i)x(ij)v(j) 于是 dy/dX = [u(i)v(j)] = UV y = UXXU 则 dy/dX = 2XUU y = (XU-V)(XU-V) 则 dy/dX = d(UXXU - 2VXU + VV)/dX = 2XUU - 2VU + 0 = 2(XU-V)U 9. 矩阵 Y 对矩阵 X 的导数： 将 Y 的每个元素对X 求导，然后排在一起形成超级矩阵。 FU)] F(I) = : [ F~ (I) aj(x) ili, C!f(x) dF(I) = 0 ili aj(x) dF~ (I) ili, 1oJ~~~J, ,dfc(S(cc) = dj(x, (I),···,», (I)) = _if_(_) _d,_,(_I) + ... +_1_(_)_d,_,(_ cit dl ax, dl CJx. dl dx. (I)