矩阵求导贪心科技让每个人享受个性化教育服务AI贪心学院
标量,向量和矩阵
约定符号用不同字体区分标量,向量和矩阵标量(scalar),小写,斜体,如a,t,x向量(vector),粗体小写的字母,如a,x,y矩阵(matrix),粗体大写表示,如A,X,Y特殊情况下,矩阵可以表示向量或标量,如M(n,1)是一个列向量,M(1,1)是一个标量;向量也可以表示标量
矩阵求导在ML中的重要性向量和矩阵求导在机器学习、图像处理、最优化等领域的公式推导中经常用到。比如多元线性回归中损失函数是一个标量,每个输入都有多个属性,计算权重w时就需要用到标量对向量的求导。见西瓜书55页,后
原创力文档

文档评论(0)