原创力文档矩阵微积分
耿修瑞
中国科学院电子学研究所
gengxr@
2017.2
?几个常用例子
?实值函数相对于实向量的梯度
?实值函数相对于矩阵的梯度
?矩阵微分
?迹函数的矩阵梯度
?行列式的矩阵梯度
?Hessian矩阵
?应用实例
中国科学院空间信息处理与应用系统技术重点实验室
常用例子-1
?函数 f (x, y) ? 5?x ? y?的梯度
y 8
7
6
5
f(x,y)=5(x+y)
x=[x y]T
▽
x f(x)=[5 5]T
4
3
2
1
x+y=2 x+y=4 x+y=6
x+y=8
1 2 3 4 5 6 7 8
x
中国科学院空间信息处理与应用系统技术重点实验室
常用例子-2
1
?函数 ? ?的梯度
f ? ?
(x, y x y
) 2 2
2
y
f(x,y)=0.5x2+0.5y2
8
7
x=[x y]T
6
5
4
3
2
▽
x f(x)=[x y]T
–8 –7 –6 –5 –4 –3 –2
1
–1
–1
–2
–3
–4
–5
–6
–7
–8
x2+y2=4 x2+y2=16 x2+y2=36
1 2 3 4 5 6 7 8
x
中国科学院空间信息处理与应用系统技术重点实验室
常用例子-3
?迹函数相对于矩阵的梯度
? tr T ? tr T
? ? ?? ? ? ??
ZZ Z Z
?
? ?
Z Z
?
2Z
?
?
vec
?
文档评论（0）