《 人工智能引论》课件 第7章 机器学习绪论.ppt

7.4.2主成分分析主成分分析的目的是求取一个d×l的映射矩阵W。给定一个样本集X，可将X从d维空间如下映射到l维空间：(xi)1×d(W)d×l。将所有降维后的数据用Y表示，有Y=XW，其中Y∈Rd×l是降维后的结果，X∈Rn×d是原始数据，W∈Rd×l是映射矩阵。降维后n个l维样本数据Y的方差为:式中，tr表示矩阵的迹（Trace），即一个方阵主对角线（从左上方到右下方的对角线）上各个元素的总和。降维前n个d维样本数据X的协方差矩阵记为：7.4.2主成分分析主成分析的优化求解目标函数为：该优化求解目标需要满足如下约束条件：这是带约束的最优化问题求解，可通过拉格朗