机器学习算法思想与实践 课件 第5章——特征工程——特征降维.pptx

特征工程;特征降维;5.4?特征降维

当特征选择完成后，是否可以直接训练模型了？且慢！可能由于特征维度过多、特征矩阵过大，导致计算量大，训练时间长的问题，称为“维度灾难”，缓解“维度灾难”的重要途径是降维。通过数学变换将原始高维属性空间变换为一个低维“子空间”，在这个子空间中样本密度大幅度提高，距离计算也变得更加容易。下面简介集中典型的降维算法。;1.主成分分析?

?主成分分析又称主分量分析技术，旨在利用降维的思想，把多指标转化为少数几个综合指标。PCA找到一个最佳的投影方向使得数据在该方向投影之后保留足够多的信息，只考虑数据整体的分布情况（即方差），不考虑点与点之间的距离关系。

?主成