Ch 06.特征降维和选择Part 1 特征降维.pptVIP

搜索过程 循序向前选择法（Sequential Forward Selection，SFS） 缺点 单个特征区分力很差，但两个特征结合区分力强，在此情况下，SFS失效 最优子集中的每个特征分别单独考虑时，并不一定都为最优 搜索过程 循序向前选择法：实例——卫星图像分析 搜索过程 循序向后选择法（Sequential Backward Selection，SBS） 首先，选择所有d个特征 然后，从所有特征中任意去掉一个形成d个候选的d-1特征集，从中选出最好的一个 再从上一步得到的d-1特征集中任意去掉一个特征形成d-1个d-2特征集，从中选出最好的一个 该过程直到特征集中的特征个数到达预先设定的值时停止 搜索过程 循序向后选择法（Sequential Backward Selection，SBS） 因为SBS考虑的特征数目大于等于期望的特征数目，所以SBS通常比SFS需要更多的选择准则计算 搜索过程 循序向后选择法：实例——卫星图像分析 搜索过程 其他搜索过程 单个最佳特征子集 直接搜索最佳的单个特征（每次仅用一个特征，计算选择准则），用它们构成的集合作为特征选择结果 虽然简单，但是往往不可靠 只有当各特征之间完全独立的情况下能找到最优特征子集 … 选择准则 理想方法 用选定的特征子集表示训练样本，训练分类器，然后测试该分类器的泛化误差（如采用交叉验证等方法） 因为对每个特