[工学]Ch8特征的选择与提取之特征选择.pptVIP

Ch8 特征的选择与提取之特征选择 特征选择的任务：从n个特征中选择出m(mn)个最有效的特征。 方法：根据专家的知识挑选那些对分类最有效的、最有影响的特征；用数学的方法进行筛选、比较找出对分类最有影响的特征。 特征选择 需要解决的问题 如何确定选择的标准（前面学习过的类别可分性准则）； 需要找到一个比较好的算法，以便在较短的时间内找出一组最优的特征。 特征选择 两种最为显见的选择方法：单独选择法与穷举法。 单独选择法指的是把n个特征单独使用时的可分性准则都计算出，从大到小排序，如： 使得J较大的前m个特征作为选择结果，但是这样所得到的m个特征一般未必时最好的。 特征选择 穷举法： 从D个特征中选择d个，所有可能的组合数为 ，如D=20, d=10，这时有 种特征的组合方法。把184756种特征组合的可分性准则函数全部计算出来，然后看哪一种特征组合的准则函数值最大，我们就应该选择这种组合的前10个特征。 特征选择——分支定界法 分支定界法：是一种自上而下的启发式搜索算法，具有回溯功能，可使所有可能的特征组合都被考虑到。由于合理的组织了搜索过程，使得有可能不必计算某些组合，而又不影响得到最优的结果。 分支定界法的必备条件：所使用的准则函数必须是具有单调性的。即，从D个特征中选择d个特征组成d维特征向量，再由这d个特征中选择k个特征组