10-第五章_2 分散度文库.docVIP

第五章 特征选择（降维） §4分散度 类别可分离 分散度降低不大，则认为降维有效 1] 分散度的概念 解释A． 若j固定，则越大，越容易把i类与j类区分开来 对于从i来的x，把i类和j类分开的平均信息 对于从j来的x，把j类和i类分开的平均信息 第i类与第j类分开的总的平均分类信息 解释B． 2]正态分布时分散度公式 其中: 积分后变为 同理 等协方差 等期望， 3]分散度的性质 1）（当且仅当i=j， 反身性） 2）（对称性） 3）若X的各个分量独立，则分散度为各个分量分散度之和 4）若X的各个分量不独立，则加一个分量，分散度只增不减 （a） （b） （c） 性质：1） 2） 3） = 总的分散度=各个分量分散度之和（前提：各分量独立） 4] 分散度用于特征选择 优于 (1)简单的从n个特征中挑选m个，不做任何变换 例：卫星照片，4个谱 4个光谱下的反射系数，从中挑2个谱来分类后，共M类还能分开 解：(1) M类 估计 计算次，找出最小的，即靠的最近的两类 (2)降维，降成二维 各种降维可能组合中取max，此时的m, C取相应的行和列构成。 如；则挑选；舍去 如果分散度还是很大，则降维效果很好，如果变得很小，则考虑降成三维 (2)正态分布,各类协方差相等,把坐标转到C的特征向量位置后进行降维 把坐标转到C的特征向量位