高光谱数据降维与可分性准则.pptVIP

降维后得到的低维特征空间是否有效进行类别区分？ 类内均方欧氏距离定义为： 类内均方距离也可定义为： 3.2几何距离可分性准则原理 4.类内距离 先求出各自到类心的距离的平方，再求和 两两运算，不涉及类心 三、基于几何距离的可分性准则 目前三十一页\总数五十页\编于十三点 类内离差矩阵，反映类内部样本在均值周围的散布情况。 （矩阵的迹） 与类内均方欧氏距离的关系： 3.2几何距离可分性准则原理 5.类内离差矩阵 三、基于几何距离的可分性准则 目前三十二页\总数五十页\编于十三点 两类样本之间的距离 X1 X2 X3 Y1 Y2 A类 B类 两两之间 3.2几何距离可分性准则原理 6.两类之间的距离 三、基于几何距离的可分性准则 目前三十三页\总数五十页\编于十三点 取欧氏距离时，总的均方距离为 总的样本距离 两类样本之间的距离 类与类两两求和 3.2几何距离可分性准则原理 7.各类总的均方距离 三、基于几何距离的可分性准则 目前三十四页\总数五十页\编于十三点 第i类的离差矩阵 第i类的比例 A.总的类内离差矩阵 3.2几何距离可分性准则原理 7.多类情况离差矩阵 三、基于几何距离的可分性准则 目前三十五页\总数五十页\编于十三点 第i类样本均值 总体样本均值 每一类只有一个代表 B.类间离差矩阵 3.2几何距离可分性准则原理 7.多类情况离差矩阵 三、基于几何距离的可分性准则 目前三十六页\总数五十页\编于十三点 任一样本 实质是样本总体的协方差矩阵 不涉及类的概念 总体样本均值 C.总体离差矩阵 3.2几何距离可分性准则原理 7.多类情况离差矩阵 三、基于几何距离的可分性准则 目前三十七页\总数五十页\编于十三点 点与点的距离 点到点集 类内的均值矢量 类内距离 类内均方距离 类内离差矩阵 总体的均值矢量 两类之间的距离 总体离差矩阵 各类模式之间总的均方距离 如何通过几何距离衡量可分性？ 三、基于几何距离的可分性准则 3.3判据构造 1.离差矩阵分析 目前三十八页\总数五十页\编于十三点 样本的散布程度 样本越分散 矩阵数值越大 类的内部越紧密越好 类之间越分散越好 降维方案1 降维方案2 样本的类别信息已知 越小越好 越大越好 情况复杂 三、基于几何距离的可分性准则 3.3判据构造 1.离差矩阵分析 目前三十九页\总数五十页\编于十三点 原则：数值的大小直接体现降维后特征空间的类别可分性。 常见判据： 3.3判据构造 2.依据可分性准则构造判据 三、基于几何距离的可分性准则 目前四十页\总数五十页\编于十三点 一、高光谱数据的降维问题 二、类别可分性准则 三、基于几何距离的可分性准则 四、基于类的概率密度的可分性准则 第四章 第1节 高光谱数据降维与可分性准则 目前四十一页\总数五十页\编于十三点 先验概率 后验概率 条件概率 在样本集中，预先已知的某一类出现的概率P(Wi) 对于样本集中的某一模式x，它属于某类Wi的概率P(Wi | x ) 在某一类 Wi 中， 模式x出现的概率P(x | Wi) 4.1基本概念回顾 四、基于概率密度的可分性准则 目前四十二页\总数五十页\编于十三点 W1 W2 P(x | W1) P(x | W2) P 100% 0% W2 W1 100% W1 W2 P(x | W1) P(x | W2) P 0% W1 W2 各类的条件概率密度函数P(x | Wi) 重叠度越低，特征可分性越好。 四、基于概率密度的可分性准则 4.2概率密度分析 目前四十三页\总数五十页\编于十三点 可分性判据的设定 衡量概率密度重叠度 立足于 基本性质： Jp =0 ; 当两类概率密度完全不重叠时，Jp 取最大值 ; 当两类概率密度完全重叠时，Jp 等于0 ; 两类概率密度具有“对称性”。 四、基于概率密度的可分性准则 4.3基本性质 目前四十四页\总数五十页\编于十三点 进行相关性运算，实际上是对两个概率密度函数进行卷积运算。 两个概率密度函数越重合，卷积结果越大； 当二者完全重合时，相当于对p(x) 进行全概率积分，等于1； 当二者完全分离时，卷积结果等于零。 在开区间（0，1）内，y = -ln( x) 取值范围为0 至 正无穷大。（性质1，2，3） 四、基于概率密度的可分性准则 4.4 Bhattacharyya判据 目前四十五页\总数五十页\编于十三点 更具一般性的判据： S=0.5时 ， Chernoff判据即为Bhattacharyya判据 四、基于概率密度的可分性准则 4.5 Chernoff判据 目前四十六页\总数五十页\编于十三点 特征空间对w1类的可分性越好 特征空间对w2类的可分性越好 散度:基于贝叶斯判决的可分性判据