模式识别非参数估计.pptVIP

Parzen窗口法可以看出：当时，可以收敛于任何复杂形式的当n=1时，即是窗函数的形式当n较小时，对的大小较为敏感，过小则产生噪声性误差，过大则又产生平均性误差第29页，共49页，星期日，2025年，2月5日Parzen窗口法所需样本数较多，计算量大，不易求得的解析表达式当特征空间的维数较大时，实用性差第30页，共49页，星期日，2025年，2月5日Parzen窗口法如何用Parzen窗口法进行分类器设计？获取n个学习样本令或令第31页，共49页，星期日，2025年，2月5日Parzen窗口法当待识别样本到来时，分别计算每一类样本的，即计算对每一类样本重复上述过程，得各类的类概率密度将样本归类到最大的类别中去第32页，共49页，星期日，2025年，2月5日Kn近邻法Parzen窗口法的估计效果取决于样本总数n及，当n较小时，对较为敏感，即：第33页，共49页，星期日，2025年，2月5日Kn近邻法其原因是由于只与总样本数有关，即进行概率密度估计时，任何x点处的都是相同的一种合理的选择是对样本出现密度大的x处，可较小，而对样本密度较小的x处，则相对大一些，这就是近邻法。第34页，共49页，星期日，2025年，2月5日Kn近邻法第35页，共49页，星期日，2025年，2月5日AppliedPatternRecognitionCSE616AppliedPatternRecognitionCSE616模式识别非参数估计第1页，共49页，星期日，2025年，2月5日第五章:非参数估计第2页，共49页，星期日，2025年，2月5日非参数估计原理在实际应用中，类概率密度函数形式已知的条件并不一定成立，特别是多峰的概率分布，用普通函数难以拟合，这就需要用非参数估计技术。非参数估计的原理是：不需获取类类概率密度的函数形式，而是直接利用学习样本估计特征空间任意点的类概率密度的值。即直接由学习样本来直接设计分类器。第3页，共49页，星期日，2025年，2月5日非参数估计方法直接由学习样本估计类概率密度P(X/ωi)，Parzen窗口法直接由学习样本估计后验概率P(ωi/X)，Kn近邻法非参数估计法Parzen窗口法Kn近邻法第4页，共49页，星期日，2025年，2月5日非参数估计思路鲑鱼鲈鱼第5页，共49页，星期日，2025年，2月5日非参数估计思路用已知类别的学习样本在x处出现的频度来近似P(X/ωi)，即：其中：v为包含X点的区域第6页，共49页，星期日，2025年，2月5日非参数估计K为n个样本中落入体积v的样本数。故：表示单位体积内落入x点邻域的样本在总样本中的比例，可以此来近似样本在X点处的类概率密度值。第7页，共49页，星期日，2025年，2月5日非参数估计第8页，共49页，星期日，2025年，2月5日非参数估计问题一若v固定，则当n增大时，只能表示平均概率，而不是点概率密度因此，为保证为点概率密度，必须有第9页，共49页，星期日，2025年，2月5日非参数估计第10页，共49页，星期日，2025年，2月5日非参数估计问题二若样本数n固定，则当时，则会出现x邻域内不包含任何样本，得出的错误估计第11页，共49页，星期日，2025年，2月5日非参数估计第12页，共49页，星期日，2025年，2月5日非参数估计解决方案考虑让v和k都随n的变化进行调整，即：第13页，共49页，星期日，2025年，2月5日非参数估计显然为保证的合理性，应满足如下条保证时，收敛于点概率密度保证不出现0概率密度保证收敛第14页，共49页，星期日，2025年，2月5日非参数估计