模式识别复习资料.pptVIP

该轮迭代的分类结果全部正确，故解向量 相应的判别函数为： 当c、W(1)取其他值 时，结果可能不一样， 所以感知器算法的解不是单值的。 判别界面d(X)=0如图示。 10 最小错误率贝叶斯决策 对两类问题 若 ，则 若 ，则 可改写为： 统计学中称l12(X)为似然比， 为似然比阈值。 若 ，则 （4-8） 例4.1 假定在细胞识别中，病变细胞的先验概率和正常细胞的 先验概率分别为 。现有一待识别细胞， 其观察值为X，从类条件概率密度发布曲线上查得：　　　　　 试对细胞X进行分类。 解：[方法1] 通过后验概率计算。 复习 1．模式和模式识别的概念 1）模式：对某些感兴趣的客体的定量的或结构的描述。模式类是具有某些共同特性的模式的集合。 2）模式识别：研究一种自动技术，依靠这种技术，计算机将自动地（或人尽量少地干涉）把待别识模式分配到各自的模式类中去。 复习 2 模式识别系统组成 学习过程 判决过程 分类规则训练 分类决策 数据获取 预处理 特征选择 或提取 模式识别系统框图 复习 1） 监督分类：需要依靠已知类别的训练样本集，按照他们特征向量的分布来确定判别函数，然后利用判别函数对未知模式进行分类。需要足够的先验知识。 判别。需要有足够的先验知识。 2） 非监督分类：用于没有先验知识的情况，通常采用聚类分析的方法。 3 监督分类和无监督分类 复习 4 模式识别整体知识结构 5 最大最小距离算法（小中取大距离算法 ） 算法描述 ① 选任意一模式样本做为第一聚类中心Z1。 ② 选择离Z1距离最远的样本作为第二聚类中心Z2。 ③ 逐个计算各模式样本与已确定的所有聚类中心之间的距离，并选出其中的最小距离。例当聚类中心数k=2时，计算 min( Di1 , Di2 )，i=1，…，N （N个最小距离） 复习 ⑥ 将样本 按最近距离划分到相应聚类中心对应 的类别中。 ⑤ 重复步骤③④，直到没有新的聚类中心出现为止。 ④ 在所有最小距离中选出最大距离，如该最大值达到 的一定分数比值( 阈值T ) 以上，则相应的样本点取为新的聚类中心，返回③；否则，寻找聚类中心的工作结束。 （θ：用试探法取为一固定分数，如1/2。） 则Z3存在。 例k =2时 复习 例2.1 对图示模式样本用最大最小距离算法进行聚类分析。 ①选Z1=X1 ②距Z1最远，选为Z2。计算T。 ③对应最小距离中的最大值， 且T，选作Z3。 结果：Z1=X1；Z2=X6； Z3=X7 。 ④ 用全体模式对三个聚类中心计算最小距离中的最大值，无T 情况，停止寻找中心。 ⑤ 聚类 10个最小距离中，X7对应的距离T, ③ 算法描述 1）N个初始模式样本自成一类，即建立N 类： 计算各类之间（即各样本间）的距离，得一N×N维距离矩阵D(0)。“0”表示初始状态。 (G_Group) 6 层次聚类法 2）假设已求得距离矩阵D(n)（n为逐次聚类合并的次数），找出D(n)中的最小元素，将其对应的两类合并为一类。由此建立新的分类： 3）计算合并后新类别之间的距离，得D(n+1)。 4）跳至第2步，重复计算及合并。 复习 结束条件： 1）取距离阈值T，当D(n)的最小分量超过给定值 T 时，算法停 止。所得即为聚类结果。 2）或不设阈值T，一直将全部样本聚成一类为止，输出聚类的分 级树。 复习 例：给出6个五维模式样本如下，按最短距离准则进行系统聚类分类。 计算各类间欧氏距离： 解：（1）将每一样本看作单独一类，得： … ， ， ， ； ； D(0) 0 0 0 0 0 0 ＊ （2）将最小距离 对应的类 和 合并为1类，得 新的分类。 计算聚类后的距离矩阵D(1)： 由D(0) 递推出D(1) 。 得距离矩阵D(0)： D(0) 0 0 0 0 0 0 ＊ D(1) 0 0 0 0 0 （3）将D(1)中最小值 对应的类合为一类， 得D(2)。 D(2) 0 0 0 0 ＊ （4）将D(2)中最小值 对应的类合为一类，得D(3)。 D(2) 0