最、K近邻法探究.docx

最/K 近邻法——分类王嘉要最初的近邻法是由Cover和Hart于1968年提出的，由于对该方法在理论上进行了深入分析，直至现在仍是模式识别非参数法中最重要的方法之一。数据：图像分割数据，虹膜植物数据编程语言：Python关键词：最\K-近邻法（KNN）、决策规则、欧氏距离、错误率、图像分割、虹膜植物识别最\K-近邻法简介近邻法是一种根据样本提供的信息，绕开概率的估计而直接决策的技术，所以它也属于非参数判别方法的一种。模式识别的基本方法有两大类，一类是将特征空间划分成决策域，这就要确定判别函数和分界面方程。而另一种方法则称为模板匹配，即将待分类样本与标准模板进行比较，看跟哪个模板匹配度更好些，从而确定待测试样本的分类。近邻法则在原理上属于模板匹配。它将训练样本集中的每个样本都作为模板，用测试样本与每个模板做比较，看与哪个模板最相似(即为近邻),就按最近似的模板的类别作为自己的类别。最近邻决策规则假定有个类别的模式识别问题，每类有标明类别的样本，我们可以规定类的判别函数为：其中的角标表示类，表示类个样本中的第个，决策规则可以写为若则决策这一决策方法成为最近邻法。其直观解释时相当简单的，就是说对未知样本,我们只要比较与个已知类别的样本之间的欧氏距离，并决策与离它最近的样本同类。K-近邻法最近邻法的一个显然的推广是K-近邻法。从字义上看，这个方法就是取位未知样本