分类超曲面算法复杂度研究.docVIP

分类超曲面算法复杂度研究 何清1),2) 赵卫中1),2) 史忠植1) 1)（1.中国科学院计算技术研究所智能信息处理重点实验室 北京 100190） 2)（2.中国科学院研究生院 北京 100039） 摘 要 分类超曲面算法是一种简单的基于覆盖的分类算法.实验证明该算法具有分类正确率高、速度快的优点.但是，关于该算法的相关理论问题需要深入研究.本文对该算法的几个相关理论问题进行了研究.首先给出并证明了在分割的最大层数给定时算法假设空间的VC维，在此基础上结合可能近似正确(Probably Approximately Correct：PAC)学习框架，得出了对算法样本复杂度的估计，使得分类超曲面算法保证可PAC学习到任意目标概念.其次，分析了算法的时间复杂度和空间复杂度.最后，给出了无矛盾样本集的概念，并证明当输入样本集是有限无矛盾样本集的条件下，算法一定是收敛的. 关键词 分类超曲面算法，VC维，PAC可学习性，样本复杂度 1 引 言 分类算法研究是机器学习的核心研究内容，分类能力是人类智能的最显著特征之一.基于拓扑学中的Jordan曲线定理，何清等[1,2,3]提出了一种通用的覆盖型分类方法——分类超曲面算法.该方法直接在原空间解决非线性分类问题，通过区域细化与区域合并获得由多个超平面组成的双侧闭曲面作为分类超曲面对空间进行划分，通过计算样本点关于分类超曲面的围绕数的奇