基于核主成分分析文本分类.pdfVIP

基于核主成分分析的文本分类 薛永刚朱靖波魏刚 东北大学自然语言处理实验室，沈阳110004 摘要： 主成分分析是模式识别中经典的降维技术．本文尝试把它的一个变种算法——核主成分分 析，与k-NN分类模型结合，应用到文本分类中。核主成分分析方法通过选择合适的核函数，利用词之 问的高阶的关系进行特征抽取。实验结果表明，核主成分分析在英文语料reuters21578上达到了潜在语 义索引分类性能，而在中文863评测语料上微平均F1值比潜在语义索引高2％。 文本分类 关键词：特征抽取； 核主成分分析： 潜在语义索引；k-NN； Text KernelPCA--Based Xue Zhu Wei JingboGang Yonggang Natural LabofNortheastern 110004 LanguageProcessing University,Shenyang reduction．In aclassicalmethodfordimensional this ComponentAnalysis(PCA)is Abstract：Principal classifier．Kernel Kernel variantof usedfortext withk-NN paper PCA，a PCA,iS categorizationcombining forfeatureextraction betweenwords canmake useof correlations PCA good hi}gh·order byselecting．the PCAworksalmostaswellasLatent showthatKernel kernelfunctions．The results proper experimental PCAis thanthatofLSl whilethemicro·FIofKernel Semantic overReuters21578 2％higher Indexing(us0 overChinese863 Evaluatingcorpus． Feature Extraction；KernelPCA；LSI；k-NN；Text Keywords： Categorization 1前言 伴随互联网的迅速发展，电子文本的数量急剧增加。对于这些文本信息的获取和检 180 索变得越来越重要。文本分类，就是给自然语言文本添加主题类