一种互信息梯度不变的非线性特征提取方法.pdf

第27卷第12期 计算机应用研究 V01．27No．12 Researchof Dec．2010 2010年12月 Application Computers 一种互信息梯度不变的非线性特征提取方法水 徐洪章1，牛小梅1，廖海斌2 (1．黄淮学院计算机科学系，河南驻马店463000；2．武汉大学电子信息学院，武汉430079) 摘要：针对线性的互信息特征提取方法，通过研究互信息梯度在核空间中的线性不变性，提出一种快速、高效 的非线性特征提取方法。该方法采用互信息二次熵快速算法及梯度上升的寻优策略，提取有判别能力的非线性 高阶统计量；在计算时避免传统非线性特征提取中的特征值分解运算，有效降低计算量。通过UCT数据的投影 和分类实验表明，该方法无论在投影空间的可分性上，还是在算法时问复杂度上，都明显优于传统算法。 关键词：核方法；非线性变换；特征提取；互信息 中图分类号：哟9l 文献标志码：A 文章编号：1001，3695(2010)12—4495．03 doi：t0，3969／j．issn．1001-3695．2010．12．028 Invarianeeofmutualinformationbasednonlinearfeatureextraction gradient XU Hal·bin2 Xiao—meil，LIAO Hong-zhan91，NIU s盼，Wuhan430079，Ch／na) and of afast effectivemethodnonlinearfeatureextraction thelinearinvarianceof Abstract：Thispaperproposed bystudying mutualinformationinthelinearmutualinformation afast formutualinforma- featureextraction．It gradient employedalgorithm tionand ascentwhichavoidthe ofthetraditionalnonlineartransformation．Inthis gradient eigenvaluedecomposition way，the of extractedfeaturescouldreflectthecharacteristicsdiscriminativestatisties。andreducethe higher．order effectively computao tional withtheUCIreaddatashowthatthe wellin andclassi· complexity．Experiments proposedapproachperformsprojection fication isbeuerthantraditionalnonlinear forthetime performance，and