一种基于离散度平衡的降维算法 - 计算机辅助设计与图形学学报.PDF

第28 卷 第 6 期 计算机辅助设计与图形学学报 Vol. 28 No.6 2016 年6 月 Journal of Computer-Aided Design Computer Graphics Jun. 2016 一种基于离散度平衡的降维算法 1,2) 1,2)* 1,2) 王辉兵 , 冯 林 , 吴振宇 1) (大连理工大学电子信息与电气工程学部计算机科学与技术学院 大连 116024) 2) (大连理工大学创新创业学院 大连 116024) (fenglin@) : 已有的监督维数约简算法大都通过最大化类间离散度总和等相关手段选取判别能力较强的子空间, 使得原 始空间中距离较小的一些类易被忽略而在子空间中出现不同类的融合现象. 为此, 提出一种基于离散度平衡的降维 算法——离散度平衡投影. 该算法利用对称相对熵来衡量样本间的离散度, 将对称相对熵与离散度平衡的概念结合, 使得算法在降维过程中保持较大类间离散度的同时更加注重较小的类间离散度, 以实现类间散度平衡的目的; 为了 充分使用现实生活中大量无标签样本, 通过保持所有样本间拉普拉斯图结构进一步提出了半监督离散度平衡投影. 对 Soybean, Isolet, COIL20 等标准数据集进行维数约简的实验结果表明, 文中算法具有较好的降维效果. ：监督维数约简; 离散度平衡; 相对熵; 半监督 ：TP391.41 A Dimension Reduction Algorithm Based on Divergence Balance Wang Huibing1,2), Feng Lin1,2)*, and Wu Zhenyu1,2) 1) (School of Computer Science and Technology, Faculty of Electronic Information and Electrical Engineering, Dalian University of Technology, Dalian 116024) 2) (School of Innovation and Extrepreneurship, Dalian University of Technology, Dalian 116024) Abstract: Most existing traditional supervised dimension reduction methods always maximize the between-class divergences to select discriminant subspace. This causes that some small divergences between two classes in original space are ignored easily because samples in these classes will mix together after they are projected in the subspace. To this end, this paper proposed a novel dimension reduction algorithm based on divergence balance which is called divergence balance projection (DBP). This method utilizes symmetric KL divergence to measure divergences between classes and