基于随机变量相似度的ICA方法.pdfVIP

第 31 卷第 9 期 电 子 与 信 息 学 报 Vol.31No.9 2009 年 9 月 Journal of Electronics Information Technology Sept..2009 基于随机变量相似度的 ICA 方法 张旭秀①② 邱天爽① ①(大连理工大学电子与信息工程学院 大连 116024) ②(大连交通大学电气信息学院 大连 116028) 摘 要：从随机变量(微分)熵的概念出发，定义了随机变量的相似度，讨论了用求相似度极点的方法实现观测数据 线性组合非高斯性最大化，从而串行估计独立分量分析(ICA)模型中的独立分量的原理和算法。对非多项式矩定理 进行了更为一般化的证明，以此定理为根据阐明了以一般的非二次型光滑偶函数的数学期望近似代替相似度的可行 性。给出梯度算法中的符号因子计算公式，避免了现有的相应算法中符号因子计算公式与目标函数之间的矛盾。通 过与极大似然 ICA 方法对比，表明所定义的相似度就是在预白化条件下单个源变量的极大似然函数。 关键词：微分熵；随机变量相似度；ICA 模型的串行估计；极大似然函数 中图分类号：TN911.7 文献标识码：A 文章编号：1009-5896(2009)09-2104-05 Random Variable Analogy Based ICA Method ①② ① Zhang Xu-xiu Qiu Tian-shuang ① (School of Electronics and Information, Dalian University of Technology, Dalian 116024, China) ② (School of Electronics and Information Engineering, Dalian Jiaotong University, Dalian 116028, China) Abstract: This paper defines analogy measure of two random variables, and discusses the principle and algorithm of maximizing non-Gaussianity of observed data with a linear transformation to estimate independent components serially. It also proves the non-polynomial moment theorem by a generalized way, and states the feasibility that substitutes the analogy with the expectation of a non-quadratic smooth even function based on the theorem. A formula to compute sign of above algorithm is given. The algorithm overcomes the contradiction between the objective function and the sign computation formula.Comparing with Maximum likelihood ICA, the analogy is Maximum likelihood function