独立重量分析的非参数方法.pdf

摘要 独立分量分析(IndependentComponent Souse 发展起来的一种信号处理技术。起源于解决盲源分离问题(BlindSeparation， and BSS，Jutten Herauk(1991))，即从混合信号中分离出独立分量(如不同声音，音 乐或者噪音)．具体地讲，除了已有混合信号的记录外，源信号(SourceSignal)和混合 方式都是未知的，在这个条件下，设法分离出独立源信号的问题就是盲源分离问题． 根据源信号混合形式的不同，独立分量分析可分为线性独立分量分析(Linear ICA)和非线性独立分析(Non-linearICA)，本文主要研究线陛情况．设可观察的 m维随机变量为x=(Xv一，x。)，未知的具有独立分量的n维源向量为s= (8H一，％)．它们之间的混合方式为 x=As 其中A未知m×礼阶矩阵，称为混合矩阵．ICA的基本问题是利用观测到的信 号X，估计出源信号s的一个版本，或者等价地。估计出混合矩阵A解决这个问 and 题的经典方法是信息最大方法(1nfomax，BellSejnowski(1995))，可以证明这类 方法和统计学中的极大似然法(Maximum 独立分量分析的其他方法有非线性主分量分析方法(Non-linearPrincipalCompo- nent CiroIamiand and Fixed-point，Hyvaerinen Fyfe(1997b))以及快速定点算法(飚t Oja(1997))等，所有这些方法的共同问题是在处理未知独立分量的密度上，采取有 限阶矩近似或者参数办法，限制了方法的应用范围．比如信息最大化办法就无法分 Kurtosis)分布的信号正式基于这个原因．我们考虑非参数方 离含有重尾(High Density 法一核密度估计(Kernel j II 摘要 ——————————————————————————————一 计来知信号的密度，但问题是没有现成的样本数据．我们的处理思路是利用观测到 的混合信号x(t)∈RN,t=1，2，…，r经过投影得到的拟样本(Quasj—sanlp】ek 合密度和边缘密度函数的非参数密度核估计量： ／(8，=嘉喜‰(掣) 舶扣去砉凰(华) 其中KN，K1分别为N维和—维标准正态分布密度函数： 爿k(x)=(2)-Nexp{一；xTx}，K1(算)一(27r)一lexp{一；茁2)． 定义 rr N 12 G(w)=f∑，㈤)一Ⅱz瓴㈨)J 作为独立性的定量指标(日标函数)，最小化这个目标函数得到参数就是要求的混合 矩阵的元素本文采用随机寻找(Random Searching)的办法．得到该参数的估计．随 机模拟表明，效果很理想该方法在使用范围上对信源分布没有限制，可用于一般的 独立分量分离|可题 整个文章安撒H下； 第一章介绍了独立分量分析的基本背景和应用领域。给出几个ICA的基本模型 以及假设条件． 第二章给出必要的预_备知识．主要包括梯度概念。因为独立分量分析问题，基本 是算法问题-所以我们给出了梯度的基本内容．另—个塞本概念就是独立性．结合独立 分量分析的环境，我们给出它和相关性关系的～个很好的例子，而这个例子在一般的 文献中都提到，但没有很细致的数学解释，在本章本人给出较全面的分析．独立分量