(ICA独立成份分析)独立成分分析.pptVIP

资源 源代码 FastICA的源代码 (matlab版) 可以免费下载 C++版本在代码库 IT++中实现 链接： http://www.cis.hut.fi/projects/ica/fastica/ /latest/ /~tony/ica.html 论文： Independent component analysis: algorithms and applications Survey on Independent Component Analysis * IT++ is a C++ library of mathematical, signal processing, speech processing, and communications classes and functions * 日本一个研究小组模仿大脑在嘈杂环境中也能分辨特定声音的机制，开发出可精确分离手机混合电磁波的新技术。这项技术可大大提高手机通信的传输速度和清晰度。 当您使用CDMA 电话时，它实际上接收了在您所使用的网络上传输的所有电话，但只有那些带有您的特殊代码的通话才会被从分组的数据状态重新转换为语音。 * 　　将多个变量通过线性变换以选出较少个数重要变量的一种多元统计分析方法。又称主分量分析。在实际课题中，为了全面分析问题，往往提出很多与此有关的变量（或因素），因为每个变量都在不同程度上反映这个课题的某些信息。但是，在用统计分析方法研究这个多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。主成分分析首先是由K.皮尔森对非随机变量引入的，尔后H.霍特林将此方法推广到随机向量的情形。信息的大小通常用离差平方和或方差来衡量 . 主成分分析(principal component analysis)是将分散在一组变量上的信息集中到某几个综合指标(主成分)上的探索性统计分析方法。以便利用主成分描述数据集内部结构，实际上也起着数据降维的作用。 独立成分分析Independent Component Analysis（ICA） 齐娟 2007-5-29 主要内容 ICA定义 ICA模型 ICA原理 ICA算法 ICA应用 PCAICA ICA定义 定义一：利用很少的先验知识将混合信息分离成独立分量的一种重要方法。 定义二：找到事物的一种合理表示，使得各分量最大化地独立。 20世纪八十年代才被提出。 cocktail-party problem 例子：cocktail-party problem Sources Observations s1 s2 x1 x2 Mixing matrix A x = As n sources, m=n observations cocktail-party problem Two Independent Sources Mixture at two Mics ICA 模型(经典) xj = aj1s1 + aj2s2 + .. + ajnsn, 对于每一个 j x = As 条件：s和A均是未知的，只有x已知 目标: 通过x估计出A和s 每一个si成分统计独立 限制： 每一个成分都不是Gaussian分布（实际上未知） 混合矩阵A为方阵且可逆（这个限制可以放松） 结论：估计出A之后，我们就可以得到s（s= A-1x） Ambiguities of ICA s和A均是未知的，s乘一个标量k，总可以用A乘以 1/k所抵消，即不能唯一确定s和A。 作如下约束： S中各个分量的次序不确定 Illustration of ICA 统计意义下说明 S各分量相互独立 x各分量不相互独立 判断方法：能否从一个分量估计出另一分量的值。边的方向即A0列向量。 Illustration of ICA 通过x的统计性质，作一些假设的条件下,可以估计出A和s 统计概念 独立：两个随机变量y1和y2是相互独立的，如果y1的值不能为y2提供任何信息，反之亦成立。 用概率密度函数描述： 性质：给定两函数h1和h2有： 不相关：两随机变量是不相关的，如果 独立的肯定不相关，不相关的未必独立，即独立是比不相关更强