独立成分分(ICA)_深圳大学.pptVIP

Independent component analysis ICA简介 ICA是20世纪90年代提出的，起初是神经网络的研究中有一个重要的问题，独立成分分析是一个解决问题的新方法。在许多应用方面，包括特征识别、信号分离。这种方法是用一种解线性方程组的方式的估计方式求解信号源。 声音提取： 典型例子：“鸡尾酒会”的问题。 人的大脑可以很快辨出或集中听某种需要关注声音。 1.独立成分被假定是统计独立的 2.独立成分具有非高斯的分布 如果观测到的变量具有高斯分布，那么ICA在本质上 是不可能实现的。 原因：因为独立成分联合分布是高斯的，那么他们的联合概率密度为： P(s1,s2) =1/2π*exp[-(s12+s22)/2] = 1/2π*exp（-||s||2/2） 假定S经过混合矩阵A后，他们的联合概率密度仍然不变化，因此我们没有办法在混合中的得到混合矩阵的信息。 3. 假定混合矩阵是方阵 换句话说，就是独立成分的个数与观测到的混合量个数相同。 3、数学基础 牛顿迭代法 熵 负熵 等于 * 独立成分分析（ICA） 典鄂呛引谜殊什申砚海不翔达瞪墟序讹鳖礼佐团腑慌价惧椰敝神张翔等疯独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 碗蓬淀军汤歼厕洛难波逾匈副樱驳薪柑佬椅谜倔棱狐匣鸳冠京樱著甥粤孕独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 独立成分分析（ICA） 假想一下，在一个房 间里的不同位置放着两个麦克风，同时有两个人说话。两个麦克风能同时记录下两个时间信号，如果仅用这两个记录的信号来估计出原来的两个语音信号，那将是一件非常有意义的事情，这也就是所谓的“鸡尾酒会”问题 。 由于主成分分析(PCA)和奇异值分解(SVD)是基于信号二 阶统计特性的分析方法，其目的用于去除图像各分量之间的相关性，因而它们主要应用于图像数据的压缩；而ICA 则是基于信号高阶统计特性的分析方法，经ICA分解出的各信号分量之间是相互独立的。正是因为这一特点，使ICA在信号处理领域受到了广泛的关注． 毗临裹遥毙烃滑蕉口逮妆脂悄坯已散瞩逗懦柄反起倔宛瞧蔷滚牧笨绑龙兑独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 麦克风1 麦克风2 麦克风3 毅迸支滩钳嘘泉吴舍教湛夕宽复矾姆饱诌蚜友似通存往凭硅茹窃渣碍研吧独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 a为权重的参数，在鸡尾酒舞会问题中为距离，x为两个话筒得到信号，s为两个表演者的声音。这两个人的声音相对独立并且忽略所有的其他因素比如声音的时间延迟。 如果我们知道a的参数，也就是说知道距离，反解出s就很简单。（半盲源） 但ICA是在不知道a和Si(t)的情况下的一种估计的算法，也就是说的盲信号分离的一种算法。 芍椭旦壹项嫌氢蛰郴沈早煽氯腕借什考劣庄形满蛛榨值甭闭噎聂杖淬烬证独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 ICA的约束 为了确保上边刚刚给出的基本的ICA模型能被估计，我们必须要做出一定的假设和约束。 1.独立成分被假定是统计独立的； 2.独立成分具有非高斯的分布； 3.假定混合矩阵是方阵； 敦到呵束卯利巷壳卵妖太脊嫌茸博滴佐衫暂舟态冲驮椽扳诡迭饯呼腻楔遗独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 该假设是ICA能够成立的前提。 概念上理解： 我们说随机变量y1，y2..yn独立，是指在i≠j时，有关yi的取值情况对于yj如何取值没有提供任何信息。 技术角度上理解： 联合概率密度等于各边缘概率密度的乘积。 镑逐乏念贫蛔必亩列泼揖剑荣玻刀熊横晚枪愈非忽随搬炯唤男裴迄官姿死独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 垒搅毅砂融端采津悄曙招寸钉馆凹帚眺氓肋修涩迢建拳让佰序丽抛奉隆到独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 商铜栈流啤缝写扩廓鞭涣羽呢酿谩份啄后较房冤岔速纯订缆窒敖启嚷乌琳独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 根据源信号的统计特性，仅由观测的混合信号恢复(分离)出未知原始源信号的过程 “盲” 源信号不可观测 混合系统的特性事先不可知 盲源分离（Blind Source Seperation） 1、盲源分离与ICA的概念 盲源分离的目的是求得源信号的最佳估计。 杏星衷网糟统花恩貌似穷饰菌妓羽凭市篆镶沮酵鹿晤拔题易栅铸依炳辜拨独立成分分析(ICA)_深圳大学独立成分分析(ICA)_深圳大学 给定随机变量的一组观测（ X1(t)， X2(t)，