基于ICA的人脸识别.pptVIP

Thank you!!! * 基于ICA的人脸识别的实现 郭倩茜 问题的提出： ”鸡尾酒会“问题（Cocktail Party Problem） ***ICA（independent component analysis 独立分量分析)最初是用来解决”鸡尾酒会“问题的。 ***ICA方法最早是有法国的J.Herault和C.Jutten于八十年代中期提出来的，现在常称他们的方法为H-J算法，是最经典的ICA算法之一。 ***H-J算法利用一个带反馈的人工神经网络，通过梯度下降法调整网络的权值，使得网络输出信号的残差最小，从而实现源信号的盲分离。 ***在嘈杂的鸡尾酒会上，许多人在同时交谈，可能还有背景音乐，但人耳却可以准确而清晰地听到对方的话语。这种可以从混合声音中选择自己感兴趣的声音而忽略其他声音的现象称为“鸡尾酒会效应”。 ICA的思想就是通过一个线性变换，从训练样本中找到一组相互独立的基（独立元），并以此来描述样本数据。 它不仅考虑了信号的二阶统计特性还考虑了高阶统计特性。ICA处理后图像信号高阶统计且互不相关。 ICA的模型： ICA的思想： ICA的原理框图： 在信号源是s(t)中各个分量相互独立的假设下，由观察x(t)通过分离系统W把它们分离出来，使输出y(t)逼近s(t)。独立分量分析实际上是一个优化的问题，因为问题没有唯一解，只能在某一衡量独立的理想判别最优的意义下寻求其近似解答，使y(t)中各个分量尽可能相互独立,y(t)和s(t)不但只是近似，而且在排列次序和幅度上都允许不同。 第一步“白化”是使输出z(t)的各个分量 的方差为1，而且互不相关（未必相互独立）；第二步“正交变换”，一方面使输出 的方差保持为1，同时使各个分量尽可能独立。由于 已经满足独立性对二阶统计量的要求，因此进行第二步时只需要考虑三阶以上的统计量，使得算法得以简化。 X＝AS X为n维观测信号矢量，S为独立的m（m=n)维未知源信号矢量，矩阵A被称为混合矩阵。 ICA的目的就是寻找解混矩阵W（A的逆矩阵），然后对X进行线性变换，得到输出向量Y。( Y＝WX＝WAS ) 过程：(1)对输入数据进行中心化和白化预处理 　　 X*=X-u 　　 经过白化变换后的样本数据为 　　 Z＝V X* 　　 (2)从白化样本中求解出解混矩阵W 通过优化目标函数的方法得到W 　　 (3)得到独立的基向量Y 　　 Y＝WX 得到基向量Y后，任何一个样本可用Y的线性组合来表示 。然后选择合适的分类器，就可以进行分类。最简单的即为最近邻分类器（NNC）：用距离参数表示训练集模板与测试样本的差异，认为测试样本与满足最小距离的训练样本属于同一种类。 为了实现ICA，必须满足的几个条件： @源信号之间统计独立，且为均值为零的随机变量； @观测信号的个数不小于源信号的个数，此时的A是满秩的可逆常数矩阵； @最多只能有一个源信号服从高斯分布； @无噪声或者是噪声很小可以忽略不计； ICA的两个不确定性（解的等价性）： 1）输出向量排列顺序的不确定性，即无法确定所提取的信号对应原始信号源的哪一个分量； 2）输出信号幅度的不确定性，即无法恢复到信号源的真实幅度。 如何解决幅度不确定性？？？ 假设源信号和输出信号为单位方差，即： 当观测信号确定的后，A的系数的大小固定， 则分离矩阵的系数大小也已经确定。 *ICA是假设信号源之间是相互独立的，基于四阶统计量（kurtosis），利用统计上的独立的信息，进而设计算法，从而将独立的源信号提取出来。*PCA是假设信号源之间是相互不相关的，基于二阶统计量（方差），利用这个统计上的不相关的信息，进而设计算法，从而将不相关的源信号提取出来。 ICA和PCA区别： PCA沿数据集方差最大方向寻求一些相互正交的轴，而ICA将不限制这些轴是不是正交，它的轴上的投影就有很少的交叠产生，下图就是PCA和ICA的投影轴在二维空间之间的关系： (固定点算法Fixed-Point) Fastica: 该算法是基于定点递推算法得到的 。它对任何类型的数据都适用，同时它的存在对运用ICA分析高维的数据成为可能 。是由芬兰赫尔辛基大学Hyvauml;rinen等人提出来的 。是一种快速寻优迭代算法，与普通的神经网络算法不同的是这种算法采用了批处理的方式，即在每一步迭代中有大量的样本数据参与运算。FastICA算法有基于四阶累积量、基于似然最大、基