独立成分分析.pptVIP

现在我们试图采用牛顿法来求解方程。用F表示上方程的左部分，求的其梯度为： 为了简化矩阵求逆的过程需要对上式第一项进行近似。因为数据已经是球化过的，似乎可以作为一个合理的近似。这是梯度变化成了对角矩阵，可以简单的求逆，这样我们的到了近似的牛顿迭代算法： 在上式两边同时乘以 进一步简化得： 每次迭代完成后对W进行标准化。以上就是fastICA算法中不动点迭代的基本公式 代码实现 算法结果 5、infomaxICA 是美国Salk Institute计算神经生物学实验室的研究者没首先提出的。其特点就是在输出y之后逐分量的引入一个非线性函数ri=gi(yi)来代替高阶统计量的估计。 B infomaxICA---- 非线性去相关 Infomax法的判据是：经过B阵解混后对所得的y的每一个分量yi分别用一个非线性的函数gi(yi)加以处理，得r=g(y)=[g1(y1),----gn(yn)]=[r1,r2---rn]T自适应处理的目标函数是：调节B使r的总熵量H(B，r)极大; H(r)极大便意味着y的各分量之间的互信息极小,互信息小意味着y的各个分量相互独立。在结构上看，B，g合在一起就是单层感知机，只是r并不是我们需要的输出，它只是为达到使y各分量尽可能独立而引入的辅助环节。 参数的调节以下式为指导： B 式中Ex（.）是指P（x）为概率的函数的