改进的扩展互信息分离算法 extended mutual information separation algorithms based on multi-hidden layer.pdfVIP

第卷第期 电讯技术 Ｖｏｌ．５３ Ｎｏ．４ ５３ ４ 年月 ２０１３ ４ ＴｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ Ａｐｒ．２０１３ ： ｄｏｉ １０．３９６９／ｊ．ｉｓｓｎ．１００１－８９３ｘ．２０１３．０４．００６ 改进的扩展互信息分离算法  赵立权，蔡帮贵 （东北电力大学信息工程学院，吉林 ） １３２０１２ 摘要：扩展互信息分离算法采用单隐层神经网络近似算法代价函数中的非线性函数，可调节的参 数有限，需要多次迭代才能收敛，从而导致收敛速度较慢。针对这一问题，采用双隐层神经网络近似 非线性函数，以分离结果的互信息最小化作为代价函数，采用梯度下降方法对代价函数进行优化，增 加了可调节参数数量。仿真实验结果表明，改进后的算法相对原算法收敛速度更快，误差更小。 关键词：非线性独立分量分析；扩展互信息分离算法；多层感知机；双隐层神经网络 中图分类号： 文献标志码： 文章编号： （ ） ＴＮ９１１．７ Ａ １００１－８９３Ｘ ２０１３ ０４－０４０２－０６ ＥｘｔｅｎｄｅｄＭｕｔｕａｌＩｎｆｏｒｍａｔｉｏｎＳｅｐａｒａｔｉｏｎＡｌｇｏｒｉｔｈｍｓ ＢａｓｅｄｏｎＭｕｌｔｉＨｉｄｄｅｎＬａｙｅｒ ， ＺＨＡＯＬｉｑｕａｎ ＣＡＩＢａｎｇｇｕｉ （ ， ， ， ） ＣｏｌｌｅｇｅｏｆＩｎｆｏｒｍａｔｉｏｎＥｎｇｉｎｅｅｒｉｎｇ ＮｏｒｔｈｅａｓｔＤｉａｎｌｉＵｎｉｖｅｒｓｉｔｙ Ｊｉｌｉｎ１３２０１２ Ｃｈｉｎａ ： （ ） Ａｂｓｔｒａｃｔ Ｅｘｔｅｎｄｅｄｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎｓｅｐａｒａｔｉｏｎ ＥＭＩＳＥＰ ａｌｇｏｒｉｔｈｍｕｓｅｓａｓｉｎｇｌｅｈｉｄｄｅｎｌａｙｅｒｎｅｕｒａｌｎｅｔｗｏｒｋ ｔｏａｐｐｒｏｘｉｍａｔｅｎｏｎｌｉｎｅａｒｆｕｎｃｔｉｏｎｏｆｃｏｓｔｆｕｎｃｔｉｏｎ，ｓｏｔｈｅａｄｊｕｓｔａｂｌｅｐａｒａｍｅｔｅｒｉｓｌｉｍｉｔｅｄａｎｄｉｔｎｅｅｄｓｍｏｒｅｉｔｅｒａ ｔｉｏｎｔｉｍｅｓｔｏｃｏｎｖｅｒｇｅ， ， ｗｈｉｃｈｌｅａｄｓｔｏｒｅｌａｔｉｖｅｌｙｓｌｏｗｃｏｎｖｅｒｇｅｎｃｅｓｐｅｅｄ．Ｔｏｏｖｅｒｃｏｍｅｔｈｉｓｐｒｏｂｌｅｍ ｔｈｉｓｐａｐｅｒ ｕｓｅｓｄｏｕｂｌｅｈｉｄｄｅｎｌａｙｅｒｐｅｒｃｅｐｔｉｏｎｓｔｏａｐｐｒｏｘｉｍａｔｅｎｏｎｌｉｎｅａｒｆｕｎｃｔｉｏｎｏｆｃｏｓｔｆｕｎｃｔｉｏｎ，ａｎｄｕｓｅｓｍｕｔｕａｌｉｎｆｏｒ ｍａｔｉｏｎｍｉｎｉｍｕｍｏｆｓｅｐａｒａｔｉｏｎｓｉｇｎａｌｓａｓｃｏｓｔｆｕｎｃｔｉｏｎ，ｗｈｉｃｈｉｓｏｐｔｉｍｉｚｅｄｂｙｇｒａｄｉｅｎｔｄｅｓｃｅｎｔｍｅｔｈｏｄ．Ｔｈｉｓｉｎ ｃｒｅａｓｅｓｔｈｅｎｕｍｂｅｒｏｆａｄｊｕｓｔａｂｌｅｐａｒａｍｅｔｅｒｓ．Ｔｈｅｓｉｍｕｌａｔｉｏｎｒｅｓｕｌｔｓｐｒｏｖｅｔｈａｔｔｈｅｉｍｐｒｏｖｅｄａｌｇｏｒｉｔｈｍｈａｓｆａｓｔｅｒ ｃｏｎｖｅｒｇｅｎｃｅｓｐｅｅｄａｎｄｓｍａｌｌｅｒｅｒｒｏｒｃｏｍｐａｒｉｎｇｗｉｔｈｔｈｅｏ