一种研究二元对称离散信道平均互信息的新方法!-物理学报.PDF

第 卷 第 期 年 月 物 理 学 报 $! % ##’ % ， ， ， :; ($! 9; (% )=? ##’ （ ） ###,*.#1##’1$! #% 1 .%-,#% )23) 456782) 78982) !##’ 2@?A ( 4@BC ( 7;D ( 一种研究二元对称离散信道平均互信息的新方法! 肖海林 聂在平 （电子科技大学电子工程学院，成都 !##$% ） （ 年 月 日收到； 年 月 日收到修改稿） ##! $ ! ##! ’ 在有干扰（噪声）无记忆信道和有记忆信道两种情况下，运用协同学的方法研究如何分配输入概率获取二元对 称离散信道最大的平均互信息 研究结果表明：对于无记忆二元对称离散信道，最大平均互信息与信息论中相同 ( 输入概率使平均互信息最大化的结果是一致的；对于干扰（噪声）有记忆二元对称离散信道，考虑输入、输出符号满 足不同程度的记忆度和干扰（噪声）因子情况下，得到符号最佳输入概率( 拓展了一种研究信息论的方法( 关键词：协同学，二元对称离散信道，互信息，转移概率 ： ， ， !## #$%# #$$# #$!# 关于如何分配输入概率才能使平均互信息最大 ［］ + 引 言 化，目前还没有一个通用的解法. ( 在本文中，我们 采用协同学的方法解决二元对称离散信道输入概率 协同学理论是建立在多学科联系（如动力系统 在有干扰（噪声）无记忆信道和有记忆信道两种情况 理论和统计物理学之间的联系）的基础上，揭示了物 下怎样获取最大的平均互信息的问题( 态变化的普遍程式：“旧结构 不稳定性 新结构”，即 , , 随机“力”和决定性“力”之间的相互作用把系统从它 ( 二元对称离散信道模型及理论分析 们的旧状态驱动到新组态，并且确定实现的那个新 组态( 协同学具有广阔的应用范围，它在物理学、化 $ % % 二元对称离散无记忆信道 学、生物学、天文学、经济学、社会学以及管理科学等 ［— ］ 许多方面都取得了重要的应用成果 ! ( 然而，以 如图 所示，设信道具有离散的二元输入和输 前几乎没有涉及到应用协同学来研究信息论( 二元对称离散信道是一种最简单也很重要的信 道，常用的某些实际信道，如微波、卫星、深空通信信 道就可以用它来近似( 在通信系统中，信息的传递 不只是决定于信息源所发出的平均信息量（信源的 熵），而且与信道的干扰程度有关( 在信息传输中， 接收端所得到的信息量就是剔除各种干扰的结 ［，］ 果’ - ( 若信道任一时刻输出符号只统计依赖于对 图 二元对称离散信道 应时刻的输入符号，而与非对应时刻的输入符号及 出序列，输入值的集合