信息论与编码试卷A.docVIP

南京工程学院 试题评分标准及参考答案 填空题（本题15空,每空1分,共15分 ） 一个消息来自于四符号集{a，b，c，d}，四符号等概出现。由10个符号构成的消息“abbbccddbb”所含的信息量为（ 20 ）bit，平均每个符号所包含的信息量为（ 2 ）bit。 两个二元信道的信道转移概率矩阵分别为，则此信道的信道容量C1=（1bit/符号 ），信道2的信道容量C2=（ 0.126bit/符号 ）。两信道串联后，得到的信道转移概率矩阵为（ ），此时的信道容量C=（0.126bit/符号 ）。 条件熵H(Y/X)的物理含义为（唯一地确定信道噪声所需要的平均信息量），所以它又称为（噪声熵或散布度 ）。 一袋中有5个黑球、10个白球，以摸一个球为一次实验，摸出的球重新放进袋中。第一次实验包含的信息量为（0.915bit/符号）；第二次实验包含的信息量为（0.915bit/符号）。 线性分组码的伴随式定义为（S=EHT ），其中错误图案E指的是（E=R-C (mod M)）。二进制码中，差错个数可等效为（收码和发码的汉明距离 ）。 设有一个二元等概信源：u={0，1}，P0=P1=1/2，通过一个二进制对称信道BSC，其失真函数dij与信道转移概率Pji=p(vj/ui)分别定义为，，则失真矩阵[dij]=（ ），平均失真D=（ ε ）。 判断题（本题10小题,每小题1分,共10分） 1．√2．√3．×4．×5．×6．√7．×8．√9．×10．√ I(pi) = -logpi被定义为单个信源消息的非平均自信息量，它给出某个具体消息信源的信息度量。 （ ） 异前置码一定是唯一可译码。 （ ） 无记忆离散消息序列信道，其容量C≥各个单个消息信道容量之和。（ ） 冗余度是表征信源信息率多余程度的物理量，它描述的是信源的剩（ ） 当信道固定时，平均互信息是信源分布的∪型凸函数。 （ ） BCH码是一类线性循环码，其纠错能力强、构造方便。 （ ） R(D)被定义为在限定失真为D的条件下，信源的最大信息速率。（ ） 设P为某马尔可夫信源的转移概率矩阵，若存在正整数N使得中的元素全都为0，则该马尔可夫信源存在稳态分布。 （ ） 信道容量随信源概率分布的变化而变化。 （ ） 如果两个错误图样e1、e2的和是一个有效的码字，则它们具有相同的伴随式。（ ） 三名词解释（本题4小题,每小题5分,共20分） 1 极限熵 序列长度趋于无限大时，序列的平均符号熵称为极限熵，又称极限信息量。 2 最佳变长码 变长编码中，所有编出的唯一可译码中平均码长最短的码即为紧致码。 3 限失真信源编码 离散无记忆信源X的信息率失真函数为R(D)，当信息率大于R(D)时，只要信源序列的长度足够长，一定存在一种编码方法，其译码失真小于或等于D+ε；反之，则无论采用什么方法，其译码失真必大于D。 4 信道容量 平均互信息I（X；Y）在转移概率p(y/x)一定时，关于X的概率分布是上凸函数，因此有极大值存在，这个极大值定义为信道容量 四计算题（本题3小题,共25分） 1 有一离散信道，其信道矩阵为，并设，， 试按最大似然概率译码准则确定译码规则，并计算其相应的平均译码错误概率。 (7分) 解：根据最大似然概率译码规则，得译码规则为： F(y1)=x1 F(y2)=x2 F(y3)=x3 （1分） 收到y1后的错误概率Pe1=1/2 （1分） 收到y2后的错误概率Pe2=1/2 （1分） 收到y3后的错误概率Pe3=1/2 （1分） Y的概率分布为：{1/4 1/4 1/2} ∴平均错误概率为： PE=p(y1)Pe1+P(y2)Pe2+P(y3)Pe3=1/4*(1/2)+1/4*(1/2)+1/2*(1/2)=1/2 （3分） 2 彩色电视显像管的屏幕上有5×105个像元，设每个像元有64种彩色度，每种彩色 度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独立。试： 1）计算一帧图像所包含的信息量； 2）计算每秒传送25帧图像所需要的信道容量； 3）如果信道上信号与噪声平均功率的比值为30dB，为实时传送彩色电视图像，信道的通频带应为多大？ （3+3+3=9分） 解：1）一帧图像的信息量=5*105*6*4bit=1.2*107bit （3分） 2）1秒送25帧图像所需的信道容