《信息论—基础理论与应用（第五版）》傅祖芸课后答案.docxVIP

《信息论—基础理论与应用（第五版）》傅祖芸课后答案

第一章绪论课后答案

一、核心概念题

信息、情报、知识、消息及信号的区别与联系

区别：

①信息是事物运动状态或存在方式的不确定性的消除，是最本质、最广泛的概念；

②情报是针对特定对象的、具有决策价值的特定信息，范围较窄；

③知识是对信息整理、概括后形成的高层次、具有普遍性的信息；

④消息是信息的载体（如文字、语言、图像等），能被感知和传递，同一信息可通过不同消息承载；

⑤信号是消息的物理体现（如电信号、光信号），是适合信道传输的物理量。

联系：信号承载消息，消息载荷信息，情报和知识是信息的特定形态，四者层层递进、相互关联。

香农信息定义的优点和缺点

优点：

①科学量化：有明确的数学模型（概率模型）和定量计算方法；

②贴合日常：与日常用语中信息的核心含义一致；

③客观中立：排除主观因素，同一消息对所有收信者的互信息量一致，形式化程度高。

缺点：

①模型局限：仅基于经典集合论的概率模型，无法覆盖模糊性等非概率不确定性；

②忽略主观：未考虑收信者的主观特性、信息的实际用途和重要程度，与实际应用存在偏差。

信息的核心特性

①普遍性与无限性：存在于一切事物运动过程中，总量无限；

②动态性与时效性：随事物变化而更新，价值随时间衰减；

③可传递性与可转换性：可通过多种渠道传递，能在不同形式（消息、信号）间转换；

④可共享性与可复制性：传递后不消失，可多人同时获取；

⑤可度量性：可通过熵、互信息等指标定量描述；

⑥相对独立性：与物质、能量并列，但不依赖特定载体独立存在。

通信系统模型的核心组成部分及功能

①信源：产生随机消息的源头（人、机器等），输出状态具有不确定性但有规律；

②编码器：将消息转换为适合信道传输的信号，含信源编码（提高传输效率）和信道编码（提高可靠性）；

③信道：传输信号的媒介（如电缆、光纤、无线电波空间），会引入干扰；

④译码器：将受干扰的信号反变换为消息，是编码的逆过程；

⑤信宿：接收消息的对象（人、机器等），与信源可处于不同时空。

信息论的研究目的

找到信息传输的普遍规律，实现信息传输的“四性优化”：

①可靠性：消息传输尽可能准确、不失真；

②有效性：用最少的时间、设备传递最多信息；

③保密性：仅授权接收者可获取消息；

④认证性：接收者能验证消息的真实性和完整性，防止伪造或篡改。

二、简答题

为什么说信息与物质、能量是构成世界的三大要素？

物质是世界的客观载体，能量是物质运动的动力，而信息是物质运动状态的描述和规律的体现。三者不可分割：任何物质运动都伴随能量转换和信息产生，人类通过获取信息认识物质、利用能量，信息是连接物质与能量的核心纽带，共同构成世界的基础。

广义通信系统与狭义通信系统的区别

狭义通信系统：仅指以电磁波为传输媒介的传统通信（如电话、广播），核心是信号的传输与转换；

广义通信系统：涵盖所有信息传递过程（如生物神经传导、计算机网络、卫星通信），强调信息从信源到信宿的完整流动，包括加密、认证、存储等延伸功能。

第二章离散信源及其信息测度课后答案

一、计算题

假币称重问题：12枚同值硬币，1枚假币（轻重未知），用天平称重，至少称多少次可确定假币？

解题思路：利用信息熵量化不确定性，确定最少测量次数。

步骤：

①总可能情况：12枚硬币中每枚可能是假币（12种），且假币可能重或轻（2种），总不确定性为\log_2(12\times2)=\log_224\approx4.58比特；

②每次天平称重有3种结果（左重、右重、平衡），每次测量最多获取\log_23\approx1.58比特信息；

③最少测量次数n满足n\times\log_23\geq\log_224，解得n\geq3。

结论：至少称3次可确定假币。

骰子点数信息量计算：同时扔一对均匀骰子，求以下情况的信息量：

（1）点数之和为2；（2）点数之和为8；（3）点数为3和4。

解题基础：一对骰子总可能结果数为6\times6=36种，每种结果概率相等（p=1/36），信息量公式I=-\log_2p。

计算过程：

①点数之和为2：仅（1,1）一种结果，p=1/36，I=-\log_2(1/36)=\log_236\approx5.17比特；

②点数之和为8：含（2,6）（3,5）（4,4）（5,3）（6,2）共5种结果，p=5/36，I=-\log_2(5/36)\approx2.85比特；

③点数为3和4：含（3,4）（4,3）共2种结