原创力文档- 1、本文档共588页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
实践性教学内容、要求及学时分配
实验一：信道容量的迭代算法2学时
实验二：Huffman编码2学时
实验三：通信系统仿真4学时
（备选题目：LZW压缩编码）
国外参考教材
T.M.Cover,FundamentalofInformationTheory
最为流行的英文教材，为Stanford、MIT等学校的研究生课程选用
数学推导适中，强调概念，作为参考教材
R.G.Gallager,InformationTheoryandReliableCommunication
数学推导较为艰深
作为提高教材
一、什么是信息
二、通信系统模型
三、信息论的研究内容
四、信息论的形成和发展
1.概述
2.信息的通俗概念
一、什么是信息
3.信息的狭义概念（香农信息）
二、通信系统模型
4.信息的广义概念
三、信息论的研究内容
四、信息论的形成和发展
什么是信息通信系统模型研究内容形成和发展
l组成客观世界的三大基本要素：
•物质
•能量
•信息
l没有物质什么都不存在，没有能量什么都不会发生，没
有信息什么都没有意义。
——美国学者欧廷格
什么是信息通信系统模型研究内容形成和发展
信息的通俗概念：消息就是信息。
l用文字、符号、数据、语言、音符、图片、图像等能够
被人们感觉器官所感知的形式，把客观物质运动和主观
思维活动的状态表达出来，就称为消息。
l消息中包含信息，消息是信息的载体。
什么是信息通信系统模型研究内容形成和发展
l信号是表示消息的物理量，包括电信号、光信号等。
l信号中携带着消息，信号是消息的载体。
信息
消息
信号
什么是信息通信系统模型研究内容形成和发展
香农信息：信息是对事物运动状态或存在方式的不确定
性的描述。
l通信的过程就是消除不确定性的过程。
l通信的基本问题是在一点(信宿）精确或近似恢复另一点
（信源）所选择的消息。————香农
什么是信息通信系统模型研究内容形成和发展
l例1：
甲袋红、白球各50个，乙袋红、白、蓝、黑球各25
个。比较从甲袋中取出一个球是红球的事件和从乙袋中
取出一个球是红球的事件发生的难易程度，也就是事件
发生的不确定性。
什么是信息通信系统模型研究内容形成和发展
l例2：
北京地区十月份可能出现的天气包括：晴、阴、雨
、雪。比较天气预报为“晴”和天气预报为“雪”，给
人们带来的信息量。
结论：不确定性的大小与事
件发生的概率有关。
什么是信息通信系统模型研究内容形成和发展
不确定性的大小与事件发生的概率有关
不确定性是概率的函数
因此，信息量可以表示为概率的函数。
什么是信息通信系统模型研究内容形成和发展
l信息与概率的关系：
–事件发生的概率越大，该事件包含的信息量越小；
–如果一个事件发生的概率为1，那么它包含的信息量为0；
–两个相互独立事件所提供的信息量应等于它们各自提供的
信息量之和。
什么是信息通信系统模型研究内容形成和发展
l某个消息的不确定性（含有的信息量）可以表示为：
111
文档评论（0）