电子与通信-信息论与编码.doc

信息论与编码 （浙江工业大学通信工程学院） 目 录 第一章 信息理论基础 3 第1.1节 信息论的形成和发展 3 1.1.1 信息、消息和信号 3 1.1.2 信息论的发展简史 3 1.1.3 Shannon对信息论的贡献 4 第1.2节 通信系统的模型 4 1.2.1 通信系统的一般模型 4 1.2.2 数字信道的通信系统模型 5 第1.3节 信息论研究的内容 5 第二章 香农信息论对现代社会的影响 7 第三章 信息论与编码技术的应用前景 10 第四章 信息论的主要研究成果 12 第4.1节 语音信号压缩 12 第4.2节 图像信号压缩 12 第4.3节 降低信息传输所需的功率 12 第4.4节 计算机网中数据传输可靠性的保证 13 结论 14 参考文献 15 致谢 16 信息论与编码 （浙江工业大学通信工程学院） 【摘要】：信息论与编码是一门运用概率论和数理统计的方法研究通信系统的学科，它构建了通信系统的数学模型，定义了信息的度量规则，数学描述和定量分析了通信系统从信源到信宿的全过程，进而延伸至信息的传输和压缩处理领域。信息论既是数学的一个分支，又是通信系统的核心研究对象，广泛应用于语音、音频、图像、文件等信号的压缩以及纠错编码等通信领域。 【关键词】：信息传输；信源编码；概率论；数理统计； [Abstract]： is an appliedinformation theory and coding probability theory and mathematical statistics method to study the subject of the communication system, it builds the mathematical model of the communication system, defines the measurement of information rules, mathematical description and the quantitative analysis of the whole process of the communication system from the source to he, and then extend to information transmission and compression processing field.Information theory is a branch of mathematics and communication systems at the core of the research object, are widely used in the speech, audio, images, files, such as signal compression and communication fields, such as error correction coding. [Key words]:Information transmission; source code; probility theory ; Mathematical statistics; 第一章 信息理论基础 第1.1节 信息论的形成和发展 1.1.1 信息、消息和信号 信息是一种消息，是对物质存在和运动形式的一般描述。信息存在于客体间的差别中而不是客体本身中，是为了消除不确定性所必须获得的东西。信息是无形的，具有可共享、无限、可度量等特性。 消息是信息的载荷者。消息具有不同的形式：文字、符号、数据、语言、图片、视频等。 信号是把消息变换成适合信道传输的物理量，这种物理量就称为信号。包括声波、光波、电信号、机械信号等。 信号是消息的表现形式，消息是信号的具体内容。 1.1.2 信息论的发展简史 1832年莫尔斯电码对shannon编码理论的启发 1885年凯尔文研究了一条电缆的极限传信速率 1922年卡逊对调幅信号的频谱结构进行研究 1924年奈奎斯特证明了信号传输速率和带宽成正比 1928年Hartley提出信息应该由随机事件样本空间中元素的个数的对数值来衡量 1939年Dudley发明声码器 1940维纳将随机过程和数理统计引入通信与控制系 1948年shannon发表《通信中的数学模型》 1949年shannon发表《保密系统中的通信理论》 1950年R.W.Hamming发表了《检错码与纠错码》 1952年Fano证明了Fano不等式，给出了shannon信道编码逆定理的证