信息论与编码课程的总结.docxVIP

信息论与编码课程总结 　　通信工程134班刘钰安信息论与编码学习体会　　对信息论与编码课程教与学的几点思考　　摘要：本文主要介绍了信息论与编码教学过程中的一些教学方法，从教学的角度总结了一些经验，并从学生的角度指出如何能更好的学习和掌握信息论与编码课程的精髓。　　关键词：信息论，编码，教学　　Abstract:thispapermainlyintroducestheinformationtheoryandmeasuresintheprocessofteaching,fromthepointofviewofteachingsummarizedsomeexperiences,andfromthepointofviewofstudentspointsouthowtobettertolearnandgrasptheessenceofthecourseofinformationandcoding.　　Keywords:informationtheory,coding,teaching　　一、前言　　信息论是一门理论性较强的课程，主要研究的是运用概率论与数理统计的方法研究信息、信息熵等问题的一门学科；是通信工程、电子信息工程专业的一门专业基础课程，其核心问题是信息传输的有效性和可靠性以及安全性。　　本文作者从事《信息论与编码》教学几年来，在讲课过程中，总结了一些教学经验，并对学生学习给出一定的建议。信息论与编码课程不仅仅局限于数学公式的推导，这样容易使学生失去学习兴趣，因此应注重理论与实际的联系。同时，结合具体工程应用中的一些实例，针对理工科生的特点，讲解信息论的理论知识，从而增强课程的生动性、趣味性，激发学生的学习兴趣。　　二、从教学角度的几点思考　　很多学生在学习的过程中将信息论与编码课程与其他的专业课程进行横向比较，发现本门课程具有相对的独立性，与其他所学的专业课联系不大；还有些学生认为这门课对今后毕业找工作不能起到很重要的作用；也有学生认为该课程内容为纯粹的理论研究,是搞研究的人学习的内容,不搞研究没必要学习这么深奥的理论知识。长此以往,学生头脑中就形成了“信息论”是“无用论”和“研究论”的概念。基于此，笔者在教学中主要做到以下几点：　　1.利用生活实例，注重激发学生的学习兴趣　　众所周知，兴趣是最好的老师，没有兴趣也就学不好课程，在本门课程的第一节课，老师就要强调课程的重要性。告诉学生，人类社会的生存、发展无时无刻都离不开信息，信息的获取、传递、处理、控制和利用。特别是在21世纪这个高度信息化的时代,信息论的重要性更是无法替代,学习和掌握信息的基　　信息论与编码复习总结　　题型：填空、解答、计算　　1、编码：无失真与限失真信源编码定理　　编码分为信源编码和信道编码，其中信源编码又分为无失真和限失真　　三大定理:　　无失真信源编码定理　　信道编码定理　　限失真信源编码定理　　Shannon(香农)信息论：在噪声环境下，可靠地、安全地、有效地传送信息理论。通信系统模型方框图:　　信道的种类很多，如电信中常用的架空明线、同轴电缆、波导、光纤、传输电磁波的空间等都是信道。也可以从信道的性质或其传送的信号情况来分类，例如：无干扰信道和有干扰信道、恒参信道和变参信道、离散信道和连续信道、单用户信道和多用户信道等。　　信源的描述：通过概率空间描述　　平稳包含齐次，而齐次不包含平稳　　定义：若齐次马尔可夫链对一切i,j存在不依赖于i的极限，则称其具有遍历性，pj称为平稳分布　　设有一齐次马尔可夫链，其状态转移矩阵为P，其稳态分布为wj=p(sj　　)　　自信息量的特性：　　p(xi)=1,I(xi)=0;p(xi)=0,I(xi)=∞;非负性；单调递减性；可加性；定义：联合概率空间中任一联合事件的联合信息量为：　　定义：对于给定离散概率空间表示的信源，在出现y事件后所提供有关事件x的信息量定义互信息，单位为比特　　信道模型：二进制离散信道BSC；离散无记忆信道DMC；波形信道　　信源编码器的目的：是使编码后所需的信息传输率R尽量小。　　信源编码：主要任务就是减少冗余，提高编码效率。　　唯一可译码：{0,10,11}为唯一可译码，任意有限长码序列：。即时码和非即时码　　变长编码定理：???　　1、平均码长：　　2、根据信源各个符号的统计特性，如概率大的符号用短码，概率小的用较长的码，使得编码后平均码长降低，从而提高编码效率。变长码要求编码效率96%时，序列长仅为2.随着L的增加，编码效率可接近1，有效的利用信道　　问：小信号集如何实现统计匹配的变长编码？　　答：基本思想为扩张信源，以实现统计匹配　　哈夫曼编码哈夫曼码是即时码　　例：信源，对应概率为p1=2/3，