《信息论基础》课程的教学探讨.docVIP

《信息论基础》课程的教学探讨 　　摘要：根据《信息论基础》的教学内容，灵活采用多种教学方法，结合多媒体技术，应用相关计算软件，有助于提高对课堂教学内容的理解。进一步探索信息论与其他学科的关联，加强实践环节，增强学生学习的趣味性与主观能动性。最后，丰富课程的考核方式，使学生加深对相关知识的掌握，拓宽课堂学习内容。 　　关键词：信息论基础；信息；教学方法；Matlab 　　中图分类号：G642.41 文献标志码：A 文章编号：1674-9324（2017）08-0161-02 　　一、引言 　　我们人类生活在信息的海洋之中，如古代的“烽火告警”。可以说，我们一时一刻都离不开接受信息、传递信息与利用信息。信息论围绕信息这一基本概念展开，是由通信技术与概率论、随机过程和数理统计相结合而逐步发展起来的一门学科。目前，信息论在通信、计算机、自动控制、生物学、语言学、统计学、社会学、物理等众多领域取得广泛的应用。 　　《信息论基础》是高等院校数学类信息与计算科学专业、通信类专业的核心课程，以香农（Shannon）经典信息论为主要学习对象，内容丰富、理论性强。课程开设的目的在于使学生掌握信息理论的相关概念与计算方法，了解信息论的研究目的与实际应用。通过本课程的学习，培养学生的创新思维，分析并解决相关问题。虽然信息科学涉及到众多学科，实用性比较强，但学生普遍反映不好学，学了也不知道如何用，学习过程比较被动，学习效果也不明显。因此，教师很有必要对《信息论基础》课程的教学方法进行思考、研究与探讨，以期提高教学质量，增强学生学习的主观能动性，掌握相关知识，达到学以致用。 　　二、教学改革方案 　　首先，根据《信息论基础》的教学内容，灵活采用多种教学方法。《信息论基础》理论性强，如果完全围绕课本，以板书为主要手段展开教学，会使得课堂氛围比较呆板，很难有效激发学生地学习兴趣。因此，课堂内容应该结合多媒体技术，应用相关计算软件进行教学。例如：绪论是整个课程的引入部分，涉及到信息的概念，信息论的研究对象、研究目的以及发展简史等，内容比较丰富。如果采用多媒体技术，认真制作课件，添加形象有趣的动画，丰富教学内容体现形式，不仅使整个绪论部分的框架脉络分明，而且可以展示目前关于信息论的实际应用，图文描绘出信息论发展史上相关学者的研究工作与意义，从而调动课堂气氛，极大提高学生学习的趣味性，让学生明白“学好了信息论我可以做什么”，学习的目标就比较明确。另外，相关计算软件的应用也有必要，可以借助Matlab、C之类的计算软件语言来计算《信息论基础》中的信息测度等，这样既有助于加强课程之间的融合巩固，也能通过学生自己动手编写语言进行计算，强化理论概念，从而提高教学内容的易理解性。例如：利用Matlab软件，实现熵的计算。简单例子：给出信源X的概率分布为P=[0.1，0.3，0.6]，试计算信源X的信息熵H（X）。编写如下语言：P=[0.1，0.3，0.6]； 　　for i=1：1：3 　　P（i）=-P（i）*log2（P（i））； 　　end； 　　H=sum（P） 　　很快得出H（X）=1.2955（比特/符号）。依此类推，可以编程实现联合熵、互信息等信息测度。进一步，在《信息论基础》编码这一块，可以要求学生编程实现霍夫曼（Huffman）码，培养学生的动手能力，使学生加深对编码的理解，更易于相关知识的掌握。 　　其次，《信息论基础》中涉及到的概念比较多，仅信源的信息测度就涉及到自信息I（x）、熵H（X）、联合熵H（X，Y）、条件熵H（X|Y）、相对熵D（p||q）、互信息I（X；Y）等，部分信息测度之间也具有相互关系，如熵的强可加性（熵的链法则）表明联合熵等于单个信源的熵与条件熵之和。因此，在课堂教学时，既要把单个知识点讲解清楚，又要系统地介绍知识点之间的关联。例如：解题时，涉及到熵、联合熵、条件熵都要计算的时候，利用强可加性，只要计算出其中的任意两个值即可，既节省计算时间，又保证计算正确性。另外，可以结合图表法进行讲解，如涉及到互信息I（X；Y）时，利用集合的表示方法，给出互信息与熵、联合熵、条件熵之间的关系：I（X；Y）=H（X）+H（Y）-H（X，Y）； 　　I（X；Y）=H（X）-H（X|Y）； 　　I（X；Y）=H（Y）-H（Y|X）。 　　因此，在涉及互信息具体计算的时候，可以提供四种解法：按互信息的定义求，按上面三个等式求。课堂教学时，给出一个具体例子，举一反三，加深学生对于互信息的掌握，进一步清楚熵与互信息之间的关系。同时，除了具体计算时可以用多种方法，在证明熵的性质时同样有不同的途径。比如证明条件熵H（X|Y）小于等于单个信源的熵H（X），以及联合熵H（X，Y）小于等于两个信源熵之和H（X）+H（Y）时，除了从定义