信息论和编码课程设计--统计信源熵和香农编码.docVIP

信息论与编码课程设计报告 设计题目： 统计信源熵与香农编码 专业班级 学 号 学生姓名 指导教师 教师评分 2014年3月24日 目录 一、 设计任务与要求 2 二、 设计思路 2 三、 设计流程图 3 四、 程序运行及结果 5 五、 心得体会 6 参考文献? 6 附录：源程序 7 设计任务与要求 1、统计信源熵 要求：统计任意文本文件中各字符（不区分大小写）数量，计算字符概率，并计算信源熵。 2、香农编码 要求：任意输入消息概率，利用香农编码方法进行编码，并计算信源熵和编码效率。 设计思路 统计信源熵： 统计信源熵就是对一篇英文文章（英文字母数为N），通过对其中的a,b,c,d/A,B,C,D.....(不区分大小写)统计每个字母的个数n，有这个公式P=n/N可得每个字母的概率，最后又信源熵计算公式H（x）=， 可计算出信源熵H,所以整体步骤就是先统计出英文段落的总字符数，在统计每个字符的个数，即每遇到同一个字符就++1，直到算出每个字符的个数，进而算出每个字符的概率，再由信源熵计算公式计算出信源熵。 香农编码： 香农编码主要通过一系列步骤支出平均码长与信源之间的关系，同时使平均码长达到极限值，即选择的每个码字的长度满足下式： 具体步骤如下： a、将信源消息符号按其出现的概率大小依次排列为： b、确定满足下列不等式的整数码长为： c、为了编成唯一可译码，计算第i个消息的累加概率： d、将累加概率Pi变换成二进制数。 e、取Pi二进制数的小数点后Ki位即为该消息符号的二进制码字。 在香农编码中对于求解编码效率主要是依靠这个公式:R=H(X)/K,其中 对于求解信源熵主要依靠公式：H（x）=， 设计流程图 统计信源熵： 2、香农编码 程序运行及结果 统计信源熵： 香农编码： 心得体会 课程设计是培养学生综合运用所学知识,发现,提出,分析和解决实际问题,锻炼实践能力的重要环节,是对学生实际工作能力的具体训练和考察过程在这个过程中，不仅锻炼了我们缜密的思维和坚持不解的毅力，更磨练了一个队伍的团结互助的精神只有通过大家一起努力才能将课程设计的所有环节都顺利的完成另外程序设计中我们遇到问题并解决问题的过程，使得我们独自探索并解决问题的能力了有了一个提高，这有利于我们以后的学习与队友的合作更是一件快乐的事情，只有彼此都付出，彼此都努力维护才能将作品做的更加完美。 我认为，在这学期的，在收获知识的同时，还收获了阅历，收获了成熟，在此过程中，我们通过查找大量资料，请教老师，以及不懈的努力，不仅培养了独立思考，在各种其它能力上也都有了提高。更重要的是，在上，我们学会了很多学习的方法。而这是日后最实用的，真的是受益匪浅。要面对社会的挑战，只有不断的学习、实践，再学习、再实践　　　 1