信息论与编码课程设计报告重点分析.doc

信息论与编码课程设计报告 设计题目： 统计信源熵与香农编码 专业班级 学 号 学生姓名 指导教师 教师评分 2014年3月24日 目录 一、 设计任务与要求 2 二、 设计思路 2 三、 设计流程图 3 四、 程序运行及结果 5 五、 心得体会 6 参考文献? 6 附录：源程序 7 设计任务与要求 1、统计信源熵 要求：统计任意文本文件中各字符（不区分大小写）数量，计算字符概率，并计算信源熵。 2、香农编码 要求：任意输入消息概率，利用香农编码方法进行编码，并计算信源熵和编码效率。 设计思路 统计信源熵： 统计信源熵就是对一篇英文文章（英文字母数为N），通过对其中的a,b,c,d/A,B,C,D.....(不区分大小写)统计每个字母的个数n，有这个公式P=n/N可得每个字母的概率，最后又信源熵计算公式H（x）=， 可计算出信源熵H,所以整体步骤就是先统计出英文段落的总字符数，在统计每个字符的个数，即每遇到同一个字符就++1，直到算出每个字符的个数，进而算出每个字符的概率，再由信源熵计算公式计算出信源熵。 香农