信息编码课设符号信息熵的求解摘要.docVIP

课 程 设 计 报 告 课程名称 信息编码 课题名称 符号信息熵的求解 任务书下达日期 20…… 年 6月 16日 任务完成日期 20……年 6月 27日 一、 设计目的 通过课程设计使学生更进一步掌握信息论与编码课程的有关知识，提高编程的能力，并将所学的内容加以综合。通过查阅资料，了解所学知识的应用情况。同时也使学生通过动手进行程序设计从而提高解决实际问题的能力。 二、课程设计要求 1、 认真查阅资料 ２、遵守课程设计时间安排 ３、按时上机，认真调试程序 ４、认真书写报告 三、报告书写格式 1、 课程设计封面 ２、课程设计任务书 ３、正文 ４、参考文献 ５、课程设计成绩报告单 四、设计题目 １、 符号信源熵的求解 给定信源各个符号发生概率，条件概率，编程求解各个符号的自信息量和信源的熵,条件熵，联合熵。 ２、 图像信源熵的求解 读入一幅图像，编程实现求解图像信源的熵。 ３、 互信息的求解 已知信源发出x的概率，及接收到y后的x的后验概率，编程实现互信息、平均互信息的求解。 ４、 唯一可译码的判断 总结唯一可译码的概念与判断方法，编程实现：给定码字，判断是否为唯一可译码。 ５、 即时码的构造与判断 总结即时码的概念与判断方法，编程实现：构造给定码长的即时码；给定码字，判断是否为即时码。 ６、香农编码的分析与实现 给定信源各个符号及其发生概率，编程求解其香农编码的码字，平均码长，及编码效率。 ８、费诺编码的分析与实现 给定信源各个符号及其发生概率，编程求解其费诺编码的码字，平均码长，及编码效率。 ９、用香农-费诺-埃利斯编码的分析与实现 给定信源各个符号及其发生概率，编程求解其香农-费诺-埃利斯编码码字，平均码长，及编码效率。 １０、 哈夫曼编码的分析与实现 给定信源各个符号及其发生概率，编程求解其哈夫曼编码码字，平均码长，及编码效率。 １１、 LZW编码的分析与实现 １２、 算术编码的分析与实现 １３、 线性分组码的编译码的分析与实现 １４、 对称信道容量的求解 给定信道的概率矩阵，编程判断其是否为对称信道，并求解其信道容量 １５、 准对称信道容量的求解 给定信道的概率矩阵，编程判断其是否为准对称信道，并求解其信道容量 １６、 信道容量迭代算法的分析与实现 说明： 课程设计说明书一般应包括理论分析与仿真，编程语言可自行选择，说明书字数在3000字左右； 五、时间安排 １、查阅资料及程序设计（2天） ２、上机调试程序（2天） 3、 书写报告（1天） 六、成绩评定 １、未完成设计任务，没达到设计要求则成绩为“不及格”。 ２、基本完成设计任务，并撰写出课程设计报告则成绩为“及格”。 ３、学生能够认真查阅资料，独立完成设计任务，程序调试通过，并且撰写出课程设计报告则成绩为“中”。 ４、学生能够认真查阅资料，独立完成设计任务，程序调试通过，功能完善，操作灵活，界面美观，并且撰写出课程设计报告则成绩为“良好”。 ５、学生根据自身的实际能力，在实现设计题目基本要求的基础上增加一些功能，评定成绩时根据其难度和完成情况给与适当加分，如界面效果，系统操作的方便性、灵活性、创新性等，如果设计非常完善则成绩为“优秀”。 目录 符号信息熵的概念 …………………………………………7 自信息量 ……………………………………………………7 信源熵 ………………………………………………………7 联合熵与条件熵 ………………………………………………7 符号信息熵的题目 …………………………………………7 实例分析 ……………………………………………………8 实验结果 …………………………………………………8 总结…………………………………………………………14 参考文献……………………………………………………15 附： 源代码 …………………………………………………16 课程设计评分表……………………………………………18 一、符号信息熵的概念 自信息量: 个随机事件的自信息量定义为其出现概率倒数的对数。即: 信源熵(平均不确定度/平均信息量/平均自信息量):为信源中各个符号不确定度的数学期望，即 单位为：比特/符号 或者 比特/符号序列. 联合熵与条件熵: X与 Y的联合熵定义为 　X与 Y的条件熵定义为 二、符号信息熵的题目 题目： 有两个同时输出的信源X和Y，其中X的信源