数据仓库与数据挖掘教程(第2版)课后习题答案 第七章.docxVIP

第七章作业 信息论的基本原理是什么？ 一个传递信息的系统是由发送端 (信源)和接收端(信宿)以及连接两者的通道(信道)组成的。信息论把通信过程看做是在随机干扰的环境中传递信息的过程。在这个通信模型中，信息源和干扰(噪声)都被理解为某种随机过程或随机序列。在进行实际的通信之前，收信者 (信宿)不可能确切了解信源究竟会发出什么样的具体信息，也不可能判断信源会处于什么样的状态。这种情形就称为信宿对于信源状态具有不确定性，而且 这种不确定性是存在于通信之前的，因而又叫做先验不确定性。 在通信后，信宿收到了信源发来的信息，这种先验不确定性才会被消除或者被减少。如果干扰很小，不会对传递的信息产生任何可察觉