信息技术导论.pptxVIP

一.信息度量的方法(重点)（式1-4-1） 即，一条信息发生的概率越小，信息量越大；概率越大（一种极端情况是“必然的事情”信息量为0）则信息量越小于是，对于一条信息x，人们用下列公式表示其信息量I (书上用了先验概率和后验概率这两个术语)之所以取对数是由于信息量的“累加性”决定的两个消息加在一起的总信息量等于每个信息各自信息量之和，即：. Log(m1?m2)＝Logm1＋Logm2 …一.信息度量的方法(重点)度量信息量的方法设：P(x) － 消息发生的概率， I － 消息中所含的信息量， 则 P(x) 和 I 之间应该有如下关系：I 是 P(x) 的函数： I ＝I [P(x)]P(x) ?，I ? ； P(x) ? ，I ?； P(x) = 1时，I ＝ 0； P(x) = 0时，I ＝ ?； 满足上述3条件的关系式如下： －信息量的定义一.信息度量的方法(重点)上式的单位由对数底的取值决定。若对数以2为底时单位是“比特”（bit — binary unit的缩写）；（现阶段我们主要采用这个单位）若以e为底时单位是“奈特”（nat—nature unit的缩写）；若以10为底时单位是“哈特”（Hart — Hartley的缩写）。通常采用“比特”作为信息量的实用单位，这时有一.信息度量的方法(重点)【例】 设一个二进制离散信源，以相等的概率发送数字“0”或“1”，则信源每个输出的信息含量为 在工程应用中，习惯把一个二进制码元称作1比特 一.信息度量的方法(重点)若有M个等概率波形（P = 1/M），且每一个波形的出现是独立的，则传送M进制波形之一的信息量为若M是2的整幂次，即 M = 2k，则有 当M = 4时，即4进制波形，I = 2比特， 当M = 8时，即8进制波形，I = 3比特。一.信息度量的方法(重点)对于非等概率情况： 设：一个离散信源是由M个符号组成的集合，其中每个符号xi (i = 1, 2, 3, …, M)按一定的概率P(xi)独立出现，即 且有 则x1 , x2, x3,…, xM 所包含的信息量分别为 于是，每个符号所含平均信息量为由于H(x)同热力学中的熵形式相似，故称它为信息源的熵 二、分辨率分辨率的表示法 在图像显示应用中的图像分辨率表示法物理尺寸：每毫米线数(或行数)行列像素：像素/行×行/幅，如640像素/行×480行/幅像素总数：如数码相机上标的500万像素单位长度上的像素：如像素每英寸(pixels per inch，PPI)线对(line pair)数：以黑白相邻的两条线为一对，如5对线在图像数字化和打印应用中的图像分辨率表示法通常用多少点每英寸(dots per inch，DPI)表示，如300 DPI分辨率越高，图像质量就越高，像素就越多，要求存储容量就越大课堂练习例：在1200 ×800分辨率的显示器上分别显示800 ×600分辨率，600 ×400的图像，会占屏幕的多大面积。解 (800 ×600) /（1200 ×800） = 1/2 (600 ×400) /（1200 ×800） = 1/4 存储介质的分类(现状)磁存储介质光存储介质半导体存储介质存储介质一般分为光存储（CD，DVD等）、磁存储（硬盘，磁带等）和半导体（电）存储（内存条、U盘等）。闪存（Flash ROM），是一种采用集成电路的可多次擦写的存储器，广泛用于U盘、数码设备的存储卡等领域。有体积小便于携带，不怕震动，不磨损，保存时间长等优点。和其他存储设备相比主要缺点是速度慢，容量小。随着科技的进步，这些缺点也在逐渐被克服，高端的闪存容量已经达到4GB以上，擦写速度也达到每秒钟几十兆。0110.390010.35000.61100.26110.11Huffman编码过程信源符号概率编码过程Huffman码a1a2a3a4a5a6a70.200.190.180.170.150.100.01101100000101001100111数据结构的图示一般用示意图表示数据结构。用小圆圈代表数据元素，用小圆圈之间的连线代表小圆圈对应的数据元素具有的关系，如果强调关系的方向性，可用带箭头的线段表示关系。具体地讲，若d1和d2表示两个数据元素，它们具有关系＜d1,d2＞，则表示为如图6-3所示的结构。图中表示的只是一个抽象关系，不代表具体意义。对于具体的应用，也可以表示家族关系中的父子关系。例如，＜d1,d2＞可代表d1是d2的父亲。三、常见的几种数据结构至此，我们已经知道数据结构是想要解决非数值计算问题的求解，我们也知道了数据结构应该包含两层含义，即数据的逻辑结构和物理结构。但是，非数值计算的问题可能是五花八门 计算机科学家对这类问题研究后发现：非数值计算问题，虽然在确定数据元素时，每一个具体问题都各不相同，但数