教育信息处理汇.pptVIP

一、随机事件的概念 （一）随机现象 1.随机现象 带有随机性、偶然性的现象。 当人们在一定的条件下对它加以观察或进行试验时，观察或试验的结果是多个可能结果中的某一个. 而且在每次试验或观察前都无法确知其结果，即呈现出偶然性. 或者说，出现哪个结果“凭机会而定”。 2.随机现象的统计规律性 在一定条件下对随机现象进行大量观测会发现某种规律性。 举例： 一门火炮在一定条件下进行射击，个别炮弹的弹着点可能偏离目标而有随机性的误差，但大量炮弹的弹着点则表现出一定的规律性，如一定的命中率，一定的分布规律等等。 测量一物体的长度，由于仪器及观察受到的环境的影响，每次测量的结果可能是有差异的. 但多次测量结果的平均值随着测量次数的增加逐渐稳定于一常数，并且诸测量值大多落在此常数的附近，越远则越少，因而其分布状况呈现“两头小，中间大，左右基本对称”。 “天有不测风云”和“天气可以预报”有矛盾吗? “天有不测风云”指的是随机现象一次实现的偶然性. “天气可以预报”指的是研究者从大量的气象资料来探索这些偶然现象的规律性. 3.研究随机事件统计规律的意义 了解发生意外人身事故的可能性大小,确定保险金额。 了解来商场购物的顾客人数的各种可能性大小，合理配置服务人员。 了解每年最大洪水超警戒线可能性大小，合理确定堤坝高度。 （二）随机试验 如果每次试验的可能结果不止一个，且事先不能肯定会出现哪一个结果，这样的试验称为随机试验。 寿命试验 测试在同一工艺条件下生产出的灯泡的寿命。 （三）随机事件 1.定义 在一次试验中可能发生也可能不发生的事件称为随机事件，简称事件。 随机事件的发生具有偶然性,在大量重复试验中，随机事件的发生又具有某种规律性。 基本事件 （相对于观察目的不可再分解的事件） 复合事件 （两个或一些基本事件并在一起，就构成一个复合事件） 2.两个特殊的事件 必然事件 即在试验中必定发生的事件。 不可能事件 即在一次试验中不可能发生的事件。 举例：在掷骰子试验中， “掷出点数小于7”是必然事件; “掷出点数8”则是不可能事件。 3.样本空间 把随机试验的每个基本结果称为样本点，记作e 或ω。全体样本点的集合称为样本空间。样本空间用S或Ω表示。 二、事件的概率 在充分多次试验中，事件的频率总在一个定值附近摆动，试验次数越多，一般来说摆动越小。这个性质叫做频率的稳定性。 这个定值称为事件的概率,记为P(A)。 例如,在抛掷一枚硬币的实验中,出现正面的概率P(A)=1/2。 什么是熵？没有什么问题在科学史的进程中曾被更为频繁地讨论过。 ——普利高津 熵理论对于整个科学来说是第一法则。 ——爱因斯坦 一、信息量的表示 熵是1865年作为热力学的一个重要概念引入的。信息理论中的熵是从不同的观点引入的，两者间虽有相同的数学形式，但它们并没有什么直接的联系。 我们大__都喜__使__计__机。 我__大________使______机。 教育中人们接受信息典型事例 ??? 例1 ? 现有A、B、C、D、E五名学生，以他们作为候选人需从中选出一名学生作为学生代表。 对于这种五选一的系统，设定每一名学生被选中的可能性是一样的，被选中的概率都是1/5。这是对五选一系统的一种不完全的知识，也是一种不确定的认识。 选拔的结果是A被选中。当我们得到了A被选中的消息后，我们对五选一系统的知识从不完全到完全，对五选一系统的认识从不确定到确定。它表明“A当选”的消息使我们的知识量增加了，即它具有一定的信息量。?? ? 若讨论的系统是n选一的系统，显然，n越大，选拔前的不确定性就越大，选拔结果公布后，它给予人们的知识量就越多，即人们从公布结果中所得到的信息量就越大。这种信息量的多少与n的大小成比例的增加。为此，我们以??? 来定义信息量。这是一种以2为底的对数，其单位为字位（bit）。若对数是以e或10为底,H的单位为nit或bit。 ? 例2 设某一系统中包含有n个事件，每一事件产生的概率都是 ，此时的信息量为： ???? ??这是一种等概率事件的系统。对该式予以扩展，设某一事件产生的概率为p，则信息量由下式定义：???? (2-2)式中的负号是由1/p所产生的，它使H的计算结果为正数。 二、信息熵 例1 ????设概率系统中有n个事件，每一事件产生的概率为： ?????当事件I产生后，给予我们的信息量为