ID3算法的实例解析概论.pptxVIP

ID3算法的实例解析;讲座主要内容;数据挖掘;数据挖掘10大算法产生过程;1. 提名 (Nominations);数据挖掘10大算法产生过程;;;;数据挖掘10大算法产生过程;算法陈述;数据挖掘10大算法产生过程;排名;数据挖掘10大算法;数据挖掘10大算法产生过程;由算法的原作者和陈述人编写调查表 如何更好地使用这10大算法？ 是否需要为这10大算法专门编写一本书？ - 注：该书已出版，参见右图封面。书名为 ?The Top Ten Algorithms in Data Mining?, 编著者为吴信东和Vipin Kumar 针对这10大算法的任何问题展开讨论;讲座主要内容;一个通俗的例子;信息的定量描述;信息量的定义;对信息量的认识理解;抛一枚均匀硬币，出现正面与反面的信息量是多少？ 解：出现正面与反面的概率均为0. 5，它们的信息量是 I(正)= -lbp(正)= -lb0.5=1b I(反)= -lbp(反)= -lb0.5=1b ;抛一枚畸形硬币，出现正面与反面的概率分别是1/4，3/4，出现正面与反面时的信息量是多少？ 解：出现正面与反面的概率分别是1/4，3/4，它们的信息量是 I(正)= -lbp(正)= -lb1/4=2b I(反)= -lbp(反)= -lb3/4=0.415b ;信源含有的信息量是信源发出的所有可能消息的平均不确