[工学]知识发现与机器学习.pptVIP

* DMKD Sides By MAO * AQ算法 AQ算法利用覆盖所有正例，排斥所有反例的思想来寻找规则。比较典型的有Michalski的AQ11方法，洪家荣改进的AQ15方法以及洪家荣的AE5方法。 AQR是一个基于最基本AQ算法的归纳算法。其实，在很多的算法中，都采用了基本AQ算法，象AQ11和GEM。但和其它方法比较而言，AQR更加简单一些，如在AQ11中使用一种复杂的包括置信度的规则推导方法。下面我们首先对AQR算法进行概念描述，然后介绍算法描述和相关例子，最后分析其性能。 * DMKD Sides By MAO * AQR算法有关定义 AQR为每一个分类推导出一条规则，每一条规则形式如下：if cover then predict class。 在一个属性上的基本测试被称为一个Selector。下面是一些Selector的例子：Cloudy=yes或Temp60。 AQR允许测试做{=，≤，≥，≠}。Selectors的合取被称为复合（Complex），Complexes之间的析取被称为覆盖（Cover）。如果一个表达式对某个样本为真，则我们称其为对这个样本的一个覆盖。这样，一个空Complex覆盖所有的样本，而一个空Cover不覆盖任何样本。 在AQR中，一个新样本被区分是看其属于哪个推导出来的规则。如果该样本只满足一条规则，则这个样本就属于这条规则；如果该样本满足多条规则，则被这些规则所预测的最频繁的分类被赋予这条规则；如果该样本不属于任何规则，则其分类为样本集中最频繁的分类。 * DMKD Sides By MAO * AQR算法描述 算法 4-5 AQR 输入：正例样本POS； 反例样本NEG。 输出：覆盖COVER。 （1） COVER= Φ；//初始化COVER为空集Φ （2） WHILE COVER does not cover all positive examples in POS DO BEGIN （3） Select a SEED；/选取一个种子SEED，例如没有被COVER覆盖的一个正样例 （4） Call procedure STAR（SEED，NEG）； //产生一个能覆盖种子而同时排除所有反例的星 （5） Select the best Complex BEST from the STAR according to user-defined criteria； /*从星中选取一个最好的复合*/ （6） Add BEST as an extra disjuct to COVER /*把最好的复合与COVER合取，形成新的COVER*/ （7） END （8） RETURN COVER. 在算法AQR中调用了过程STAR，来排除所有的反例，产生覆盖种子的星。 * DMKD Sides By MAO * AQR算法描述(续) 算法 4-6 STAR 输入：种子SEED；反例NEG。 输出：星STAR。 （1）初始化STAR为空Complex （2）WHILE one or more Complexes in STAR covers some negative examples in NEG BEGIN /*如果STAR中的一个或多个Complex覆盖NEG中的负样例*/ （3）Select a negative example Eneg covered by a Complex in STAR；/*选取一个被STAR中的Complex覆盖的负样例*/ （4）Let EXTENSION be all Selectors that cover SEED but not ENEG；/*令EXTENSION为那些覆盖SEED但不覆盖ENEG的Selectors；*/ （5）Let STAR be the set {x∧y|x∈STAR，y∈EXTENSION}； /*令STAR= {x∧y|x∈STAR，y∈EXTENSION}；*/ （6） Remove all Complexes in STAR subsumed by other Complexes in STAR；/*从STAR中除去被其他Complexes所包含的Complexes；*/ （7）Remove the worst Complexes from STAR UNTIL size of STAR is less than or equal to user-defined maximum （maxstar）/*删除STAR中最坏的Complex直到STAR的大小等于或小于用户定义的最大数目maxstar*/ （8）END （9）RETURN STAR. /