基于遗传算法的分类的器设计.pptVIP

基于遗传算法的分类器设计;主要内容; 用遗传算法做分类问题,就是找到一组能很好拟合训练样例的IF-THEN规则(目标概念)。学习过程可看作一个搜索过程,就是在假设空间中搜索目标概念。目标概念的表示通常有两种： Michigan方法 一条染色体表示一条规则，种群中的各条规则互相竞争。整个种群表示一个目标概念。 Pittsburgh方法 每条染色体是由一组定长的规则组成，代表一个侯选概念。 ;搜索空间的表示一;搜索空间的表示二;联赛选择算子;两点交叉算子一;例如：如果两个双亲串是：;两点交叉算子三;变异算子;适应度函数;在1993年GABIL系统中，每个规则集的适应度是根据它在训练数据上的分类精度计算的。确切地讲，度量适应度的函数是： 并没有考虑到规则集合的复杂度，基于这种适应度函数，最简单的提高适应度的方式就是去学习训练样例本身，而不是从中学习规律，这??就会使得染色体中规则的数目程指数级增加，而规则过于特殊，泛化能力差，这不符合Occam’s razor 原则。为了解决这一问题，基于 MDL Principle，同时考虑规则集合的预测精度和复杂度。 ;本问题中的假设就是染色体—用于描述目标概念的规则集，需要考虑到规则集合本身的复杂度以及没有被分对和不能给出决策的训练样例两部分，描述长度最小的染色体适应度最高。适应度函数变成了以下MDL公式的最小值： 其中W是调整TL和EL 的权值。 ;MDL公式描述二; 比如一个属性的编码位串是1111100001，可以知道这个属性有10个可能的取值，3个模拟区间，则这个属性的TL大小为：;关于参数W的自动调整一;;关于参数W的自动调整三;MDL结合删除规则操作;系统地执行过程一;系统地执行过程二;实验;参考文献一;参考文献二;