Rosetta实验系统在机器学习中的应用_程玉胜.docxVIP

年 月 第 卷第 期 安庆师范学院学报(自然科学版 ) . ( ) . . Rosetta 实验系统在机器学习中的应用 程 玉 胜 (安庆师范学院 计算机与信息学院 , 安徽 安庆 246011) 摘 要: 本文在粗糙集理 论的基础之上 , 利用该理论在知 识发现上的优 越性 ,结合机器学习的原理 , 从收集到的原始数据出发 , 介绍了机器学习的一般步骤; 并以地质样本为例 ,介绍利用了Roset ta实验系统是如何处理原始数据和完成机器学习 。 关键词: 离散 ; 断点; 基因算法 ; 规则生成; 机器学习 中图分类号: T P18 文献标识码: A 文章编号: 1007- 4260( 2005) 02- 0069- 04 粗糙集 ( Roug h Set,又称 RS)理论最早由波兰学者 Z· Paw lak 提出,它的一个重要特点是直接从给定问题的描述集合出发 ,通过不可分辨关系和不可分辨类确定给定问题的近似域 ,从而找出问题中的内在规律。 但是我们获得的某个领域的原始数据 ,常常有遗漏 ( missing 或 Unknow ) ,需要进行补齐( complete) ,对于原始资料中值为实数型的数据 ,还需要进行离散化 (discretize) 处理 ,因为 Roug h集处理的元素对象只能是离散对象 ,因此不能直接利用 RS理论进行处理 ,然而这些预处理过程如果不能有效进行 ,将直接影响后面的 RS处理甚至不可能处理。本文利用 Rosetta 软件,首先对原始数据进行预处理,然后再利用 RS理论相关算法从而达到机器学习的目的。 1 机器学习的原理 机器学习系统的一般模型[ 7]如图 1。 其中环境和 知识库是以某 种知识表示形式的信息的集合 ; 学习环节处理环境提供的信息 ,从中获取知识 ,构成知识库 ; 执行环节利用知识库中 的规则 ,进行学习 , 如果学习质量不高 ,回到学习环节 ,修改规则库 ,再进行学习。 本文讨论了在 RS理论基础之上机器学 习的一般过程: 记信息系统 S= { U, A, V, f } , A= C∪ D,子集 C= { a , a … … a }和 D= { d , d …… 1 2 m 1 2 d}分别称为条件属性和决策属性集。 d } n ( 1)如果决策属性不止一个,将多决策属性表化为单一决策属性表 ,方法可见文献 [3 ] ; ( 2)如果决策表有缺省值或是实型值,进行数据预处理: 补齐 ,离散化,求出断点;否则 go to ( 3) 收稿日期: 2004- 09- 25 作者简介: 程玉胜 ( 1969- ) ,男 , 安徽桐城人 ,讲师 , 主要从事 Rough集和神经网络方向 的研究。基金项目: 校重点基金 2003ylz 03及省教育厅自然科学基金 2004kj 264资助。 70· 安庆师范学院学报 (自然科学版 ) 2005年 ( 3)利用相对约简知识,化简该表,求约简集,选择其中任意一个约简 ,构造出一个新的决策表 ,记为 S’ ; ( 4)对 S’ 表,利用一定的算法 ,求出规则集; ( 5)如果有新例加入本系统,先进行预处理,然后利用( 4)中求出的规则,进行学习; ( 6)若学习效率没有满足用户或系统要求 (如给出阈值 ) , go to ( 2)重新处理,直到满足要求为止。 因此改进后的学习模型如图 2。 利用上述改进的机器学习模型 ,本文将原始数据集分割 ( split )成 2个子表 ,一个作为训练子表 ,一个作为学习子表 ,即图 2中的”新例” ,作为学习样本. 分割方法如下: 假设原信息系统 ( IS)为 S= ( U, A) ,分割后为 S1= ( U 1, A) , S2= ( U 2, A) ,满足如下条件: U 1∪ U2= U U1∩ U2= ф 我们把α= |U 1|/|U|称为表的分割系数。 Roset ta 软件简介 [3 ] Rosetta 是由挪威科技大学计算机与信息科学系和波兰华沙大学数学研究所合作开发的一个基于Rough Set理论框架的表格逻辑数据工具 ( A Roug h Set Toolkit for a nalysis o f data ) ,它能在 Window s 环境中运行 ,也有 Unix 环境下的版本。它的主要特点是集成了多种数据预处理算法; 另外,它还提供了粗集中常见的约简和规则的获取算法 ,如 Genetic Algo rithm , Ma nual Reduce等。 因此它支持从数据预处理到预测和分析规则的全过程,其系统提供了如下主要功能: ( 1) 数据获取与结果输出 支持 O DBC 和部分较流行的 DBM S, 输出格式包括表格、 图像、 M AT LAB文件格式等。 ( 2)数据预处理 支持决策