网络教育资源特征选择研究.docVIP

网络教育资源特征选择研究 　　［摘要］为了提高网络教育资源库建设的质量和效率，文章采用文本自动分类方法实现资源的自动归类，而特征选择是文本自动分类系统的关键步骤。文章以基础教育资源为样本，重点研究了网络教育资源的特征选择方法，实验结果表明，改进型互信息（MIPW）方法要好于其他方法，并且单字词的去除使得分类效果提高，说明词特征更能够比较完整地表达语义信息。 　　［关键词］网络教育资源 自动分类 特征选择 　　［作者简介］黄峰（1981- ），男，江苏镇江人，南京师范大学研究生部学位与培养办公室，主要研究方向为教育技术和Web挖掘。（江苏 南京 210097）谭金波（1978- ），女，山东蓬莱人，山东师范大学教育技术系讲师，主要研究方向为教育技术和Web挖掘。（山东济南 250014）杨晓江（1965- ），男，江苏南通人，南京师范大学教育技术系教授，硕士生导师，主要研究方向为教育技术、软件工程、信息检索等。（江苏 南京 210097）李艺（1956- ），男，山东临沂人，南京师范大学教育技术系教授，博士生导师，主要研究方向为教育技术和信息化教育等。（江苏 南京 210097） 　　［中图分类号］G434［文献标识码］A［文章编号］1004-3985（2008）12-0168-03 　　 　　一、引言 　　 　　随着Internet的普及和发展，网络已经成为人们日常生活中不可或缺的一个重要组成部分，越来越多的人在利用互联网进行学习，网络已经成为获取教育资源的一条重要渠道。面对网上如此的海量信息，文本自动分类技术为解决选择下载问题提供了一个新的思路，但实现文本自动分类的特征项维数过高又直接导致分类算法的代价过高，从而造成整个分类系统效率低下。因此我们需要研究特征选择技术，将高维特征空间映射到一个低维的特征空间，并且要求基于该低维特征空间进行文本分类时，分类效果不会下降，或者下降很小。 　　特征选择从广义来讲是指一种变换，原始特征的数量一般都很大，也就是说它们处于高维空间，通过映射或变换将它们用低维空间来表示。特征选择主要借助统计学、信息论等方法对特征和类别关系进行分析，选择与包含相关类别信息最多，对分类贡献最大的若干特征项。因此特征选择对于文档的分类有着重要的影响，特征选择的结果将会直接影响到文档自动分类的精度和效度，进而最终影响整个教育资源库建设的质量。 　　 　　二、特征选择方法 　　 　　文本分类中，特征选择的基本思想通常是构造一个评价函数，对特征集的每个特征进行评估，然后对所有的特征按照其评估分的大小进行排序，选取预定数目的最佳特征作为特征子集。常用的特征选择方法有：文档频率、信息增益、期望交叉熵、X2统计、文本证据权、互信息等①，笔者在相关研究及实验的基础上提出了一种改进型互信息（MIPW）算法，下文将对这几种特征选择方法的基本思想及计算模型一一介绍。 　　1.文档频率（DF）。文档频率可表示为： 　　 　　7.改进型互信息（MIPW）。由于互信息没有考虑单词发生的频度，从而造成经常倾向于选择稀有单词，另外，互信息给许多单词的分值是完全一样的，这样在特征选择排序时就只能随机地删除那些分值与前面的相同却不幸排在后面的单词，造成大量有用信息的损失。为了弥补这种不足，笔者给互信息加上了表征词条出现概率的P（w）因子函数，提升高频词的权重，成为改进型互信息算法，公式为： 　　 　　三、实验 　　 　　1.实验设置。为了系统地比较研究DF，IG，Cross Entropy，CHI，WET和MIPW等六种特征选择方法具体应用到网络教育资源领域内的适应度，笔者以基础教育资源为样本，按照下面的方案进行实验。 　　第一，数据集。首先根据研究样本的资源分布情况构造了一个具有两层结构的层次分类树，共有12个大类，18个小类，然后按此分类结构人工构建了一个包含7412篇训练文档，1867篇开放测试文档的数据集，由于笔者的研究是针对网络中的教育资源，因此数据集中所有文档均来自互联网。大类包括：数学、语文、物理、化学、地理、生物、历史、政治、音乐、美术、体育、信息技术；小类包括：小学数学、初中数学、高中数学、小学语文、初中语文、高中语文、初中物理、高中物理、初中化学、高中化学、初中地理、高中地理、初中生物、高中生物、初中历史、高中历史、初中政治、高中政治、音乐、美术、体育、信息技术。训练文档数量和测试文档数量按小类平均分布，具体为每小类300篇左右训练文档，100篇左右测试文档，大类训练及测试文档由其下属小类组合而成。 　　第二，分类算法。实验中的分类算法为Rocchio算法，它是基于向量空间模型和最小距离的方法。基本思想是使用训练集给每个类别构造一个原型向量④。计算步骤是：将文本表示为向量空间中的高