结构主义数学建模方法.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 在线文本自动分析建模 原型的目标： 在线电子文本的计算机自动分类与辅助理解。 理解基于分类，分类是理解的前提。 不同的分类目的有不同的分类模型： 理解性分类 —— 基于语意、概念层、主题层的细分类，目的是分析和理解。 １、建立专业模型 检索性分类 —— 国际图书分类法，目的是查询； 原型的结构分析 文本——章节——节——段落—— 语意团——句或短语——词——字符 文本的结构： 原型有两层结构：文本的结构； 文本集合的结构。 分析：文本集合的结构是原型对应目的的主要结构； 文本集合的结构依赖于文本的结构（子结构）； 文本结构的表示应该利于文本集合分类目的。 文本集的结构分析： 联想到数学中代数结构：集合中定义代数运算，加法和数乘，元素间的运算关系 —— 结构相同！ 两个文本的合并还是文本 一个文本的倍数仍然是文本 分析文本集的结构，首先是文本之间的相互关系： ２、同构分析（数学结构与原型结构的联系） ——加法封闭； ——数乘封闭！ 同构： 此时问题的原型的结构直接和数学结构联系起来！ 文本的集合应该有一个“线性空间”的结构； 文本的分类是在线性空间中的“向量的分类”！ 对于线性代数的结构有清楚的理解和关注，则容易发现： 因此，每个文本对应地定义一个文本向量，用于分类，分量如何定义？ 显然，分量是“分类特征”的具体表示：从关键词和检索中，容易想到基于词频的，可用于区分文本的量化的表示！ 数学模型：向量空间的结构+词频特征表示。 ３、同构表示与数学建模 建立原型结构的数学表示则建立了数学模型。 文本集合同构于线性空间，文本的分类是线性空间中向量的分类。 根据专业知识，词频及具有分类的特征信息，——信息熵！因此可以仿照熵的定义： 某词W(i)在文本d 中出现的频数 × log( ) 集合中文本总数 词W(i)在文本中至少 出现一次的文本数 这里熵的形式，一来用类似信息熵的定义，符合“分类”的特征信息的概念；二来，词频的作用大于词在文本集合中出现的作用。 假设TF(w(i),dj)是词w(i)在文本dj中出现的次数，|D|是D中文本总数，DF(w(i))是指在D中至少出现一次w(i)的文本数。则每一个文本dj∈D，和一个特征词w(i）存在一量： 形式化： 记d(i)j =TFIDF(w(i),dj) ，则每一个文本dj∈D，存在一个分量适当排序的文本向量。　　　 文本向量空间模型与文本向量:　　　 问题的目标：文本集的分类 原型的结构分析： 文本集的结构（目标）+文本的结构（表示的关键） 同构分析： 数学结构和原型结构的联系 文本集的结构≌线性空间结构 数学模型表示： 文本向量空间+文本向量（词频表示的分量） 建模过程 文本自动分类: 理解文本的类属性,子空间分类. 文本自动聚类: 发现文本集合中的新模式,新概念. 文本向量: 由文本的实意词的特征值或特征模式为分量的向量. 以信息熵的形式构造. 特征子空间: 具有某种共同意义的分量组成的子空间. 主义 自由 个人 文本向量空间: 全部文本向量的高维线性空间. 应用事例：思想史研究中，“五四” 运动的讨论的主要思想是什么？ 发现在“自由主义”的特征词所在的子空间中，文本的投影数量最大！ 高维问题； 训练集的数据量大； 理解性细分类的精度低。 寻找新的结构， 新的数学模型。 主要数学问题和某些进一步研究课题： 1、词频分布特征的研究，用分布特征分类和理解； 2、添加语意的分类模型； 3、大规模数据挖掘方法寻找分类模式与规则。 例题小结： 本题在向学生展示时，几乎没有人有任何思路，