信息管理及信息系统第3章.pptVIP

《信息存储与检索》 3.6.4 文本聚类常用技术 动态聚类法主要致力于在一个平面层次上分割所有的样本点，通过算法的迭代执行，得到一个较合理的有k个类的聚类结果（假设k是希望得到的类的数目）。动态聚类的基本处理思想如图3-9: 图3-9 动态聚类法工作流程图 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 动态聚类法主要基于这样的假设：类的中心可以代表整个类，并且一般由该类包含对象（如文档向量）的平均值来描述。图中的“聚类中心”（或称“凝聚点”）我们可以认为是类的重心（centroid）。刚开始时，在参加聚类的文档集合中选若干有代表性的文档作为凝聚点，相当于把这些文档单独成类，然后按照一定的原则（如选择最近的凝聚点）使其他文档向凝聚点聚集，即合并到已有的类中，实现文档的初始聚类处理。之后，再判断初始聚类结果是否合理，如果不合理，就进行修改，然后再次聚类，直到对聚类结果满意为止。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 在这样的聚类处理过程中，各文档仅限于与“凝聚点”进行比较，这种局部分析策略使聚类处理的工作量大大减少，因此，算法的执行时间与问题规模（即文档数量）呈线性时间复杂度的关系，可以在较短时间完成。在这一点上，与采用全局性策略的等级聚类法相比，动态聚类法具有明显的优越性。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 动态聚类的基本算法思想可以用如下步骤来描述： ①确定聚类个数ｋ，从文档集合中选择最初的ｋ个文档作为凝聚点，每个凝聚点文档自成一类。 ②按照距离最近原则，将剩余ｎ－ｋ个文档逐个并入最近凝聚点所代表的类。每并入一篇文档，就重新计算一次该类的重心，并用此重心代替原来的凝聚点。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 ③以最后形成的每个凝聚点代表一类，将全部ｎ篇文档重新聚类，逐个并入最近的凝聚点所属的类。与步骤②相同，每并入一个文档后，就重新计算一次重心，并以此重心代替原凝聚点。文档集合被重新聚类后，如果与原来的聚类结果不同，就重复步骤③；否则，就表示聚类处理完成。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 上述动态聚类算法聚类速度快。但算法一开始就要求确定聚类个数ｋ及相应的初始凝聚点，这不仅影响聚类的最后结果，也使整个聚类过程带有很大的不确定性。如果参数ｋ选取得不合适，或者选取的凝聚点分布不均匀，没有代表性，都将会延缓聚类进程，影响聚类效果。所以动态聚类法有两个关键问题需要得到较好解决，一是如何确定并调整聚类参数ｋ；二是如何选取合适的初始凝聚中心。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 （三）启发式聚类法 启发式聚类法是最典型的是单遍法。这种方法按照一定的次序，将第一篇文献作为聚类依据，将其余文献按次序依次对其进行相似性比较，如相似性达到系统设定的要求，即将其归入该类，并重新计算其类心，作为其他文献的匹配依据；如未达到系统要求的阈值，则直接将该文献作为新类的聚类依据，所有文献均依次按这一方式聚类。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 单遍法的计算复杂性是O(nk)，其中k为类的数量，其计算开销远低于传统的聚类算法。其不足主要有二：一是，这一方法具有明显的次序依赖，对于同一聚类对象按不同的次序聚类，会出现不同的聚类结果，但在检索排序的基础上聚类，由于最重要的资源排列在前，理论上这一方法会具有较强的适应性；另一个不足是，容易出现类目分布不均衡的问题，往往会出现集中形成某些大类的倾向。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 （四）增量式聚类法 《信息存储与检索》 单遍聚类法(single-pass) 后缀树法（Suffix Tree Clustering） 增量式聚类法 * 《信息存储与检索》 3.6.4 文本聚类常用技术 最典型的是单遍聚类法。这种方法按照一定的次序，将第一篇文献作为聚类依据，将其余文献按次序依次对其进行相似性比较，如相似性达到系统设定的要求，即将其归入该类，并重新计算其类心（centroid），作为其他文献的匹配依据；如未达到系统要求的阈值，则直接将该文献作为新类的聚类依据，所有文献均依次按这一方式聚类。单遍法的计算复杂性是O(nk)，其中k为类的数量，其计算开销远低于传统的聚类算法。 《信息存储与检索》 * 《信息存储与检索》 3.6.4 文本聚类常用技术 单遍聚类法的不足主要有二： （