基于HMM的频率敏感聚类方法PIFS-HMM.pdfVIP

第25卷第4期 计算机应用与软件 V0l_25 No．4 2008年4月 Computer Applications and Software Apr．2008 基于HMM的频率敏感聚类方法PIFS-HMM 卢 鸣 王士同 (江南大学信息工程学院 江苏无锡214122) 摘 要 隐马尔可夫模型(Hidden Markov Model，HMM)被广泛地应用于信号处理和模式识别中。当将其应用于聚类时，HMM的 训练是一个非常重要的问题。特别是对数据不均衡的数据集，传统的模型训练方法存在使某些类为空类，类中数据偏少等缺点。针 对这一特殊问题，提出了基于频率敏感的聚类方法PIFS—HMM，其目的在于提高模型训练的有效性，使聚类结果均衡。实验结果证 实了提出方法的有效性。 关键词 频率敏感 均衡聚类 隐马尔可夫模型 FREQUENCY-SENSITIVE BALANCED CLUSTERING APPROACH BASED oN HMM Lu Ming Wang Shitong (School ofInformation，Jiangnan University，Wuxi 214122，Jiangsu，China) Abstract Hidden Markov Model has been widely accepted as a valuable stochastic mode1．Effective training of HMM is very important for clustering datasets in which the sizes of clusters are actually unbalanced，SO that empty clusters or clusters having very few data are avoided． A novel clustering method based on frequency—sensitivity and HMM is proposed to assure that the clusters of balanced sizes are obtained．Ex— perimental results show that the algorithm is effective for clustering those special datasets． Keywords Frequency—Sensitive(FS) Balanced clustering Hidden Markov model 出现观测符号o 的概率，b (o )由数学期望 和根方差 决定。 0 引 言 确定了Ⅳ和 后，用A=(A，B，1T)来表示HMM。联合K 隐马尔可夫模型是一种统计信号模型，它首先在语音识别 个HMMA 一，A ，混合密度函数为p(·l )：=∑ P』(·， 领域 取得成功的应用，后来又应用于图像文理分割、图像编 A 0=[A ，…，A ，( 一， )]，n，表示某观测数据属于第 码 以及手写体识别等领域并取得了丰硕的成果，从而成为一 类的概率。再通过Baum—Welch算法…，能估计出最大似然参 种重要的建模方法。本文关心的是如何将HMM应用于数据的 数0，使似然函数的结果最优。 聚类分析问题 。在实际应用中HMM的训练(参数估计)是 为了应用Baum—Welch算法，设存在未观测数据Y；{Y }， 一 个非常重要的问题，目前具有代表性的算法是 Baum—