基于汉语拼音首字母索引的混合分词算法①.PDFVIP

2016 年 第 25 卷 第 4 期 计 算 机 系 统 应 用 基于汉语拼音首字母索引的混合分词算法① 1 1 2 1 杨进才 , 陈忠忠 , 谢 芳 , 胡金柱 1(华中师范大学 计算机学院, 武汉 430079) 2(湖北工业大学 计算机学院, 武汉 430068) 摘 要: 中文自动分词是web 文本挖掘以及其它中文信息处理应用领域的基础. 蓬勃发展的中文信息处理应用对 分词技术提出了更高的要求. 提出了一种新的分词算法 FPLS, 该算法用拼音首字母作为词语表一级索引, 词语 的字数为二级索引构造分词词典, 采用双向匹配方法, 并引入规则解决歧义切分问题. 与现有的快速分词算法比 较, 该算法分词效率高且正确率高. 关键词: 中文分词; 拼音索引; 双向匹配; 歧义切分 Hybrid Segmentation Algorithm for Chinese Text Using First Pinyin Letter Index 1 1 2 1 YANG Jin-Cai , CHEN Zhong-Zhong , XIE Fang , HU Jin-Zhu 1(School of Computer Science of Central China Normal University, Wuhan 430079, China) 2(School of Computer Science of Hubei University of Technology, Wuhan 430068, China) Abstract: Chinese automatic segmentation is the basis of web text mining and other Chinese information processing applications. Booming Chinese information processing applications put forward a higher requirement for Chinese automatic segmentation. This paper presents a new segmentation algorithm FPLS, which uses a dictionary with a first letter of the Pinyin as a first level index and words count as the secondary index structure. A bidirectional matching method and rules are employed to resolve ambiguity segmentation problem in the algorithm. Comparing with the existing algorithm, algorithm FPLS gets higher accuracy and efficiency. Key words: Chinese automatic segmentation; Pinyin index; bidirectional match; ambiguity resolve [7] 自然语言人机接口、情报检索、web 查询系统、 法 等. 文本数据挖掘以及应用最广泛的搜索引擎的研究均依 这些分词算法归为三大类: 机械分词方法、基于 赖于中文信息处理的研究. 在中文信息处理研究中自 统计的分词方法和基于规则的分词方法. MM 方法、多 动分词算法是基础课题,