音子配列学语种识别系统中特征选择方法地研究.pdfVIP

音子配列学语种识别系统中特征选择方法的研究 梁春燕杨 琳 周若华颜永红 语言声学与内容理解重点实验室 摘要：将信息增益和加权log似然比特征选择方法应用于音子配列学语种识别系统中进行 特征降维。在美国国家标准技术研究院2009年语种识别评测数据集上进行实验，分别使 用信息增益和加权log似然比准则对数量巨大的N-gran进行特征选择。实验表明，信息 增益和加权log似然比方法均可以有效地去除冗余信息，降低特征向量的维数，并且能使 系统性能得到一定的提高。 关键词：音子配列学语种识别；特征选择；信息增益；加权log似然比 音频声学 删协群) (2) 然后对特征项数值进行如下加权 矽(乞)=日p(碍I』 (3) 取Df为 )) (4) 口=觚n(q，岛(而1p【哦l以LLJ 其中p似lA训表示在所有语种数据基础上计算得到的特征项归一化频率；g．)可 以看作控制特征项数值动态范围的函数。在本文中，我们设置毋俐=再，C,-=oo。 这样，即可以将一段语音解码后的网格结果映射成输入分类器的特征向量 矽(三)=[矽(三)。≯(三)：…矽(三)M】 (5) 其中M为选取的bagofN-gram的数目。 对于两个音子网格￡，和厶，其核函数可以表示成如下的内积形式 K(‘，五=≯(军谚吗 (6) SVM本质上是两类分类器，而语种识别多数情况下是多类分类问题，因此采 用SVM进行多类分类，需要对分类策略进行设计。常用的SVM分类方法有1对 种的训练数据看作正样本，所有其他语种的训练数据作为负样本。 3特征选择方法 为了方便对特征选择方法进行描述，我们将训练数据的情况用如下双向列联 表表示 表1．特征t与语种，之间的列联袭 l 非， t存在 爿， Bl t不存在 c， Dt A，：属于语种，且包含特征t的训练数据个数； 召，：不属于语种，且包含特征t的训练数据个数： c，：属于语种，且不包含特征t的训练数据个数： Dr：不属于语种，且不包含特征t的训练数据个数； NI：属于语种，的训练数据个数，即A，+C，； Ⅳ．训练数据总数，即A，+B，+o+Dt 3．1信息增益 信息增益(information gain，IG)t3J是机器学习中的概念，它是针对一个个的特征 --283—- 中国科学院声学研究所第四届青年学术会议论文集 而言的，就是看一个特征t，整个系统中在有它和没它的时候信恩量各是多少，两 者的差值就是这个特征t给系统带来的信息量，即增益。在信息增益中，重要性的 衡量标准就是看一个特征能够为分类系统带来多少信息，带来的信息越多，该特 征越重要。 信息增益的计算公式如下： P(1)logP(1) IG(t)一∑：l t)logP(IIt)] (7) +以f)[∑：leql I t)logP(II t)]