语音识别中的大数据与小数据学习.pdfVIP

本讲座选自清华语音语言实验室副主任王东于 2016 年 1 月 19 日在RONGv2.0 系列——语言语音语义与大数据技术专场上所做 的题为《语音识别中的大数据与小数据学习》的演讲。 语音识别中的大数据与小 数据学习 王东 2016/1/19 报告人 • 王东 • 清华大学助理研究员 • 清华语音语言实验室副主任 • 清华灵云人工智能研究中心主任 • 简历 • 1999/2002，清华大学硕士，2010爱丁堡大学博士 • 2002-2004，Oracle 中国 • 2004-2006，IBM中国 • 2010-2011，法国EURECOM • 2011-2012，美国Nuance 谢谢大家。刚才刘老师已经把很多的东西说得很清楚了，我觉 得我已经可以走了。但是既然来了，还是应该给大家说一说。刘 老师在一个比较宏观的场景下给大家介绍了整体的技术发展现状， 我稍微聚焦在一个特别小的地方，给大家一个参考。 我今天给大家报告的题目是语音识别中的大数据与小数据的学 习。什么意思呢？我们都需要大数据，今天的会也是个大数据的 会。问题是很多时候我没有那么多大数据，怎么办？我们希望有一 种办法，在没有很多的数据的时候 ，用小数据实现大数据的能力。 能听会说是智能机器的梦想 语音识别大家都知道很火爆，很多商业公司推出了语音识别服 务。总体说来，语音识别其实是人工智能的一个分支，我们希望跟 机器交互的时候能够实现比较自然的交流 ，而不是通过文本打字， 这在未来是一个必不可少的智能交互手段。 • 基于HMM-GMM模型的语音识别技术 ˆ W  arg max P( A | W )P(W ) W a11 a22 a33 Fred Jelinek Jim Baker a12 a23 S1 S2 S3 No Data Like More Data 这是大约直到 5 年前还统治世界的这么一个语音识别技术框 架，叫 HMM-GMM 模型。最早是由 IBM 的 Fred Jelinek 和 CMU 的 Jim Baker 这两位提出来的。在这之前，语音识别一直是拿两段 声音互相匹配 ，即动态时间弯折，DTW。但这种模板 匹配方法很难 处理语音中的不确定性问题，所以人们开始思考用统计模型对语音 建模。你不是有很多不确定性吗？那我们就用统计方法来描述这种 不确定性，把不确定性放在模型里面。这即 HMM-GMM 方法，从 80 年代一直到 2010 年左右的语音识别系统框架。该框架主要分三 个组成部分。最底层是特征提取。我想去识别你的语音，首先我得 把最显著的特征提取出来，一般用的特征叫 MFCC 的特征。第二个 部分是描述发音不确定性的静态概率模型 ，即 GMM 模型。第三个 部分是描述发音时序特性的动态概率模型，即 HMM 模型。这三个 部分组成 HMM-GMM 系统框架，在很多领域都可应用，特别是对 语音识别尤其有效 ，因为语音信号具有很强的动态性，适合用该模 型描述。 有了这个框架之后，Fred 和 Jim 两位先驱就提出这么一个到现 在还在用的公式 ，即后验概率最大化识别准则。从 80 年代起直到大 约在 5 年前 ，我们一直都是这么做语音识别的。一个重要的问题 是，有了统计模型还不够，需要用数据来对模型进行训练，或者 说，使模型能适应某一任务的数据。当时就