使用词向量表示与概念资讯於中文大词汇连续语音辨识之语言模型.PDF

The 2015 Conference on Computational Linguistics and Speech Processing ROCLING 2015, pp. 4-17  The Association for Computational Linguistics and Chinese Language Processing 使用詞向量表示與概念資訊於中文大詞彙連續語音辨識之 語言模型調適 Exploring Word Embedding and Concept Information for Language Model Adaptation in Mandarin Large Vocabulary Continuous Speech Recognition 陳思澄 Ssu-Cheng Chen, 洪孝宗 Hsiao-Tsung Hung, 陳柏琳 Berlin Chen 國立臺灣師範大學資訊工程學系 Department of Computer Science and Information Engineering National Taiwan Normal University ,, berlin}@.tw 陳冠宇Kuan-Yu Chen 中央研究院資訊科學研究所 Institute of Information Science, Academia Sinica Kychen@.tw 摘要 近年來深度學習(Deep Learning)激起一股研究熱潮；隨著深度學習的發展而有分 散式表示法(Distributed Representation)的產生。此種表示方式，不僅能以較低維 度的向量表示詞彙 ，還能藉由向量間的運算，找出任兩詞彙之間的語意關係。本 論文以此為發想，提出將分散式表示法 ，或更具體來說是詞向量表示(Word Representation) ，應用於語音辨識的語言模型中使用 。首先，在語音辨識的過程 中，對於動態產生之歷史詞序列與候選詞改以詞向量表示的方式來建立其對應的 語言模型 ，希望透過此種表示方式而能獲取到更多詞彙間的語意資訊。其次，我 們針對新近被提出的概念語言模型(Concept Language Model)加以改進；嘗試在調 適語料中以句子的層次做模型訓練資料選取之依據，去掉多餘且不相關的資訊 ， 使得經由調適語料中訓練出的概念類別更為具代表性，而能幫助動態語言模型調 適。另一方面，在語音辨識過程中，會選擇相關的概念類別來動態組成概念語言 模型 ，而此是透過詞向量表示的方式來估算，其中詞向量表示是由連續型模型 (Continue Bag-of-Words Model)或是跳躍式模型(Skip-gram Model)生成，希望藉由 詞向量表示記錄每一個概念類別內詞彙彼此間的語意關係。最後，我們嘗試將上 述兩種語言模型調適方法做結合。本論文是基於公視電視新聞語料庫來進行大詞 彙連續語音辨識(Large Vocabulary Continuous Speech Recognition, LVCSR)實驗， 實驗結果顯示本論文所提出的語言模型調適方法相較於當今最好方法有較佳的 效用 。 關鍵詞：語音辨識、語言模型、詞向量表示 、概念模型 Abstract Research on deep learning has experienced a surge of interest in recent years. Alongside the rapid development of deep learning related technologies, various