VQ方法介绍.pdfVIP

第二章 VQ 方法介紹 VQ 的發展其實是多采多姿的 ，不管是單層或結構化的 VQ 都有許 多的變化 。在建構單層的 code-book方法上 ，有最簡單的 LBG ，還有 將平均值與餘數分開進行 VQ 的方法[18] ，或者特別為了保留影像中 一些邊緣地帶資訊而發展的方法[19] ，以及應用 fuzzy的 LVQ[21] 。 結構化的 VQ 則有最常見的二元樹結構 。在最早 VQ[9]的方法中 ，是利用 LBG[7][8][12][13]的方法來建造二元樹的 code-book，二元樹的 code-book中還另有unbalanced的結構 ，稱為 variable rate tree structure VQ[23] 。之後有人利用重複萃取餘 數的方式 ，也就是對資料進行 VQ 後 ，取出餘數 ，再對餘數進行 VQ 處 理 ，重複這樣的動作 ，將其 code-book的架構改變成了類似 finite-state VQ [15] [20]的方法 ，這種方式可以降低 code-book 的大小 ，但是會犧牲品質 。 不只上述的方法 ，其他 neural network的方法也相繼的被應用 來建立 code-book。在本章我們將會介紹三種 VQ 的方法 ，第一種為 建構單層 code-book的方法，這是一種改變LBG 建法，希望突破 local minimum困境的方法 ，稱為 ELBG 。第二及第三種則為建構樹狀結構 code-book的方法 ，第二種是利用 SOM 建立 code-book的方法 ，稱為 9 HSOM[10] [16] ，第三種則為利用 ART2 建構的方法 ，稱為 modified ART2[4] [17] 。我們將介紹它們的做法以及探討其優缺點 。 2.1 Enhanced LBG(ELBG) 這是一個建構單層 code-book的方法，是 LBG 的改良。在談 ELBG 前 ，我們要先談到 LBG 。LBG 也可以被稱為 algorithm(GLA) ，是由 Linde在 1980 [7] 年改良 Lloyd的方法 [8] ，由單維的 scale quantization延伸至k 維空間的 VQ ，方法 k 因而以創造者的名字來命名 。LBG 基本的演算法和 -means的方法相 似 ，在 MacQueen[12]與 Forgey[13]的方法中皆有提到 。LBG 基本上 受到起始所設定的 cluster的中心點影響頗重 ，因此往往會落入 local minimum，但這是一種頗為簡單且易於完成的方法 ，所以至今 仍廣泛可見 。 LBG 的演算法如圖 2.1 所示 ，其方法一開始可能隨意產生 Y code-book或者隨意從資料中挑選一部分當作 code-book 。再將 0 所有的訓練資料依照與 code-vector距離遠近做分群的動作。接著利 用分群後的資料計算新的 cluster的中心點 ，也就是新的 code-vector。然後計算整體的 distortion。看看 distortion變動 是否侷限在我們預設的起始條件 e 內 ，如果是 ，就停止訓練過程 ， 否則重新由分群的步驟做起 。 10 圖 2.1 LBG 流程圖 為了解決LBG 易落入 local minimum的問題，ELBG(2001) [2] [3] 被提出 。它在 LBG 方法中加入了一個新的步驟 ，在圖 2.1 中的 new code-book calculation的步驟後 ，加入了一個重新整理 cluster的 動作 ，稱為 ELBG block。 11 圖 2.2 ELBG 的流程圖 這個步驟是要將 distortion較小的