盲訊號分離與獨立成份分析(blindsourceseparationand.ppt

摺積混合情形下的聯合近似對角化盲訊號分離方法 學生：陳仕勛 指導教授：王小川 2008.08.14 大綱 盲訊號分離與獨立成份分析 問題簡介 膨脹與排列問題 獨立性與最佳化方法 演算前置處理 AMUSE, FastICA 聯合近似對角化演算法 JADIAG演算法 摺積混合盲訊號分離 DUET演算法 解決排列問題 利用廣義高斯分佈解決排列問題 解決膨脹問題 盲訊號分離與獨立成份分析 盲訊號分離(BSS):聲源(s)有m個，收到的混合訊號(x)有n個。在不知道訊號特性的情形下，利用n個收到的訊號將m個聲源分離開。 獨立成份分析(ICA): 假訊m個聲源彼此獨立，設法將它們萃取出來。 Xnx1=AnxmSmx1 ? Ymx1=WmxnXnx1 膨脹與排列問題 理想的解混合矩陣為W=A-1，此時得到的分離訊號Y=S，即 Y=WX= A-1 (AS)=S 實際上存在著膨脹與排列兩種不確定性的問題： 考慮一個新的矩陣Wd=DW，其中D為一個對角矩陣。若利用Wd當作解混合矩陣，求得的分離訊號為： Yd=WdX=DWAS=DS （S經過縮放的結果） S彼此獨立?Yd=DS亦彼此獨立?Wd為一個解混合矩陣。 考慮另外一個矩陣Wp=PW，其中P為一個任意的排列矩陣。若利用WP當作解混合矩陣，求得的分離訊號為： YP=WPX=PWAS=PS （ S排列變換的結果） S彼此獨立?YP=PS亦彼此獨立?Wp為一個解混合矩陣。 在時域應用上沒有太大影響 獨立成份分析 = 獨立性函數 + 最佳化演算法。 獨立性： 機率統計學的定義：p(y1,y2) = p1(y1)p2(y2) 即「聯合機率密度函數=邊際機率密度函數之乘積」 非相關性： 若隨機變數彼此獨立，則必非相關（但反之不一定正確） 非高斯性：非高斯分佈且彼此獨立的隨機變數線性組合而成的新隨機變數，會較原本更為接近高斯分佈。 整體獨立性函數：量測分離訊號彼此間的獨立性 熵（entropy）：分離訊號彼此獨立等價於最大化分離訊號的熵值 相互資訊(mutual information)與KL距離： 訊息理論中，m個隨機變數的相互資訊I是量測隨機變數相依性的一個工具。I恆非負，且只有當隨機變數彼此獨立時I = 0。 若m個隨機變數彼此獨立，則其聯合機率密度f(y)和邊際機率密度乘積f1(y1)f2(y2)…fm(ym)的KL距離會為零。且此KL距離等於這m個隨機變數的相互資訊。 非線性互相關：若隨機變數彼此獨立，則它們的非線性互相關值就會等於零。 E{g1(yi)g2(yj)} = 0 其中g1和g2為非線性函數 單一獨立性函數：計算單一訊號相對整體訊號的獨立性 負熵(Negentropy)：計算隨機變數和高斯變數熵值的差異決定該變數的非高斯性 高階動差 (Higher-order cumulants) ：峰態(kurtosis) 最佳化演算法： 使獨立性最大的方法，可使用任何最佳化演算法。 若利用非相關性作判斷時，通常利用「聯合對角化」法使一個或多個共變異矩陣對角化。 當被對角化的矩陣只有一個的時候，可以使用簡單的特徵值分解（Eigen-Value Decomposition, EVD）分解之。 演算前置處理 為了減少需要計算的變數，通常會假設： 訊號源的平均為0。（zero mean） 訊號源的標準差為1。（unit variance） 混合訊號也應該會保有這兩項特性，但是實際上收到混合訊號並不一定會有這兩個特性。 先對混合訊號做兩項前處理： 集中化 (centering)：計算觀察到訊號y的平均 m = E{y}，再將所有的訊號y扣掉這個平均，令集中化過的訊號為u = y-m，使得訊號u的平均值為零。 白色化 (whitening)：計算集中化過訊號u的共變異矩陣，並對其作特徵值分解 其中E為特徵向量構成的矩陣， 為特徵值構成的矩陣。則白色化矩陣 接著將集中化過的訊號u經過一個線性變換z=Vu，如此即可使白色化後的訊號z其共變異矩陣為單位矩陣。 演算前置處理 s1和s2的機率分佈均為 U[-1,1]的均勻分布。 (a)為經過混合的訊號。 (b)為集中化處理的結果。 (c)為白色化處理的結果。處理後的訊號基底由非正交展開成正交。 (d)是做完獨立成份分析的結果。 (c)到(d)圖乘上的解混合矩陣W可視為一旋轉矩陣。 前處理可能破壞訊號統計特性。 一次將所有訊號分離。 假設訊號源S彼此不相關。 應該為對角矩陣。 對經過前處理的混合訊號X，使 成為對角矩陣。 對