主成分分析在影像处理上的应用.PDF

主成分分析在影像處理上的應用 last modi?ed May 9, 2006 數位影像是屬於大型的資料, 一張 1024×1024 的灰階照片大小等於1Mbytes 。 當影 像更大、 色彩更豐富、 數量更多時, 不管在儲存、 傳輸或是特徵抽取 (feature extrac- tion) 上都造成困擾。 基於影像資料中, 鄰進像素的相關性頗高 (如圖1), 表示這類的 資料本身即存在著一些 「多餘 (redundant) 資料」, 利用主成分分析的原理可以有效 的去除這些多餘的資料, 讓資料量變小, 在影像處理上則稱為 「影像壓縮」。 經過壓縮 處理過的影像適合保存、 傳輸等用途, 但被刪除的資料畢竟仍是影像的一部份, 在影像 復原時會有某種程度上的損失, 不過相較於影像大小的縮減, 在某些應用上仍是值得 的。 本單元將以實際的資料展現主成分分析在資料壓縮與上的功能, 雖然有時候效果不是 很好, 卻可以當作其他方法的前置作業處理 (preprocessing)。 圖 1: 影像資料中鄰近像素間的高相關性: 右圖為左圖Lena 左眼部位的放大圖, 可以 清楚的看到每個像素及其灰度。 1 1 背景介紹 1.1 主成分分析 主成分分析的原理係將原變數向量 x (含 p 個變數), 正交投射 (Orthogonal projec- tion) 到維度較低 ( q p ) 的子空間 (Subspace)V, 成為 xq, 如圖2所示, 其數學 的表示法寫成 圖 2: 主成分分析的正交投射原理 xq = P x (1) 其中 P 即所謂的投射矩陣, 在此也稱為正交投射矩陣 (Orthogonal Projection Ma- trix) 。 主成分分析為滿足其 「主成分」 的目的, 定義了投射的目標區 (子空間 V) 及 P 的選擇。V 的定義及 P 的選擇如下: V = span{v1, v2, · · · , vq} T P = VqVq (2) 2 其中 Vq = [v1 v2 · · · vq],v1, v2, · · · , vq 為變數向量 x 的共變異矩陣 ΣX 的前 q 個特徵向量 (經標準化後) 即 ΣX vk = λkvk, 1 ≤ k ≤ q, λ1 ≥ λ2 ≥ · · · ≥ λq (3) T 其中 p × q 的矩陣 Vq 也稱為 Orthonormal matrix, 因其滿足 Vq Vq = Iq。 「主成 分分析」 將資料變數從 x 投射(轉置) 到 xq 的主要目的有二: 其一, 從空間幾何的角 度來看, 子空間的座標軸的選擇係依據資料成分 (能量或變異) 的分佈, 資料呈現在其 間的分佈與原座標軸所呈現出的分佈不同, 在某些應用上, 如群組分析、 變數的選擇, 可以得到好處。 經轉換後的資料在子空間 V 的座標為 T zq = Vq x (4) zq 為 q × 1 的向量, 當 q