(陈士杰)相异度计算-联合大学.PPT

? Outlines 什麼是集羣分析？ 集羣分析的典型應用 集羣分析應用實例 什麼是好的集羣分析？ 資料挖掘對集羣分析的要求 集羣分析中的資料類型 相異度計算 主要的集羣方法 孤立點挖掘 ? 什麼是集羣分析？ 集羣 (Cluster: 聚類、簇): 資料對象的集合 所謂集羣是指一群人、事或物的組合，這些人、事或物統稱為Objects 在同一個集羣 (簇) 中的對象彼此相似 不同集羣中的對象則相異 集羣分析 將一堆Object分成幾類，使性質類似的Object自成一個小集羣 假設每個Object在許多屬性 (或變數) 上均有一個觀測分數，有人在某些屬性上分數較高，在其它屬性上分數較低。 每個Object在這些屬性上分數高低的情況或輪廓，即為該Object在這些變項上分數的Profiles (輪廓)，每個profile在幾何座標圖中以一點表示。 設A和B二個Objects在x和y兩個變數上均有一個分數。Profiles A是由x = 2和y = 3所組成; Profiles B是由x = 3和y = 2所組成。 依據畢氏定理 (The Pythagorean Theorem)，直角三角形ABC的斜邊之平方等於其它兩邊平方之和。 由於d之大小是兩個Profile距離的函數，故一般通稱之為距離函數係數 (Distance-Function Coefficient)。 向量乘積係數和距離函數係數均根據二個向量終點所夾的角度來測量此兩點的距離，故兩者的相關性頗高。不過兩者在解釋上有相當大的差異: 向量乘積係數愈大，表示兩個Profiles相似性愈高 距離函數係數數值愈小，相似性愈高 集羣是一種無指導的學習︰沒有預先定義的類別編號 集羣分析的資料挖掘功能 作為一個獨立的工具來獲得資料分配的情況 作為其他演算法 (如︰特徵和分類) 的預先處理步驟 ? 集羣分析的典型應用 模式識別 空間資料分析 在GIS系統中，對相似區域進行集羣，產生主題地圖 檢測空間集羣，並給出它們在空間資料挖掘中的解釋 圖像處理 經濟學（尤其是市場研究） WWW 對WEB上的文檔進行分類 對WEB日誌的資料進行集羣，以發現相同的用戶訪問模式 ? 集羣分析應用實例 市場行銷︰幫市場分析人員從客戶基本庫中發現不同的客戶群，從而可以對不同的客戶群採用不同的行銷策略 土地使用︰在地球監測資料庫中，發現相同的土地使用區域 保險業︰發現汽車保險中索賠率較高的客戶群 城市規劃︰根據房子的類型、價值和地理位置對其進行分組 地震研究︰將觀測到的震中點沿板塊斷裂帶進行集羣，得出地震高危區 集羣分析的方法雖多，但下列三個問題乃各方法所共同關心的: 如何以數量來表示事物 (包括人) 和事物之間的類似性 (Similarity)? 如何根據這些類似性將類似的個體分成一類 (或一個集羣)? 所有事物分類完畢後，對於每一集羣的性質應如何描述? ? 什麼是好的集羣分析？ 一個好的集羣分析方法會產生高品質的集羣 高類內相似度 低類間相似度 作為統計學的一個分支，集羣分析的研究主要是基於距離的集羣；一個高品質的集羣分析結果，將取決於所使用的集羣方法 集羣方法的所使用的相似性度量和方法的實施 方法發現隱藏模式的能力 ? 資料挖掘對集羣分析的要求 可擴展性(Scalability) 大多數來自於機器學習和統計學領域的集羣演算法在處理數百條資料時能表現出高效率 處理不同資料類型的能力 數字型；二元類型，分類型/標稱型，序數型,比例標度型等等 發現任意形狀的能力 基於距離的集羣演算法往往發現的是球形的集羣，其實現實的集羣是任意形狀的 用於決定輸入參數的領域知識最小化 對於高維資料，參數很難決定，集羣的質量也很難控制 處理噪聲資料的能力 對空缺值、孤立點、資料噪聲不敏感 對於輸入資料的順序不敏感 同一個資料集合，以不同的次序提交給同一個演算法，應該產生相似的結果 高維度 高維度的資料往往比較稀鬆，而且高度傾斜 基於限制的集羣 找到既滿足限制條件，又具有良好集羣特性的資料分組 可解釋性和可用性 集羣要和特定的語義解釋和應用相聯繫 ? 集羣分析中的資料類型 許多基於內存的集羣演算法採用以下兩種資料架構: 資料矩陣︰用p個變量來表示n個對象 也叫二模矩陣，行與列代表不同實體 相異度矩陣︰存儲n個對象兩兩之間的近似性 也叫單模矩陣，行和列代表相同的實體 ? 相異度計算 許多集羣演算法都是以相異度矩陣為基礎，如果資料是用資料矩陣形式表示，則往往要將其先轉化為相異度矩陣。 相異度d(i,j)的具體計算會因所使用的資料類型不同而不同，常用的資料類型包括︰ 區間標度變量 二元變量 標稱型、序數型和比例標度型變量 混合類型的變量 區間標度變量 區間標度度量是一個粗略線性標度的連續度量，比如重量、高度等 選用的度量單位將直接