图形识别.doc

第 PAGE \* MERGEFORMAT 4頁 圖形識別 期末作業 班級：資工碩二A 學號：9927623 姓名：江家慶 1 maximum likelihood estimation: 適合的特徵空間分布型態為何： 為常態分佈。 不適合的特徵空間分布型態為何： 為均勻分佈。 優缺點： EM演算法的優缺點很明顯，主要表現在以下幾個方面：一方面在於它所涉及理論的簡單化和一般性：二是在大多數情況下，它實質上是一個優化算法，餅且能夠收斂到局部極值，再者就是在於許多的應用都納入到EM演算法的範疇，EM算法成為統計學上的一個標準工具。當完全資料來源於一個指數分佈實，極大似然計算就比較簡單。 限制： 2 Parzen Window Method: 適合的特徵空間分布型態為何： 不適合的特徵空間分布型態為何： 優缺點： 3 kn-Nearest neighbor estimation: 適合的特徵空間分布型態為何： KNN是一種非監督式學習演算法，是參考最近k個鄰居的答案來做判斷 不適合的特徵空間分布型態為何： 某些問題上(例如語意問題)以及特徵的選擇，是使用KNN需要注意的方 優缺點： KNN也有他困難的地方。我們用頭髮長度和臉大小的面積來讓機器學習，如果遇到留長髮的男生或是輪廓比較大的女生，可能就判斷不大出來：或是說，如果我們改用膚色來判斷，比較白的是女生，比較黑的是男生，萬一這個規則拿來判斷歐洲人，可能也不大行。 距離的訂定。剛才的例子中，頭髮長度如果用公分來算，差距1公分的頭髮長度，可能有辦法分辨男女。如果是用頭髮的顏色來判斷的話，那麼顏色的「距離」就不知道要怎麼定了，或許可以定成光線頻率的距離，那機器還可以學習，不然「紅色」和「黑色」兩種顏色之間的距離，可能就不知道要怎麼定了。 4 Perceptron Batch linear classify: 適合的特徵空間分布型態為何： 單層感知器因其活化函數為兩值門檻函數，可以將它看成是在超平面（hyperplane）上作線性分割（linear separate），對於在超平面上非線性的分割，感知器無法處理。 優缺點： 一、優點 類神經網路與統計技術、歸納學習相比其優點有： 1. 類神經網路可以建構非線性的模型，模型的準確度高。 2. 類神經網路有良好的推廣性，對於未知的輸入亦可得到正確的輸出。 3. 類神經網路可以接受不同種類的變數作為輸入，適應性強。 4. 類神經網路可應用的領域相當廣泛，模型建構能力強。 5. 類神經網路具模糊推論能力，允許輸出入變數具模糊性，歸納學習較難具備此能力。 二、缺點 類神經網路與統計技術、歸納學習相比其缺點有： 1. 類神經網路因為其中間變數（即隱藏層）可以是一層或二層，數目也可設為任意數目，而且有學習速率等參數需設定，工作相當費時。 2. 類神經網路以迭代方式更新鍵結值與閥值，計算量大，相當耗費電腦資源。 3. 類神經網路的解有無限多組，無法得知哪一組的解為最佳解。 5 support vector machines: 適合的特徵空間分布型態為何： SVM起源於統計理論，找出一個函數具備maximal margin hyperplane以達到最小化generalization error的目的。它可分為Linear SVM及Non-Linear SVM，而non Linear SVM特別適合處理非線性可區隔的資料，但SVM處理Multiclass Problem時需要建立多個classifier才能進行分類。 不適合的特徵空間分布型態為何： 然而，並非所有的分類問題狀況皆如此的單純，有時也會碰上無法將資料分類的問題。如下圖：可以看到有一點黑點，雖然應該屬於 黑色的分群，然而卻沒有辦法利用已知的 Hyper-plan(實線) ???有效的分類，而因此，面對這樣的狀況我們通常會在解 SVM 問題時 多加入一項考慮誤差的變數：ξ 優缺點：只需要使用低維度的計算量便可計算量便可計算，但缺點為訓練時間長。