类神经网路应用於数字辨别之分析与比较.pptVIP

類神經網路應用於數字辨別之分析與比較 班級:二自控四甲 老師:陳沛仲 組員:馬嘉宏 石志堃 目 錄 前言 辨識文字的一些方法 前饋式類神經網路: 1.倒傳遞類神經網路 2.機率神經網路 3.半徑式函數網路 遞迴式類神經網路: 1.霍普菲爾網路 2.適應共振理論網路 3.雙向聯想記憶 結論 參考資料 文字辨識的方法 文字切割: 指一個文字有時是由許多的部份組成的，文字經過切割成數個部份後，再把各部份的辨識結果合併，以簡化辨識時的複雜度。 正規化: 線性正規化(linearnormalization)可將文字影像之大小統一 。 非線性正規化(nonlinear normalization)可降低字體的扭曲程度。 細線化: 又稱為骨架化(skeletonization)，是將線條細化成一個圖素(pixel)的寬度，且保留原有的骨架(skeleton)。 辨識範例 數字0 到9 之原始圖形，每一個數字都是10X10的點矩陣。 前饋式類神經網路 倒傳遞類神經網路: 倒傳遞網路對於數字識別的能力還算不錯。但是其網路在訓練的過程中，需花費相當多的時間，又因為其鍵結值是以亂數產生的，又有h(學習率)和a (慣性因子)等參數設定，所以在這個訓練的過程中，倒傳遞網路很有可會落入區域極小值(Local minima)。而以眾多的訓練結果中，取一個訓練結果較佳的網路來測試。 辨識結果(倒傳遞) 以35個隱藏層神經元數及雜訊40%為例(如圖2)，其輸出結果就頗為類似數字〝8〞，雖然與我們所希望的結果數字〝3〞不同，但我們可從辨識前雜訊圖中隱約看出，其形狀和數字〝8〞較類似，所以倒傳遞網路會將它辨識成類似數字〝8〞的圖形，而這也可解釋為網路的一種預測能力。 前饋式類神經網路 機率神經網路: 機率神經網路的運算速度極快，其原因為該網路並不需要修正網路的鍵結值，而其鍵結值的來源是由訓練範例中得到，也就是說網路的鍵結數與訓練範例數有關。 所輸入的訓練範例是10個100X1的數字矩陣，敞若今天也要用10個100X1的數字矩陣來做輸出，則如此龐大的網路鍵結數，已超出一般個人電腦所能容忍的範圍。所以在其訓練範例和測試範例中，加入了識別碼，使其從輸出的結果來判定所對應的數字何。 辨識結果(機率) 以40%的數字1來說，其大部份的群聚是在中間，其餘是一小部份的群聚，而該群聚並不足以影響其結果的情況下，PNN網路會將其辨識為數字1。 以加有雜訊50%的數字3 來說，它的群聚現象是蠻平均的，但以數字0 到9 全體來說，PNN網路則將它辨識為數字7。這現象我們可解釋為在數字0 到9之中，該雜訊圖所分佈的雜訊位置所佔的比例和數字7 相似的比例較高，所以該網路會將它辨識成數字7。 前饋式類神經網路 半徑式函數網路: 半徑式函數網路對於數字的識別能力與其他網路比起來似乎是並不怎麼理想。但是半徑式函數網路在訓練的過程中，卻是比倒傳遞網路快許多。不過半徑式函數網路所需的隱藏層神經元數可能會很多，所以也會需要較大的記憶空間來儲存相關的參數值。 而隱藏層神經元數越高的，對雜訊的容忍能力不一定越強，因為半徑式函數網路所要設的參數比一般傳統的網路多，所以也增加了對網路輸出的不確定性。 辨識結果(半徑式) 在辨識中所設的參數皆與倒傳遞網路相同，所train 的數目也相同，不過所得到的結果卻不及倒傳遞網路的一半，可能之原因為所設的參數並不理想，使該網路對於數字的辨識能力降低，如果能得到最佳的參數的話，那半徑式函數網路應用於辨識方面的能力，應該是可以達到相當的水準。 遞迴式類神經網路 霍普菲爾網路: 其記憶容量似乎是不大，有學者從理論中探討得到，當N 很大時，記憶容量M 的極限為 其中N 為神經元的數目。 而在這個模擬中，必需還要排除一些頗為相似性的數字，例如：1 和7，3 和8 及9，或者8 和6 及3 等等，因為這些數字中，其特性相似度頗高，又因為本模擬是以亂數來產生雜訊，所以當某些關鍵性的雜訊出現在關鍵性的位置時，則Hopfield 網路就容易產生誤判，此乃因為有〝虛擬平衡點〞狀態的存在。 辨識