适应性共振理论(ART).docVIP

類神經網路 適應性共振理論(ART)神經網路 Adaptive Resonance Theory (ART) Neural Network 1. 向量量化(VQ)分類 2. ART神經網路原理 3.?ART1架構與學習演算法 4.ART衍生模型與相關參考文獻 5. ART1範例 6. ART2演算法 陳慶瀚 義守大學電機系 2002年5月8日 1. 向量量化(VQ)分類 K-Means是一種靜態的、無監督式的分類方法，也就是分類的叢聚中心(Cluster center)數目必須事前決定，而VQ(Vector Quantization)是一種動態的、無監督式的分類方法，叢聚中心數目在分類之前不需給定，而由演算法在分類的同時決定是否動態地增加叢聚中心數目。 VQ開始分類時總是以第一個輸入的特徵向量作為第一個叢聚中心，當一個新的特徵向量輸入時，它將比較該向量與所有叢聚中心的Euclidean距離： 接著選出與特徵向量最接近的叢聚中心： 最接近的叢聚中心決定後，再將d與一個距離的臨界值μ比較，如果 ─? dμ，則接受Ck作為分類結果，並重新計算Ck的座標位置： ?　 ? ─? 否則，產生一個新的類別，並指定該特徵向量作為叢聚中心。 2. ART神經網路原理 stability-plasticity dilemma: How can a learning system be designed to remain plastic, or adaptive, in response to significant events and yet remain stable in response to irrelevant events? How does the system know how to switch between its stable and its plastic modes to achieve stability without rigidity and plasticity without chaos? In particular, how can it preserve its previously learned knowledge while continuing to learn new things? And, what prevents the new learning to wash away the memories of prior learning? ?Grossberg 根據人類認知、學習的原理提出自組織的ART神經網路模型(/)： Grossberg, S. (1976a), Adaptive pattern classification and universal recoding, I: Parallel development and coding of neural feature detectors, Biological Cybernetics 23, 121-134. Grossberg, S. (1976b), Adaptive pattern classification and universal recoding, II: Feedback, expectation, olfaction, and illusions, Biological Cybernetics 23, 187-202. 要使類神經網路在舊有的記憶之下學習新的事物，就必須克服穩定性與可塑性的矛盾。因此，為了保持類神經網路的可塑性， ART在設計上採用動態架構；為了保持系統的穩定性， ART則是利用由順向與回授所構成的雙向記憶，來控制系統學習的Stability/Plasticity行為。 何時該新增神經元來擴充學習，何時只需更新舊的記憶呢 ？為了能夠決定分類的粗細程度， ART在設計時便引進了 一個參數，稱為警戒參數（Vigilance parameter）。當警戒參數定的越大，越容易增加新的神經元，因此分類結 果也就越細。相反地，警戒參數越小，越容易只修改舊的 神經元而不需增加新的神經元，因此分類的結果就越粗。 3.?ART1架構與學習演算法 ?ART 的架構可分為兩個部份：第一部份稱為Attentional subsystem，是由兩個神經層F1,F2所構成。第二部份稱為Orienting subsystem，是由一個重置機構所組成，其主要的工作是輔助Attentional subsystem，使之能 夠學習陌生樣本，而不至於擾亂原有的記憶。 對於任意一筆輸入的特徵向量I，ART網路會試圖將它分類在先前已經記憶的類別或者創