类神经网路之心得整理-辅仁大学.doc

類神經網路概述及實例 謝邦昌 教授 輔仁大學 統計學系 壹、類神經網路由來 類神經網路理論起源於1950年代，當時科學家仿造人類大腦的組織及運作方式，開始提出稱之為「感知機」（Perceptron）的神經元模型，這是最簡單也是最早的類神經模型，感知機通常被拿來做分類器（Classifier）使用。但是在1980年之前，由於專家系統(expert system)則是當時最流行的人工智慧基礎，加上類神經網路的理論仍不成熟，因此類神經網路並沒有受到很大的重視。 一直到1980年代之後，由於霍普菲爾（Hopfield）神經網路(1982年)被提出，而此時專家系統開始遇到了瓶頸，類神經網路理論才逐漸受到重視。直到今日為止，類神經網路仍然有新的架構及理論不斷的被提出，配合電腦運算速度的增加，使得類神經網路的功能更為強大，運用層面也更為廣泛。 一部機器的運作或是一個事件的發生常常有相對應的因果關係（例如：打開電器用品的開關，電器用品開始運作；腳踩油門車子的速度增加），我們將打開開關與腳踩油門的動作稱為系統的輸入，電器用品與車子稱為系統，而電器用品的運作與車子的速度稱為系統的輸出，整個輸入與輸出的關係可以用一個方塊圖來表示： 類神經網路的一個優點在於並不需要瞭解系統的數學模型為何，而直接以神經網路取代系統的模型，一樣可以得到輸入與輸出之間的關係。其方塊圖如下所示： 人類的大腦大約由1011個神經細胞（Nerve Cells）組成，而每個神經細胞又有104個突觸（Synapses）與其他細胞互相連結成一個非常複雜的神經網路。一個神經單元是由一個細胞主體（Cell body）所構成，而細胞主體則具有一些分支凸起的樹狀突起(Dendrite)和一個單一分支的軸突(Axom)。樹狀突起由其它的神經單元接收訊號，而當其所接受的脈動(Impulse)超過某一特定的定限(Threshold)，這個神經單元就會被點燃(Fire)，並產生一個脈動傳遞到軸突。 在軸突末端的分支稱為胞突纏絡(Synapse)，它是神經與神經的連絡點﹔它可以是抑制的或者是刺激的。抑制的胞狀纏絡會降低所傳送的脈動﹔刺激的細胞纏絡則會加強之。當人類的感官受到外界刺激經由神經細胞傳遞訊號到大腦，大腦便會下達命令傳遞至相關的受動器（Effectors）做出反應（例如：手的皮膚接觸到燙的物體立即放開），這樣的過程往往需要經由反覆的訓練，才能做出適當的判斷，並且記憶於腦細胞中。如果大腦受到損害（例如中風患者），便需要藉由復健的方式，重新學習。 雖然以上只是對一個神經的扼要描述，但實際上，已經包含了類神經計算模式的一些重要特色。我們可以了解，每一個計算單元只是一個簡單的定限裝置。它從別的單元接收訊號，當這些訊號超過了它的定限，那麼它就會傳遞出訊號給其它單元。另外，我們也發現，知識不再是以明確的符號來表示，而是表現在由神經和定限值所形成的整個網路。類神經網路的運作便源於此，藉由不同的演算法訓練類神經網路使得神經網路的輸出能達到我們所要求的結果。 貳、類神經網路簡介 ??類神經網路（Artificial Neural Network）類似人類神經結構的一個平行計算模式，是「一種基於腦與神經系統研究，所啟發的資訊處理技術」，類神經網路?X：稱為神經元的輸入（input） W：稱為鍵結值（weights） b：稱為閥值（bias），有偏移的效果 S：稱為加法單元（summation），此部分是將每一個輸入與鍵結值相乘後做一加總的動作。 φ( )：稱之為活化函數（activation function），通常是非線性函數，有數種不同的型式，其目的是將S的值做映射得到所需要的輸出。 Y：稱之為輸出（output），亦即我們所需要的結果。 虛線的部分即為類神經元，類神經網路的訓練就是在調整鍵結值，使其變得更大或是更小，通常由隨機的方式產生介於+1到- 1之間的初始值。鍵結值可視為一種加權效果，其值越大，則代表連結的神經元更容易被激發，對類神經網路的影響也更大；反之，則代表對類神經網路並無太大的影響，而太小的鍵結值通常可以移除以節省電腦計算的時間與空間。 將上述的神經元組合起來就成為一個類神經網路。目前為止，許多的學者針對欲解決問題的不同，提出許多的類神經網路模型，每一種類神經網路的演算法並不相同。常見的網路有：倒傳遞網路（Back-propagation Network）、霍普菲爾網路（Hopfield Network）、半徑式函數網路（Radial Basis Function Network），這些類神經網路並非適用所有的問題，我們必須針對欲解決問題的不同選擇適當的類神經網路。以下所顯示的是四個輸入與一個輸出的倒傳遞網路模型： ※圓圈的部分代表神經元 這個網路由三層的類神經單元所