神经网路的系统设计者和使用者通常需要针对不同的问题特性或环境 .DOCVIP

Training of Fuzzy-Nrural Network via Vector-Based Evaluation Genetic Algorithm For Function Approximation 讀後報告: 神經網路的系統設計者和使用者通常需要針對不同的問題特性或環境能夠快速設計神經網路的應用系統,而且必須同時滿足性能(解題能力)及效率(執行速度)的最佳化o針對此一問題,將藉由遺傳演算來實現神經網路的自動化設計o 遺傳演算具有兩個重要的特質:第一,它是一種全面性最佳化(global optimization)的方法,有別其它局部最佳化的方法(如誤差倒傳遞);第二,它採用multi-agent隨機搜尋的策略,有別於single-agent隨機搜尋的策略略(如模擬退火-simulated annealing),表現出本質上的平行演算的能力o這兩個特質使遺傳演算具有在高維度(high-dimensional)問題空間中搜尋全面性最佳解的良好能力,要搜尋最佳的神經網路架構,需先決定遺傳演算的編碼形式;其次要決定想要求解的精度,精度要求越大,所需編碼長度越長,搜尋的範圍和時間都相對增加,但如果精度太低,則可能會漏失想要的合適解o最後要選用或設計新的遺傳運算子(genetic operator),包括篩選(selection),交配(crossover)突變(mutation)和一些與問題相關(problem-specific)的遺傳運算子。，．．．， 一個神經層是由m個平行的單一神經元所構成,如下圖所示: 傳統的神經網路設計方法須藉由試誤法(try and error)或經驗法則(heuristic)預先決定經網路所使用的轉移函數以及學習演算法中的學習參數,接著再使用解析的方法來設定神經元之間的鏈結權值(weight)亦即所謂的學習o使用遺傳演算同時搜尋最佳的神經網路組態,包含每個單一神經元的權值之能力以SSCP(sequential-search-based crossover point)和VE(vector-based evaluation)取得crossover point,並以VEGA (vector-based evaluation genetic)來訓練FNN(fuzzy neural network),以解決nonlinear function問題。 這份paper內有關Genetic Agorithm之名詞解釋如下: Population 所 謂 的 population 就 是 指 每 一 世 代 中 共 同 生 存 在 環 境 中 的 個 體。 population 最 主 要 的 目 的 是 為 了 提 供 表 現 不 同 的 個 體。由 於 個 體 間 的 差 異 性，天 擇 的 結 果 與 基 因 的 交 換 的 機 制，才 能 產 生 下 一 代 更 好 的 population。如 此 週 而 復 始， 演 化 便 持 續 的 進 行。 Chromosome 在 生 物 界 中，遺 傳 性 狀 的 最 基 本 單 位 被 稱 之 為 基 因 (gene)。而 相 關 連 的 gene 則 以 一 連 串 的 (string) 方 式 存 在 於 chromosome 中，因 此，藉 由 chromosome， 便 可 決 定 該 個 體 之 遺 傳 特 徵。在 高 等 生 物 中， chromosome 以 成 對 的 方 式 存 在，並 且 有 複 雜 的 結 構 與 配 對，例 如 人 類 便 有 23 對 染 色 體。然 而, 在 基 本 的 遺 傳 演 算 法 中，為 了 檢 一 起 見， 便 假 設 每 一 個 個 體 可 以 以 一 條 染 色 體 表 示。於 是， 所 有 的 個 體 接 由 一 組 編 碼 在 染 色 體 中 的 數 據 來 表 示。儲 存 在 染 色 體 中 的 資 訊 將 影 響 該 個 體 在 模 擬 環 境 中 的 表 現。 Fitness 依 達 爾 文 的 進 化 論 的 觀 點，對 環 境 適 存 程 度 高 的 個 體 將 有 更 高 的 生 存 機 率，更 有 機 會 繁 衍 下 一 代。在 自 然 界 中， 生 物 的 演 化 是 天 擇 的 結 果。而 天 擇 的 依 據 即 為 該 個 體 的 fitness。在 遺 傳 演 算 法 中， 同 樣 需 要 fitness 的 機 制。而 fitness 的 定 義 即 變 成 越 符 合 我 們 要 求 的 個 體 （ 或解），有 較 高 的 fitness。itness 的 定 義 在 遺 傳 演 算 法 中 扮 演 的 角 色，將 引 導 演 化 的 方 向。由 於