neurosolutions类神经网络仿真介绍.doc

NeuroSolutions 类神经网络仿真介绍 http://www.Hikey-S 何谓类神经网络 ? 类神经网络的灵感源自于脑神经学，其基本概念是希 望透过仿真人脑结构的方式来建立新一代的计算机处 理模式。(中山大学 机电系 严成文教授) ? 运用计算机（软、硬件）来仿真生物大脑神经的人工 智能系统，并将此应用于辨识、决策、控制、预测，? ? ? 等等。(真理大学工管系 邱宽旭教授) ? 类神经网络（ Neural Network，NN）类似人类神经结 构，是「一种基于脑与神经系统研究，所启发的信息 处理技术」。具有人脑功能基本特性：学习、记忆和 归纳。(辅仁大学统计信息学系 谢邦昌教授) 何谓类神经网络 ? 类神经网络并不需要了解系统的数学模型，直接以神 经网络取代系统的模型，一样可以得到输入与输出之 间的关系。 ? 类神经网络和回归分析不同，没有任何假设的机率分 布，是模式识别和误差最小化的过程，在每一次经验 中提取和学习信息。 ? 类神经网络可以处理连续型和类别型的数据，对数据 进行预测。 Input 类神经网络 模型 Output Neural Network Model ? Brain Neuron (生物神经元) w1 ? Artificial neuron w2 f(net) (人工神经元) ? 人工神经网络为一系列 的处理单元，处理单元 透过神经树之链接藉以 调整连结强度(权重)来 输出。 wn input output 人工类神经介绍 ? 神经元状态分成兴奋及抑 制二种，以1代表兴奋，以 0代表抑制 w1 w2 ? 神经元与其他神经元间以 f(net) 神经节连结，可用加权值 代表神经节之连结强度 wn Artificial neuron ? 神经元之状态会透过神经 (人工神经元) 节输出至其他神经元，而 成为其他神经元之状态输 入 类神经网络的架构 ? 类神经网络主要结构是由神经元（neuron）、层（layer）和 网络（network）三个部份所组成。 ? 整个类神经网络包含一系列基本的神经元，通过权重（weight） 相互连接。 ? 这些单元以层的方式组织，每一层的每个神经元和前一层、后 一层的神经元连接。 I H I O H I O H I ※圆圈的部分代表神经元 输入层 I 隐藏层 H 输出层 O 类神经网络的架构 ? 类神经网络的分为输入层、输出层和隐藏层，三层 连结形成一个神经网络。 ? 输入层只从外部环境接收信息，该层的每个神经元 相当于自变量，不完成任何计算，只为下一层传递 信息。 ? 输出层生成最终结果，为网络送给外部系统的结果 值。 类神经网络的架构 ? 隐藏层介于输入层和输出层之间，这些层完 全用于分析，其函数联系输入层变量和输出 层变量，使其更配适(fit)资料。 ? 目前尚没有统一的标准方法可以计算神经网 络的最佳层数。 ? 一层加权神经元的网络称单层感知器，多层 加权神经元的网络称多层感知器（multi- layer perceptrons）。 MP(MultiLayer Perceptron) 模型公式： ? Yj = f(net j) ? Yj处理单元函数 ? net j = ΣWij Xi–θj ? Wij = 连结强度 ? Xi = 神经元i所传来之讯号 ? θj = 神经元j之阀值 ? f = 转换函数，通常为阶梯 函数(Step function) {T}目标输出量 {Y}推论输出量 δ差距量 ，用来修正权重 差距量 = 目标输出量 – 推论输出量 = δj = Tj – Yj 权重改变量 = △Wij = η?δj?Xi ? f(x) = △Wij = ηXi Xj ? η：学习速率，控制权重修 正幅度 输出单元阀值改变量 = △θj = - η?δj 总错误率 = 误分类案例总数/范例种 数 BPN原理简单介绍 ? 提供范例数据给神经网络 ? 神经网络运算后产生输出数据 ? 神经网络运算后产生输出数据并比 较满意值 ? 修正网络中之权重以降低误差 产生输出数据 目标值 范例数据输入 网络 权重w 输出值与目标值比较 修正权重参数 差异 误差 训练算法 Neural Networks的要求 ? 神经网络学习是透过范例来让网络收敛，因此输入数 据必须为： – -拥有足够范例数据来让神经网络作适当之归纳。 – -适度的训练 – -数据中的关系变量无绝对之影响变量 – -针对监督式学习需要有期望输出值(目标值) ? 训练，输入值为其关键 信赖度 ? Neural networks are very powerful ? 对于神经网络之是基于训练之数据上。 ? 若数据不足则没办法修正权重作业。 ? 透过充分数据之训练的神经网络，是可