神经计算智能基础原理方法（读后笔记）..docxVIP

2012年5月23日星期三第一章：智能科学发展概论第二章：智能的生物特征与本质第三章：人工神经网络第四章：模糊逻辑基础第五章：联想记忆与编码第六章：进化计算第七章：混沌与分形第八章：模糊神经计算智能系统智能(intelligence)：学习、理解和推理的能力(The power of learning, understanding and reasoning)生物智能BI(biological intelligence)人工智能AI(artificial intelligence)计算智能CI(computational intelligence)【神经网络（neural networks, NN）模糊逻辑（fuzzy logic, FL）遗传算法（genetic algorithm, GA）】生物神经元具有以下特点：两态工作（兴奋和抑制两种状态）阈值作用（超过某一阈值，神经元兴奋）多输入单输出空间时间叠加可塑性连接（突触部分的连接强度可以调节）每个节点代表一种特定的输出函数，成为激励函数（Activation Function）每两个节点之间连接为权重，相当于一种记忆。网络的输出由网络的连接方式、权重值、激励函数的决定。M-P模型感知机以下是基于感知机的一个最简单的学习过程：（因为其权值可以调整）（感知机具有分类功能）LMS算法，在这里就赘述了。（见最优化理论）神经网络的学习机制：根据有无教师示教，可分为：有监督学习（纠偏型学习）（增强型学习）和无监督学习。各种学习算法的不同特点都反映在调整权值的原则、方法、步骤和迭代过程的参数选择上。整个学习算法的具体步骤：通过初始化网络的权值和阈值来初始化超平面的位置，为此，将及(i=1 2 …n, j=1 2 …m)赋予-1与1之间的随机值。对每一个模式对（）,k=1 2…p ，将送到输入层单元，计算网络输出, j=1 2…m计算期望输出与实际输出的偏差 j=1 2…m调整权值是0到1的正常数重复步骤2，并输入新的模式对，反复修正权值，知道偏差对所有的样本变得足够小为止。BP神经网络误差逆向传播学习算法采用梯度下降方法在权矢量空间中求取误差函数的极小值，能够使误差函数极小化的权值组合为学习问答的结果。（每一步要计算误差函数的梯度，保持误差函数连续可微性）BP网络中应用最普遍的一类激励函数是Sigmoid函数，表达式一般整个神经网络，它有两种状态：通过证明可以有：泛化能力：过多的层数带来过量的连接权数目，将使网络的泛化能力变差。关于隐含层单元数，有很多文献，但是很难找到其特性，所以归纳如下：反馈型Hopfield网络（有反馈通路的全互联人工神经网络）暂略。。。。。。（解决TSP问题）Kohonen自组织网络（用于语音识别）径向基函数神经网络（Radial Basis Function, RBF）学习过程包含：隐层单元学习（无监督学习，聚类算法）和输出层单元学习（有监督学习，最小二乘法）步骤如下：暂略：细胞神经网络，区组设计网络，广义同余神经网络，协同神经网络第四章：模糊（Fuzzy）逻辑基础