《计算机智能导论》课件_第4章.pptx

第4章人工神经网络;

4.1绪论;

;

神经网络从层次结构上可以分为单层神经网络和多层神经网络。其中每一层包含若干神经元,各神经元之间用可变权重的有向弧连接,利用已知的信息对网络进行反复多次训

练,可以改变网络之间的连接权重,得到对应于网络输入和输出的权值。神经网络的优势在于,不需要提前知道输入和输出之间的确切对应关系,也不需大量参数,只需要知道引起输出变化的非恒定因素,通过网络的多次迭代就可以自动得出对应参数值。;

2.人工神经网络的特点

人工神经网络的如下特点:

(1)并行分布处理。

(2)非线性映射。

(3)信息分布存储及容错性。

(4)自组织学习能力。;

3.人工神经网络(ANN)与传统人工智能(AI)的比较

表4-1列举了人工神经网络(ANN)与传统人工智能(AI)的不同。;

4.1.2人工神经网络的发展

1.启蒙期

1943年,美国神经生理学家WarrenMcculloch和数学家WalterPitts合写了一篇关于神经元如何工作的开拓性文章《ALogicalCalculusoftheIdeasImmanentinNervous

Activity》。作者认为单神经元的活动可以看作是开关的通断,通过多个神经元的组合可以实现逻辑运算。他们用电路模拟了一个简单的神经网络模型,如图4-2所示。;

2.第一次高潮期

1957年,计算机专家Rosenblatt提出了感知器模型,如图4-3所示。;

1959年,美国著名工程师B.Widrow和M.Hoff等人提出了自适应线性元件ADALINE,如图4-4所示,并在他们的论文中描述了它的学习方法:WidrowHoff算法。该网络通过训练,可以用于抵消通信中的回波和噪声,也可用于天气预报,成为第一个用于实际问题的神经网络。;

3.反思期———神经网络的低潮

1969年,人工智能创始人之一MarvinMinsky和SeymourPapert合著了书籍《Perceptrons》。作者在这本书中指出简单的线性感知器的功能是有限的,它无法解决线性不可分的两类样本的分类问题,例如简单的“异或”问题。;

4.第二次高潮期

1982年,美国物理学家Hopfield提出了一种离散神经网络,即离散Hopfield网络,从而有力地推动了神经网络的研究。1984年,Hopfield又提出了一种连续神经网络,将网络中神经元的激活函数由离散型改为连续型。

离散Hopfield和Hopfield的网状结构如图4-5所示。;;

5.第三次高潮期

Hinton等人于2006年提出了深度学习的概念,并在2009年将深层神经网络介绍给研究语音识别技术的学者们。由于深层神经网络的引入,语音识别领域在2010年取得了重大突破。紧接着在2011年卷积神经网络(CNN)被用于图像识别领域,并在图像识别分类上取得了举世瞩目的成就。2015年LeCun、Bengio和Hinton联合在《Nature》上刊发了一篇题

为《DeepLearning》的文章,自此深度神经网络不仅在工业届获得了巨大成功,还真正被学术界所接受,神经网络的第三次高潮———深度学习就此展开。;

4.1.3人工神经网络的应用与实现

1.神经网络的应用

神经网络的应用主要体现在以下方面:

(1)语音识别、视觉图像处理;

(2)数据压缩、模式匹配、系统建模、模糊控制、求组合优化问题的最佳解的近似解;

(3)辅助决策、预报与智能管理;

(4)自适应均衡、回波抵消、路由选择、ATM中的呼叫接纳、识别与控制;

(5)对接、导航、制导、飞行程序优化。;

如图4-6所示是使用卷积神经网络实现图像识别。经过多次的卷积、池化操作,将特征信息学习到网络权重之中,最后输入判别图片,计算概率最大的结果为最终的识别输出。

如图4-7所示是目前广泛应用的iPhone手机Siri语音助手。语音助手首先要解决的问题就是语音识别,通过分析用户语音最后得到准确的命令。

如图4-8所示是神经网络用于医学图像分割。经过分割着色后的医学图像能清楚地显示人体部位各个结构的信息,极大地提升了医生的决策效率。;;

;;

虽然人工神经网络的应用已经取得一定的成绩,然而目前依然还是处于发展的初期阶段,仍旧存在不少问题需要反思,具体如下:

(1)应用类研究多,理论研究和实现研究较少;

(2)模型原理和学习算法突破性发现较少;

(3)已经实现的应用中多属于验证性的应用,独创性大的应用较少;

(4)多数研究只重视神经网络的并行结构以及自适应处