深度神经网络FPGA设计与实现 课件全套 西电 第1--9章 深度学习及AI芯片--- 神经网络压缩与加速技术.pptx

第1章 深度学习及AI芯片;1.1 深度学习研究现状;;;1.1.2 深度学习和神经网络的发展历程　　传统的神经网络起源于生物神经网络，20世纪40年代出现的神经元的MP 模型和Hebb学习规则，为以后的学习算法奠定了基础。1957年，F. Roseblatt提出了由两层神经元组成的神经网络，并将其称为“感知器”。“感知器”作为首个可以学习的人工神经网络在社会上引起了轰动，许多学者纷纷投入到神经网络的研究中。这段研究浪潮成为了神经网络研究的第一次高潮。20世70年代，Minskey指出感知器只能做简单的线性分类任务，甚至无法实现稍复杂的异或(xor)问题，神经网络的研究陷入冰河期，如图1-3所示。;;　　1) 监督学习　　监督学习是指所有数据都有明确的标签，通过建立一个学习训练过程，将模型训练结果与实际的数据标签相比较，并不断地调节预测模型，直到模型得到一个理想的结果。　　2) 半监督学习　　半监督学习是指所有训练数据中，有一部分是有标签的，一部分是没有标签的，往往没有标签的数据比有标签的数据量要大。;　　3) 无监督学习　　无监督学习是对无标签数据进行分析的一种学习方法。　　　　4) 深度强化学习　　深度强化学习是指在没有数据标签的情况下，网络通过汇报函数来判断输出结果是否接近目标。;1.1.3 典型的深度神经网络　　1) 深度置信网络