深度学习-资料料整理理与分析G11.pdf

深度学习-资料整理与分析 G11 • 深度学习是属于机器学习的⼦类 • ⼈⼯智能 指由⼈制造出来的机器所表现出来的智能。通常⼈⼯智能是指通过普通 计算机程序的⼿段实现的⼈类智能技术。⼈⼯智能的研究可以分为⼏个 技术问题。其分⽀领域主要集中在解决具体问题，其中之⼀是，如何使 ⽤各种不同的⼯具完成特定的应⽤程序。AI 的核⼼问题包括建构能够跟 ⼈类似甚⾄超越的推理、知识、规划、学习、交流、感知、移动和操作 物体的能⼒等。 • 机器学习 机器学习是⼈⼯智能的⼀个分⽀。⼈⼯智能的研究历史有着⼀条从以 “推理”为点，到以“知识”为点，再到以“学习”为点的⾃然、清晰 的脉络。显然，机器学习是实现⼈⼯智能的⼀个途径，即以机器学习为 ⼿段解决⼈⼯智能中的问题。 • 深度学习 深度学习常常被看作是通向真正⼈⼯智能的要⼀步，传统的机器学习 技术在处理未加⼯过的数据时，体现出来的能⼒是有限的，深度学习则 可以进⾏⽆监督学习。深度学习就是⼀种特征学习⽅法，把原始数据通 过⼀些简单的但是⾮线性的模型转变成为更⾼层次的，更加抽象的表 达。通过⾜够多的转换的组合，⾮常复杂的函数也可以被学习。深度学 习正在取得⼤进展，解决了⼈⼯智能界的尽最⼤努⼒很多年仍没有进 展的问题。除了在图像识别、语⾳识别等领域打破了纪录，它还在另外 的领域击败了其他机器学习技术，包括预测潜在的药物分⼦的活性、分 析粒⼦加速器数据、建⼤脑回路、预测在⾮编码 DNA 突变对基因表 达和疾病的影响。 • ⼦分类以及优势 例如药物发现和基因组学等，利⽤ BP 算法来完成这个发现过 程的。BP 算法能够指导机器如何从前⼀层获取误差⽽改变本层 的内部参数，这些内部参数可以⽤于计算表示。深度卷积⽹络 在处理图像、视频、语⾳和⾳频⽅⾯带来了突破，⽽递归⽹络 在处理序列数据，⽐如⽂本和语⾳⽅⾯表现出了闪亮的⼀⾯。 • BP 算法 反向传播（英语 ：Backpropagation，缩写为 BP）是 “误差反向传播”的简称，是⼀种与最优化⽅法（如梯度 下降法）结合使⽤的，⽤来训练⼈⼯神经⽹络的常⻅⽅ 法。该⽅法对⽹络中所有权计算损失函数的梯度。这 个梯度会反馈给最优化⽅法，⽤来更新权值以最⼩化损 失函数。 • 深度卷积⽹络 卷积神经⽹络 （Convolutional Neural Network, CNN）是⼀种前馈神经⽹络，它的⼈⼯神经 元可以响应⼀部分覆盖范围内的周围单元，对于⼤型图 像处理有出⾊表现。这⼀模型也可以使⽤反向传播算法 进⾏训练。相⽐较其他深度、前馈神经⽹络，卷积神经 ⽹络需要考量的参数更少，使之成为⼀种颇具吸引⼒的 深度学习结构。 • 递归神经⽹络 递归神经⽹络（RNN）是神经⽹络的⼀种。单纯的 RNN 因为⽆法处理随着递归，权指数级爆炸