《深度学习的计算方法》全套PPT课件.pptx

《深度学习的计算方法》;深度学习是经过传感器网络、云计算、大数据、万维网、移动技术、超级计算等信息技术多年的发展而产生的。 传感器网络为充分接触和了解这个网络世界提供了海量的数据，云计算为这些数据提供了存储空间。 利用万维网和互联网技术可以产生海量的数据并进行大数据可视化与分析。 经过长期的知识积累和演变，深度学习应运而生，成为当今这个数字时代的标志性技术。; 游乐场软件Tinker显示了深度神经网络的工作原理，相关参数和结果被显式地链接到一个网页上。;1.2 深度学习简介;1.2 深度学习简介;1.3 深度学习发展简史;1.3 深度学习发展简史;1.4 深度学习典型应用;1.5 深度学习获奖论文;1.5 深度学习获奖论文;《深度学习的计算方法》;深度学习平台有很多，例如Caffe、TensorFlow、MXNet、Torch、Theano等。 Caffe支持使用卷积神经网络、R-CNN、长短期记忆网络和全连接神经网络完成视觉目标检测、分类以及图像分割等处理任务，并且还支持基于GPU和CPU的加速。;PyTorch是一个开源机器学习库，可用于计算机视觉和自然语言处理等场合。 MXNet是一个灵活的、易伸缩的深度学习框架，包含了深度学习的最先进技术，如卷积神经网络和长短期记忆网络等，并且还可以采用命令式和符号式编程。 Theano是一个基于Python的数学表达式特别是矩阵值表达式的优化编译器，是加拿大蒙特利尔算法学习研究所开发的。;2.2 基于MATLAB的深度学习;深度学习工具箱为设计和实现深度神经网络提供了一个包含算法、预训练模型和应用程序在内的框架。 MATLAB从2017年开始就增加了包括迁移学习以及用于时间序列分析的长短期记忆网络等的工具箱。最新版本则覆盖了AlexNet、GoogleNet、VGG-16/VGG-19、ResNet101、生成对抗网络等算法和网络模型。 MATLAB还可以使用多块GPU以及并行计算、集群计算、云计算等，来加速深度学习过程。;MATLAB提供了计算机视觉工具箱，特别适合用于执行车辆自动驾驶、视觉目标检测、语义分割、数字图像处理等任务，并且还对训练数据自动打标签图像标签机。;TensorFlow(/)是谷歌开发的平台，已经应用于深度学习。 TensorFlow既可以在桌面操作系??下运行，也可以在Colaboratory（简称Colab）平台在线运行。 Colab可以提供在线GPU服务，并且完全运行在云上。通过Colab，我们可以编写和执行代码，保存和分享经验，开发网站，并且还可以通过浏览器访问强大的计算资源，而无需复杂的配置。;2.3 基于TensorFlow的深度学习;TensorFlow专门为处理大数据而开发，可以结合TensorBoard实现可视化，可以从TensorFlow中找到各种数值方法。 TensorFlow使用基本数据类型将张量表示为n维数组。这些类型揭示了不同数据集之间的相关性。 TensorFlow不仅有普通的数据类型，还包括特殊的类型，如形状、变量、常量、占位符等。秩是指一个数学实体，如标量、向量、矩阵等。;2.3 基于TensorFlow的深度学习;2.4 数据增广;《深度学习的计算方法》;3.1.1 R-CNN;3.1 CNN;3.1.1 R-CNN;Mask R-CNN在Faster R-CNN基础上添加了用于预测分割掩模的分支，该分支与已有的分类和边框回归分支并行工作。 掩模分支是一个应用于每个感兴趣区域的小型全卷积网络，以一种像素到像素的方式预测分割掩模。;YOLO是一个单阶段目标检测网络，将整张图片作为网络的输入，直接在输出层对BBox的位置和类别进行回归。将一副图像分成S×S个网格，如果某个目标的中心落入这个网格中，则这个网格负责预测这个目标。 YOLOv2相对v1版本，在继续保持处理速度的基础上，从预测更准确（Better），速度更快（Faster），识别对象更多（Stronger）这三个方面进行了改进。其中识别更多对象也就是扩展到能够检测9000种不同对象，称之为YOLO9000。;SSD，即single shot multibox detector，也是一种单阶段的目标检测算法。其中，单步（single shot）指的是目标的定位和分类任务都是在网络的一次前向传播过程中完成的，而multibox则是指采用了边界框回归技术。;DenseNets可以缓解梯度消失问题，增强特征传播，鼓励特征重用，并大幅减少了参数的数量。对于网络中的每一层，所有前一层的特征图都被用作输入，同时其自身的特征图被用作所有后续层的输入。 DenseNets还在具有相同特征图尺寸的任意两层之间引入了直接连接，因而可以自然地扩展到数百层，同时还不存在优化困难。因此