GPU设备模型训练实验课程.pdfVIP

GPU设备上训练模型实验课

1⽬标

GPU设备与CPU设备通用的代码实现

在

GPU服务器上训练模型

2关于GPU训练模型的要点

GPU训练模型的要点

硬件准备要求

需配备GPU设备并安装对应驱动程序

软件方面需配置GPU开发环境

例如：GPU版本的PyTorch

例如：CUDA概念

模型和数据不在同一设备上时，无法进行运算

只有张量类型的数据可以切换到不同设备

将模型转移到GPU上

__

myrnn

=myrnn.to(device)

#

添加

to(device)

将数据转移到GPU上

两个时机：

数据刚产生时就放置在device上

_

模型输入数据时

tensorx.to(device)

_