自动微分模块
自动微分(AutomaticDifferentiation,AD)是PyTorch的功能之一,它通过autograd模块实现
,无需手动计算梯度,极大简化了神经网络训练等依赖梯度优化的任务。
自动微分模块
训练神经网络时,最常用的算法就是反向。在该算法中,参数(模型权重)会根据损失函数关于对应
参数的梯度进行调整。PyTorch内置的名为torch.autograd的微分模块。它支持任自动梯度计算:
接下来我们使用这个结构进行自动微分模块的介绍。我们使用backward方法、grad属性来实
现梯度的计算和.
梯度基
原创力文档

文档评论(0)