原创力文档- 1、本文档共7页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
第六节实践任务3FashionMNIST识别网络训练设定损失函数，使用torch.nn模块自带的CrossEntropy损失，PyTorch会自动把整数型的label转为one-hot型，用于计算交叉熵损失。这里需要确保label是从0开始的，同时模型不加softmax层(使用logits计算),这也说明了PyTorch训练中各个部分不是独立的，需要全盘考虑。
第六节实践任务3FashionMNIST识别网络训练创建交叉熵损失代码如下：criterion=nn.CrossEntropyLoss()
第六节实践任务3FashionMNIST识别网络训练设定优化器，这里我们使用Adam优化器optimizer=optim.Adam(model.parameters(),lr=0.001)
第六节实践任务3FashionMNIST识别网络训练编写用于训练的函数，代码如下deftrain(epoch):model.train()train_loss=0fordata,labelintrain_loader:data,label=data.cuda(),label.cuda()optimizer.zero_grad()output=model(data)loss=criterion(output,label)loss.backward()optimizer.step()train_loss+=loss.item()*data.size(0)
第六节实践任务3FashionMNIST识别网络训练deftrain(epoch):model.train()train_loss=0fordata,labelintrain_loader: ...train_loss=train_loss/len(train_loader.dataset)print(Epoch:{}\tTrainingLoss:{:.6f}.format(epoch,train_loss))
第六节实践任务3FashionMNIST识别网络训练训练卷积神经网络的注意点：数据增强学习率的调整批量归一化使用预训练模型梯度裁剪
第六节实践任务3FashionMNIST识别网络训练训练卷积神经网络的技巧：1.正则化2.选择合适的损失函数3.提前停止4.参数初始化5.训练监控
文档评论（0）