边缘智能计算应用课件：ONNX模型文件转RKNN模型文件.pptx

基于Pytorch（YOLOv5）目标检测模型部署边缘智能计算应用

ONNX模型文件转RKNN模型文件边缘智能计算应用

职业能力目标01任务描述与要求02任务分析与计划03知识储备04任务实施05任务检查与评价06任务小结07任务拓展08ONNX模型文件转RKNN模型文件

了解转成rknn模型的意义了解rknn的相关知识掌握如何将onnx模型文件转成rknn模型文件掌握如何预测rknn模型文件职业能力目标01知识目标技能目标

职业能力目标01任务描述与要求02任务分析与计划03知识储备04任务实施05任务检查与评价06任务小结07任务拓展08ONNX模型文件转RKNN模型文件

此任务要求读者了解转成rknn模型的意义，搭建onnx模型文件转rknn模型文件的环境，将onnx模型文件转换rknn模型文件，预测rknn模型文件并部署到AI边缘开发板。任务描述任务要求创建模型转换所需的虚拟环境配置脚本参数进行模型转换验证RKNN模型RKNN模型部署到边缘端任务描述与要求02

职业能力目标01任务描述与要求02任务分析与计划03知识储备04任务实施05任务检查与评价06任务小结07任务拓展08ONNX模型文件转RKNN模型文件

任务分析onnx模型文件转成rknn模型文件开始之前需要做哪些准备工作？预测rknn模型文件过程中涉及到哪些参数？任务分析与计划03

任务计划表项目名称基于Pytorch（yolov5）目标检测模型部署任务名称ONNX模型文件转RKNN模型文件计划方式自主设计计划要求请用8个计划步骤来完整描述出如何完成本次任务序号任务计划1?2?3?4?5?6?78通过上面的思考，你是否对本任务要完成的工作有所了解？让我们一起来制订完成本次任务的实施计划吧！任务分析与计划03

职业能力目标01任务描述与要求02任务分析与计划03知识储备04任务实施05任务检查与评价06任务小结07任务拓展08ONNX模型文件转RKNN模型文件

转rknn模型文件的意义204知识储备ONNX简介133模型部署边缘计算4

04ONNX简介OpenNeuralNetworkExchange（ONNX，开放神经网络交换）格式，是一个用于表示深度学习模型的标准，可使模型在不同框架之间进行转移。

04ONNX简介ONNX是一种针对机器学习所设计的开放式的文件格式，用于存储训练好的模型。它使得不同的人工智能框架（如Pytorch,MXNet）可以采用相同格式存储模型数据并交互。

04ONNX简介ONNX的规范及代码主要由微软，亚马逊，Facebook和IBM等公司共同开发，以开放源代码的方式托管在Github上。

04ONNX简介目前官方支持加载ONNX模型并进行推理的深度学习框架有：Caffe2,PyTorch,MXNet，ML.NET，Tensor和MicrosoftCNTK，并且TensorFlow也非官方的支持ONNX。

04ONNX简介假设一个场景：现在某组织因为主要开发用TensorFlow为基础的框架，现在有一个深度算法，需要将其部署在移动设备上，以观测变现。传统地我们需要用caffe2重新将模型写好，然后再训练参数；试想下这将是一个多么耗时耗力的过程。

04ONNX简介此时，ONNX便应运而生，Caffe2，PyTorch，MicrosoftCognitiveToolkit，ApacheMXNet等主流框架都对ONNX有着不同程度的支持。这就便于了我们的算法及模型在不同的框架之间的迁移。

04ONNX简介开放式神经网络交换（ONNX）是迈向开放式生态系统的第一步，它使AI开发人员能够随着项目的发展选择合适的工具

04ONNX简介ONNX为AI模型提供开源格式。它定义了可扩展的计算图模型，以及内置运算符和标准数据类型的定义。

04ONNX简介ONNX解释计算图的可移植，它使用graph的序列化格式。它不一定是框架选择在内部使用和操作计算的形式。例如，如果在优化过程中操作更有效，则实现可以在存储器中以不同方式表示模型。

转rknn模型文件的意义204知识储备ONNX简介133模型部署边缘计算4

04转rknn模型文件的意义上一节，有提到，onnx模型文件格式是只是一个过渡格式，其主要目的是将其他框架的模型文件转成目标模型文件。

04转rknn模型文件的意义在这里就是要将Pytorch模型文件转换成rknn这个目标模型文件。而转成rknn模型文件的意义在于与AI边缘计算终端结合

04转rknn模型文件的意义将rknn模型文件部署到终端上，利用AI边缘终端的高速NPU处