人工智能边缘设备应用 (微课视频版) 课件 模块5：智能边缘设备计算框架-理论.pptx

模块5：智能边缘设备计算框架

智能边缘计算框架的概念

常用的智能边缘计算框架

智能边缘计算框架的概念

人工智能边缘设备应用

01

1智能边缘计算框架的概念

智能边缘计算框架是部署在边缘设备等小型移动设备上的深度学习框架，能够使得一些大模型的推理任务可以在设备本地执行。

跨平台的命令行工具，能够将深度学习训练框架如PaddlePaddle、Caffe、TensorFlow、PyTorch等框架训练后的模型转换为部署所需要的模型，其主要分为3个部分的工作：

（1）转换：转换为统一的IR格式档案；

（2）优化：根据不同设备不同优化方法节省计算时间和存储器空间；

（3）转换权重与偏置：根据需求转换权