人工智能 边端设备模型部署工具链功能要求.pdfVIP

人工智能边端设备模型部署工具链功能要求

1范围

本文件确定了边端设备模型部署工具链的组成框架，规定了其功能要求。

本文件适用于深度学习模型在边端设备上运行能力的设计、研发、推广和应用。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。

GB/T41867-2022信息技术人工智能术语

3术语和定义

GB/T41867-2022界定的以及下列术语和定义适用于本文件。

3.1

边端设备Edge-terminaldevice

部署在网络边侧的硬件设备（即边侧设备）和直接面向应用场景或用户的末端硬件设备（即终端侧

设备）的总称。

示例：常见边侧设备包含边缘服务器、边缘网关、智能工业网关、边缘计算盒子等。

示例：常见终端侧设备包含可穿戴设备、智能相机、机器人、IoT设备。

3.2

模型部署modeldeployment

将神经网络模型以硬件语言编译并运行到硬件设备的过程。

注：模型部署包括模型压缩、模型转换、计算图优化、编译优化。

3.3

工具链tool