TCESA-人工智能 边端设备模型部署工具链功能要求.pdf

ICS35.020

CCSL70

团体标准

T/CESAXXXX—202X

人工智能边端设备模型部署工具链功能

要求

Artificialintelligence-Functionalrequirementsofedgeandterminaldevicemodel

deploymenttoolchain

征求意见稿

在提交反馈意见时，请将您知道的相关专利连同支持性文件一并附上。

已授权的专利证明材料为专利证书复印件或扉页，已公开但尚未授权的专利申请

证明材料为专利公开通知书复印件或扉页，未公开的专利申请的证明材料为专利申请

号和申请日期。

XXXX-XX-XX发布XXXX-XX-XX实施

中国电子工业标准化技术协会  发布

T/CESAXXXX—202X

目次

前言III

1范围1

2规范性引用文件1

3术语和定义1

4缩略语2

5组成框架2

5.1概述2

5.2模型压缩模块4

5.2.1概述4

5.2.2多深度学习训练框架适配层4

5.2.3压缩算法适配层4

5.2.4多模式训练接口层4

5.3模型转换模块4

5.4推理加速模块5

5.4.1概述5

5.4.2计算图优化适配层5

5.4.3算子适配层5

5.4.4算子库5

5.4.5编译器模块5

5.4.6运行时模块5

5.4.7后端加速库5

5.5辅助功能模块5

5.5.1概述5

5.5.2授权接口5

5.5.3模型版本管理6

5.5.4模型加密6

5.5.5测试集测试6

5.5.6性能评估6

5.5.7可视化界面6

6功能要求6

6.1模型压缩模块6

6.1.1压缩算法适配层6

6.1.2多模式训练接口层6

6.2模型结构转换模块7

6.3推理加速模块7

6.3.1通则7

6.3.2计算图优化适配层7

6.3.3算子适配层7

I

T/CESAXXXX—202X

6.3.4算子库7

6.3.5编译器7

6.3.6运行时7

6.4辅助功能模块8

6.4.1授权接口8

6.