T_HBSEA 016-2025 AI端侧设备算力模型适配测试规范.docxVIP

湖北省软件企业协会

团体标准

T/HBSEA016—2025

AI端侧设备算力模型适配测试规范

AdaptationtestingspecificationsforcomputingpowerandmodelsofAIenddevices

2025-02-27发布2025-02-28实施

湖北省软件企业协会发布

T/HBSEA016—2025

目录

前言 1

引言 2

AI端侧设备算力模型适配测试规范 3

1范围 3

2规范性引用文件 3

3术语、定义和缩略语 3

3.1术语和定义 3

3.2缩略语 5

4测试项目概述 5

5测试通用要求 6

5.1测试框架 6

5.2测试原则 6

5.3AI端侧设备基础参数 7

5.4测试场景 7

5.5测试环境部署 9

5.6分级分模型测试说明 10

6测试步骤 10

6.1基础能力测试 10

6.2算力测试 12

附录 13

1

T/HBSEA016—2025

前言

本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

本标准由湖北省软件企业协会提出并归口。

本标准起草单位：武汉国创超算科技有限公司、华中科技大学、天翼云科技有限公司湖北分公司、上海兆芯集成电路股份有限公司、武汉金美创新科技有限公司、上海云源创信息技术有限公司、深圳市鸿普森科技股份有限公司、上海智众联电子销售有限公司、缘边智联(南京)智能科技有限公司、湖北公众信息产业有限责任公司、天翼电信终端有限公司湖北分公司、湖北省公安科学技术研究所、湖北省高级人民法院、湖北省软件企业协会。

本标准主要起草人：赵德亚、胡晓娅、李建坤、齐子时、文筠、陈晶、骆吉波、左三化、黄河、张发胜、胡可、王崇鲁、熊伟、刘晓、田野、骆斌、李琪、温晖、朱丽、赵秋迪、高鹤鸣、徐杨。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本标准于2025年2月首次发布。

2

T/HBSEA016—2025

引言

为全面客观衡量AI端侧设备算力与模型的适配性，构建一套科学的、系统的、有效的评估模型和方法，特制定本标准。

本标准为企业开展AI端侧设备算力模型适配测试提供了测试指标体系和测试方法，可用于发现企业在推进AI端侧设备算力模型适配工作中存在的优势和不足，明确进一步改进的方向，为AI端侧设备部署相关人工智能应用提供决策参考。同时，也可以用于第二方或第三方在测试、采购选型中对AI端侧设备算力模型适配性进行评估。

3

T/HBSEA016—2025

AI端侧设备算力模型适配测试规范

1范围

本文件规定了AI端侧设备的算力与其可承载的AI模型的适配性测试方法。

本文件适用于AI端侧设备算力模型适配性评估。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。

其中，标注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。

GB/T5271.1-2000信息技术词汇第1部分:基本术语

GB/T11457-2006信息技术软件工程术语

YD/T3944-2021人工智能芯片基准测试评估方法

T/CESA1121-2020人工智能芯片面向端侧的深度学习芯片测试指标与测试方法

T/CESA1169-2021信息技术人工智能服务器系统性能测试规范

3术语、定义和缩略语

3.1术语和定义

3.1.1

端侧场景sceneofterminalside

以数据获取及本地处理为主要特征的场景。

3.1.2

端侧设备deviceofterminalside

4

T/HBSEA016—2025

布置在端侧场景以数据获取及本地处理为主要功能的设备，如摄像头、移动通信终端、机器人、无人机、可穿戴设备等。

3.1.3

人工智能ArtificialIntelligence

表现出人类智能(如推理和学习)相关的各种功能的功能单元和能力。

[来源:GB/T5271.28-2001，28.01.02]

3.1.4

深度学习DeepLearning

机器学习中一种对数据进行表征学习的方法。通过组合低层特征形成更加抽