TISC 0056-2024 人工智能 加速卡技术要求及测试方法.docx

ICS31.200

CCSL56

团 体 标 准

T/ISC0056—2024

人工智能 加速卡技术要求及测试方法

Artificialintelligence—Technicalrequirementsandtestingmethodsforacceleratingcard

2024-09-03发布 2024-10-03实施

中国互联网协会

发布

T/ISC0056

T/ISC0056—2024

T/ISC0056—2024

T/ISC0056—2024

I

I

II

II

目 次

前言 II

1范围 1

2规范性引用文件 1

术语和定义 1

缩略语 3

5概述 3

技术要求 4

加速卡通用技术要求 4

训练卡技术要求 4

推理卡技术要求 8

加速卡安全性要求 11

测试环境 11

测试对象 11

测试组网 11

系统配置 12

环境条件 14

测试方法 14

预置条件 14

通用技术要求测试 14

训练卡测试 17

推理卡测试 22

安全性测试 27

附录A（资料性）系统配置 29

A.1操作系统 29

A.2深度学习框架 29

A.3参考测试用例 29

训练场景 29

推理场景 30

前 言

本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。

本文件由中国互联网协会归口。

本文件起草单位：中国移动通信集团有限公司、中国互联网协会人工智能工作委员会、中国信息通信研究院、北京智源人工智能研究院、上海燧原科技股份有限公司、中科寒武纪科技股份有限公司、上海天数智芯半导体有限公司、南方电网人工智能科技有限公司、国能数智科技开发（北京）有限公司、中国石油化工集团有限公司、中移（苏州）软件技术有限公司、华为技术有限公司、海光信息技术股份有限公司、摩尔线程智能科技（北京）有限责任公司、新华三技术有限公司、曙光信息产业股份有限公司、北京智谱华章科技有限公司、广州趣丸网络科技有限公司、北京百度网讯科技有限公司、中讯邮电咨询设计院有限公司、浪潮通信技术有限公司。

本文件主要起草人：冯俊兰、邓超、邓凯、曹峰、门春雷、金镝、秦日臻、董昊、马建华、李青懋、靳震、曹汐、梅敬青、王思善、赵淑静、王辉、余雪松、胡铭珊、任正国、张晓东、赵学良、马德营、张久仙、张亚丽、杨鹏霖、肖国峰、万晓兰、贺群、冯涛、张顺四、蒋晓琳、申佳、尹梦君。

T/ISC0056

T/ISC0056—2024

T/ISC0056

T/ISC0056—2024

PAGE

PAGE11

PAGE

PAGE10

人工智能 加速卡技术要求及测试方法

范围

本文件规定了人工智能加速卡的技术要求，包括人工智能加速卡的通用技术要求、人工智能训练卡和推理卡的功能要求、性能要求、兼容性要求、可靠性要求、性能度量指标，以及人工智能加速卡的安全性要求，并给出了人工智能训练卡和推理卡的测试环境及测试方法。本文件规定的技术要求主要面向于数据中心或服务器使用的人工智能加速卡。

本文件适用于人工智能加速卡的生产方、评测方、使用方等对加速卡进行设计、测试、评估、选型和应用。

规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。

GB/T9813.3-2017计算机通用规范第3部分：服务器

GB/T17235.1-1998信息技术连续色调静态图像的数字压缩及编码第1部分：要求和指南GB/T34986-2017产品加速试验方法

GB/T37092-2018信息安全技术密码模块安全要求GB/T41867-2022信息技术人工智能术语

GB/T42018-2022信息技术人工智能平台计算资源规范GM/T0008-2012安全芯片密码检测准则

GM/T0028-2014密码模块安全技术要求

YD/T3944-2021人工智能芯片基准测试评估方法YD/T4398-2023电信行业云原生平台架构与技术要求

T/CESA1303-2023人工智能异构人工智能加速器统一接口

ISO/IEC15948:2004信息技术计算机图形和图像处理便携式网络图形：功能规范[Informationtechnology–Computergraphicsandimageprocessing–