人工智能芯片 云侧推理用深度学习芯片测试指标与测试方法标准研究报告.docxVIP

SJ/T12036-2025人工智能芯片云侧推理用深度学习芯片测试指标与测试方法标准发展报告

EnglishTitle

DevelopmentReportonStandardSJ/T12036-2025:TestingIndicatorsandMethodsforCloud-SideInferenceDeepLearningChipsofArtificialIntelligence

摘要

随着人工智能技术的迅猛发展，深度学习芯片作为算力核心载体，在云侧推理场景中的部署规模与日俱增。然而，由于缺乏统一的测试指标与测试方法标准，行业长期面临评估体系碎片化、性能比对失真、结果可信度不足等突出问题，严重制约了技术迭代与产业化进程。在此背景下，由全国信息技术标准化技术委员会归口，联合国内主要芯片设计企业、科研院所及检测机构共同研制的行业标准SJ/T12036-2025《人工智能芯片云侧推理用深度学习芯片测试指标与测试方法》于2025年正式发布，并于2026年备案实施。该标准系统定义了云侧推理场景下深度学习芯片的关键测试指标，涵盖推理精度、吞吐量、延迟、能效比、带宽利用率及模型兼容性等维度，并规范了相应测试环境、测试流程与数据处理方法。本报告深入分析该标准的研制背景、技术内容、行业影响与实施路径，揭示其在填补国内云侧AI芯片测试标准空白、统一产