智能计算中心模型推理加速技术要求标准化发展研究报告.docx

智能计算中心模型推理加速技术要求标准化发展报告

StandardizationDevelopmentReportonTechnicalRequirementsforModelInferenceAccelerationinIntelligentComputingCenters

摘要

随着人工智能技术的飞速发展，特别是大语言模型（LargeLanguageModel,LLM）的广泛应用，智能计算中心作为AI算力基础设施的核心载体，其模型推理加速技术已成为制约行业发展的关键瓶颈。本报告基于工业和信息化部办公厅发布的《关于印发2026年第一批行业标准制修订计划的通知》