智能计算中心训练和推理任务混合部署能力要求及测试方法标准化发展研究报告.docx

智能计算中心训练和推理任务混合部署能力要求及测试方法标准化发展报告

EnglishTitle:StandardizationDevelopmentReportonTechnicalRequirementsandTestingMethodsforHybridDeploymentCapabilitiesofLLMTrainingandInferenceTasksinAIComputingDataCenters

摘要

随着大语言模型（LargeLanguageModel,LLM）技术的迅猛发展，智能计算中心作为承载模型训练与推理任务的核心基础设施，面临着资源利用率低、任务调度复杂、能耗管理困难等突出问题。训练任务与推理任务在计算特性、资源需求和运行模式上存在显著差异，如何实现两类任务在同一个智能计算中心内的高效混合部署，已成为行业亟待解决的关键技术难题。本报告基于中国通信标准化协会归口的行业标准制定计划《智能计算中心训练和推理任务混合部署能力要求及测试方法》（计划编号：2025-1987T-YD），系统阐述了该标准的制定背景、技术框架、核心内容及行业意义。该标准由中国电信集团有限公司牵头，联合中国信息通信研究院、上海燧原科技股份有限公司、中国移动通信集团有限公司、华为技术有限公司等单位共同起草，旨在规范智能计算中心混合部署的能