智能计算中心训练和推理任务混合部署能力要求及测试方法标准化发展研究报告.docx

智能计算中心训练和推理任务混合部署能力要求及测试方法标准化发展报告

TechnicalRequirementsforHybridDeploymentCapabilitiesofLarge-LanguageModel(LLM)TrainingandInferenceTasksinAIComputingDataCenter:AStandardizationDevelopmentReport

摘要

随着人工智能技术的迅猛发展，以大语言模型为代表的智能计算应用对算力基础设施提出了前所未有的需求。当前，智能计算中心普遍面临训练任务与推理任务在资源调度、算力分