智能计算中心模型推理加速技术要求标准化发展研究报告.docx

智能计算中心模型推理加速技术要求标准化发展报告

TechnicalRequirementsforLargeLanguageModelInferenceAccelerationofAIDC:StandardizationDevelopmentReport

摘要

随着人工智能技术的快速发展，特别是大语言模型（LargeLanguageModel，LLM）的广泛应用，智能计算中心（ArtificialIntelligenceDataCenter，AIDC）作为支撑AI算力的核心基础设施，其模型推理加速能力已成为制约AI应用落地的关键瓶颈。本报告围绕《智能计算中心模