大模型计算资源运维平台技术要求 标准立项发展报告.docx

大模型计算资源运维平台技术要求标准立项发展报告

StandardizationDevelopmentReport:TechnicalRequirementsforLargeModelComputingResourceOperationandMaintenancePlatform

摘要

随着以大模型为代表的人工智能技术进入规模化落地阶段，模型训练与推理对算力的需求呈指数级增长，千卡级、万卡级智算集群相继建成投运，计算资源的异构化、规模化使运维复杂度显著提升，传统数据中心运维平台难以满足大模型场景下高可用、高效率、智能化的运维要求。在此背景下，工业和信息化部发布通信行业