数据中心IDC（通算智算超算）关键指标系列22：智算中心专项指标.xlsxVIP

智算中心专项指标（AIDCSpecific）

中文名称 英文名称 计算公式 应用场景 备注

AI算力密度 AIComputingDensity PFLOPSFP16/m² 智算中心空间效率 通常100-500PF/m²

大模型训练效率 LLMTrainingEfficiency tokens/s/GPU 大模型训练性能 关键优化指标

推理吞吐量 InferenceThroughput queries/s/GPU 在线服务性能 延迟敏感

推理延迟 InferenceLatency ms/query 实时AI服务 通常100ms

模型并行效率 ModelParallelEfficiency 大模型切分后的效率 超大模型训练 通常70-85%

数据并行效率 DataParallelEfficiency 数据切分后的效率 大规模训练 通常80-90%

流水线并行效率 PipelineParallelEfficiency 流水线stages效率 大模型训练 通常75-85%

显存带宽利用率 MemoryBandwidthUtilization 实际带宽/理论带宽 内存墙优化 HBM关键

计算通信比 ComputetoCommunicationRatio 计算时间/通信时间 集群扩展性 越高越好

检查点频率 Ch