训练算力资源调配核心考点汇总.docxVIP

训练算力资源调配核心考点汇总

一、算力资源基础核心考点（选择/填空高频）

1.算力与训练算力定义

算力：即计算能力，是设备、集群完成数据运算、逻辑处理、模型计算的综合能力，是人工智能训练、大数据处理的核心基础设施。

训练算力：专门用于AI模型训练、深度学习迭代、参数更新、样本拟合的专用算力，区别于推理算力，具备高并发、高浮点运算、长时间持续运行的特点。

2.核心算力硬件分类

GPU（图形处理器）：AI训练主流算力硬件，擅长并行浮点运算，适配深度学习矩阵运算、海量样本迭代，是模型训练的核心算力载体。

CPU（中央处理器）：通用计算算力，擅长逻辑调度、串行运算，多用于算力集群管控、任务调度、辅助计算，不适合大规模模型训练。

NPU/TPU（专用AI芯片）：人工智能专用算力芯片，针对模型训练算法优化，功耗更低、算力密度更高，多用于云端大规模训练集群。

异构算力：CPU+GPU+NPU协同组合算力，是当前主流训练算力部署模式，实现通用计算与专用训练计算互补。

3.算力核心性能指标（必考）

算力峰值：硬件单位时间内最大浮点运算次数，单位FLOPS，是衡量训练算力强弱的核心指标。

显存容量/内存：决定单次训练可加载的模型参数规模、批次样本量，显存不足会导致模型训练报错、梯度截断。

算力利用率：有效训练算力/总可用算力，是资源调配优化的核心考核指标。

时延与吞吐：训练时延指单次迭代运算耗