计算机行业算力知识普惠系列一：AI芯片的基础关键参数.pdfVIP

证券研究报告

行业专题研究2024年08月07日

行业报告：

计算机

算力知识普惠系列一：AI芯片的基础关键参数

作者：

分析师缪欣君SAC执业证书编号：S1110517080003

联系人刘鉴

行业评级：强于大市（维持评级）

请务必阅读正文之后的信息披露和免责申明上次评级：强于大市1

摘要

算力是衡量计算机处理信息能力的重要指标，其中AI算力专注于AI应用，常见单位为TOPS和TFLOPS，通过GPU、ASIC、

FPGA等专用芯片提供算法模型训练和推理。算力精度作为衡量算力水平的一种方式，其中FP16、FP32应用于模型训练，

FP16、INT8应用于模型推理。

AI芯片通常采用GPU和ASIC架构。GPU因其在运算和并行任务处理上的优势成为AI计算中的关键组件，它的算力和显

存、带宽决定了GPU的运算能力。GPU的核心可分为CudaCore、TensorCore等；TensorCore是增强AI计算的核心，

相较于并行计算表现卓越的CudaCore，它更专注于深度学习领域，通过优化矩阵运算来加速AI深度学习的训练和推理

任务，其中NvidiaVoltaTensorCore架构较Pascal架构（CudaCore)的AI吞吐量增加了12倍。此外，TPU作为ASIC的一

种专为机器学习设计的AI芯片，相比于CPU、GPU，其在机器学习任务中的高能效脱颖而出，其中TPUv1在神经网络

性能上最大可达同时期CPU的71倍、GPU的2.7倍。

建议关注：

1）四小龙：寒武纪、海光信息、神州数码、中科曙光

2）华为：软通动力、烽火通信、广电运通、拓维信息

风险提示：AI算力景气度下降的风险、AI芯片竞争加剧的风险、技术发展风险

请务必阅读正文之后的信息披露和免责申明2

1

算力基础

请务必阅读正文之后的信息披露和免责申明3

1、AI计算的生命周期

AI计算是一种计算机器学习算法的数学密集型流程，通过加速系统和软件，从大量数据集中提取新的见解并在此过程中学习新能力。

AI计算的三个主要过程包括：1）提取/转换/加载数据（ETL）：数据科学家需要整理和准备数据集。2）选择或设计AI模型：数据科学

家选择或设计最适合其应用的AI模型，一些公司会从一开始就设计并训练自己的模型，另一些公司可能采用预训练模型并根据需求进行

自定义。3）AI推理：企业通过模型对数据进行筛选，AI在此过程中提供可行的洞察与见解。

图：AI计算的生命周期

资料来源：英伟达官网，天风证券研究所4

1、算力及AI算力主要芯片的分类

算力通常是指计算机处理信息的能力，特别是在进行数学运算、数据处理和执行程序时的速度和效率。根据使用设备和提供算力强度的不同，算力可分为：基础算

力、智能算力、超算算力。智能算力即AI算力，是面向AI应用，提供AI算法模型训练与模型运行服务的计算机系统能力，其算力芯片通常包括GPU、ASIC、

FPGA、NPU等各类专用芯片。

1)基础算力：由基于CPU芯片的服务器所提供的算力，主要用于基础通用计算，如移动计算和物联网等。日常提到的云计算、边缘计算等均属于基础算力。

2)智能算力：基于GPU（图像处理器）、FPGA（现场可编程逻辑门阵列）、ASIC（专用集成电路）等AI芯片的加速计算平台提供的算力，主要用于AI的训

练和推理计算，比如语音、图像和视频的处