15_AI 与前沿科技科普系列_AI芯片与算力_大模型时代的硬件基石_必读.pptxVIP

AI与前沿科技科普系列·15AI芯片与算力大模型时代的硬件基石从GPU到TPU，从数据中心到存算一体解读驱动人工智能革命的硬件力量

目录AI与前沿科技科普系列·15201算力为什么是AI的石油训练GPT级模型的算力消耗量级02芯片基础轻科普CPU/GPU/TPU/NPU区别与深度学习适配03全球芯片格局英伟达、AMD、谷歌、华为、寒武纪04数据中心与算力基建超大规模集群、液冷、能耗挑战05算力市场与政策智能算力规模、国产替代进展06未来方向存算一体、光计算、量子加速展望

01算力为什么是AI的石油训练大模型的算力消耗量级与ScalingLawAI与前沿科技科普系列·153

GPT-4训练：超过1亿美元AI与前沿科技科普系列·154$100M+GPT-4训练成本50GWh训练耗电量~25,000A100GPU·数月关键事实：GPT-4训练花费超过1亿美元，消耗约50GWh电力，相当于旧金山市3天的用电量。使用约25,000张A100GPU训练数月。相比之下，DeepSeek-V3仅花费560万美元，体现了算法效率提升的巨大潜力。数据来源：MITTechnologyReview,SemiAnalysis,腾讯云开发者社区

ScalingLaw：算力与模型规模的关系