原创力文档- 1、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。。
- 2、本文档由用户上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形，可联系本站下载客服投诉处理。
- 3、文档侵权举报电话：400-050-0827(电话支持时间：9:00-18:30)。
查看更多
AI用电的“困”与“破”
摘要
•随着近些年AI模型竞赛日益激烈，训练最先进人工智能模型所需的数据量和计算量呈指数级增长。训练是一个耗时且耗能的过程，计算在GPU/ASIC等专用芯片上进行。当前，单个GPU的最大额定功耗
可达1000瓦。GPT-4训练时间约95天（2280小时），采用84%的负载因子计算，其训练能耗需求约为38.2GWh，折合训练期间内日均能耗约0.40吉瓦时（40万度电），如果以一个家庭单日电力消耗约为
10度，GPT-4日均能耗约等于4万个家庭单日用电量。
•不同于训练，推理任务的能耗需要考虑因素较多。比如，输入Token量及输出
您可能关注的文档
- 管理咨询和行业研究分析 + 关注
-
实名认证服务提供商
人力资源经济资格证持证人
10年管理咨询行业研究工作和8年企业管理实践，在公司战略规划、人力资源管理、企业文化建设、组织流程设计、项目可研、行业分析等方面具有扎实的理论知识和丰富的实战经验，能提供相应模块的线上线下咨询培训和方案
文档评论（0）