当大模型推理遇到算力瓶颈，如何进行工程优化？-2024年全球人工智能与大模型开发与应用.pdf

当大模型推理遇到算力瓶颈，

如何进行工程优化

AICon全球人工智能开发与应用大会主要面向各行业对人工智能和大模型感兴趣的资深工程师、产品经理、数据分析师，会议聚焦大模型训练与推理、AIagent、RAG、多模态大模型等热门方向，会议不仅安排了精彩的演讲，还策划了包括闭门会议、圆桌交流、互动展区等多种社交活动，一方面为参会人员提供宝贵的交流学习、拓展人脉的机会，另一方面也为相关企业和机构提供一个展示自身实力和成果的舞台。

零一万物资深算法专家

李谋

AlternateIntroSlide

YourTitle/ASubtitleHere

AICon全球人工智能开发与应用大会主要面向各行业对人工智能和大模型感兴趣的资深工程师、产品经理、数据分析师，会议聚焦大模型训练与推理、AIagent、RAG、多模态大模型等热门方向，会议不仅安排了精彩的演讲，还策划了包括闭门会议、圆桌交流、互动展区等多种社交活动，一方面为参会人员提供宝贵的交流学习、拓展人脉的机会，另一方面也为相关企业和机构提供一个展示自身实力和成果的舞台。

目录

1)大语言模型算力需求及当前增长趋势

2)大模型结构特征，与传统模型的差异

3)大模型推理加速挑战与难点

AICon全球人工智能开发与应用大会主要面向各行业对人工智能和大模型感兴趣的资深工程师、产品经理、数据分析师，会议聚焦大模型训练与推理、AIagent、RAG、多模态大模型等热门方向，会议不仅安排了精彩的演讲，还策划了包括闭门会议、圆桌交流、互动展区等多种社交活动，一方面为参会人员提供宝贵的交流学习、拓展人脉的机会，另一方面也为相关企业和机构提供一个展示自身实力和成果的舞台。

4)零一万物模型推理服务优化技术

5)大模型应用场景与业务落地探讨

1大语言模型算力需求

AICon全球人工智能开发与应用大会主要面向各行业对人工智能和大模型感兴趣的资深工程师、产品经理、数据分析师，会议聚焦大模型训练与推理、AIagent、RAG、多模态大模型等热门方向，会议不仅安排了精彩的演讲，还策划了包括闭门会议、圆桌交流、互动展区等多种社交活动，一方面为参会人员提供宝贵的交流学习、拓展人脉的机会，另一方面也为相关企业和机构提供一个展示自身实力和成果的舞台。

及增长趋势

大模型发展趋势

模型越来越大垂类大模型兴起

•GPT5的参数量将会达到10万亿级别AC•自动驾驶、视频、电商、量化、游戏等垂

•业界大模型将进入500亿参数的规模类客户开始进入企业模型的训练阶段

AICon全球人工智能开发与应用大会主要面向各行业对人工智能和大模型感兴趣的资深工程师、产品经理、数据分析师，会议聚焦大模型训练与推理、AIagent、RAG、多模态大模型等热门方向，会议不仅安排了精彩的演讲，还策划了包括闭门会议、圆桌交流、互动展区等多种社交活动，一方面为参会人员提供宝贵的交流学习、拓展人脉的机会，另一方面也为相关企业和机构提供一个展示自身实力和成果的舞台。

推理成本优化推动应用爆发

多模态爆发

•对数据量与算力会有更大规模需求的增长BD•未来推理服务在24个月成本继续优化500

•Meta最近的算力需求（35万片H100）反映倍+的速度