2024公有云和互联网创新实践报告.pdfVIP

英特尔中国

公有云和互联网创新实践

1

CONTENTLargeLanguageModel(LLM)大语言模型03

目录

TraditionalDeepLearning传统深度学习10

技术篇：英特尔AI产品组合15

基于英特尔®架构的AI软件工具组合30

英特尔AI实战视频课程36

英特尔中国AI实战资源库37

2

LargeLanguageModel(LLM)

大语言模型

3

解决方案

CPU也能玩转AI-

阿里云引入第五代至强®可扩展处理器，实现ECSg8i算力再升级，为大模型AI推理加速添

为AI提速，给安全加码新解，更易得、更易用、可扩展性强，满足从小模型到超大模型的各类需求。

•使用处理器内置的AI加速引擎--英特尔®AMX和英特尔®AVX-512，提升并行计算和浮点运算能力；

解决方案•受益于第五代至强®可扩展处理器显著提升的内存带宽和三级缓存共享容量，化解AI大模型吞吐性能挑战；

•利用第五代至强®可扩展处理器内置的英特尔®SGX和英特尔®TDX安全引擎，实现端到端的数据全流程

云服务器升级

保护。

企业云服务

85%7倍50%

123

整机性能提升高达AI推理性能提升高达中小参数模型起建成本降低

挑战