大模型训练中PyTorch与国产芯片的爱恨情仇.pdf

PyTorch与国产芯片的

当前，大模型技术正引领软件开发范式的革新，重塑生产关系。在此激变之中，QCon以“全面进化”作为2024年度主题，旨在携手创新技术引领者，面向5年以上工作经验的技术团队负责人、架构师、工程总监、产品负责人分享实践洞见与深度经验，并同步革新会议组织模式，以此催化企业实现从技术、产品到组织的全方位立体化的转型升级。

爱恨情仇

演讲人：ZOMI酱

当前，大模型技术正引领软件开发范式的革新，重塑生产关系。在此激变之中，QCon以“全面进化”作为2024年度主题，旨在携手创新技术引领者，面向5年以上工作经验的技术团队负责人、架构师、工程总监、产品负责人分享实践洞见与深度经验，并同步革新会议组织模式，以此催化企业实现从技术、产品到组织的全方位立体化的转型升级。

PyTorch+国产芯片

昇腾AI训练解决方案昇腾AI大模型训练解决方案

文本生成|视图生成|视图分析|广告推荐|自动驾驶|智能语音|AIAgent|科学智能

MindX昇腾应用使能MindStudio

AI训练平台

MindXSDKMindSpeed加速套件MindIE推理引擎全流程工具链

检索聚类|推荐搜索|…..分布式并行加速推理运行时|推理服务化

AI框架

PyTorch

…

当前，大模型技术正引领软件开发范式的革新，重塑生产关系。在此激变之中，QCon以“全面进化”作为2024年度主题，旨在携手创新技术引领者，面向5年以上工作经验的技术团队负责人、架构师、工程总监、产品负责人分享实践洞见与深度经验，并同步革新会议组织模式，以此催化企业实现从技术、产品到组织的全方位立体化的转型升级。

算子开发工具CCAE

MindSporePyTorch云平台（HCS/HCSO/三方平台）统一运维

工具链

管理平台

调试调优工具计算子系统