李锴：通过总线技术实现数据中心级“先进封装_市场营销策划_重点报告202301105_ppt.pptx

演讲人：李锴

演讲单位：中国移动研究院;图片来源：AMD;新一代人工智能依赖数据、算法和算力，然而，当前AI硬件的算力增长远远超过内存发展速度，导致原有内存的分层架构效果无法完全满足现在业务需求；

在边缘场景下，海量、高维模型、稀疏特征数据需要强大的内存支持系统来实现更好的在线推理能力；;;面向大模型的训练、推理场景，单机8卡已经不能单纯作为单台服务器的边界，需要构建更大型的超级计算机提高计算效率和能力，通过实现计算架构的改进，以确保其满足算、存要求，使数百级别处理器进行总线级互联；

做为另外一种“先进的封装技术”，其规模已扩大至数据中心，总线连接可被视为中介层；;PCIe连接;;;;以CXL等总线级技术不仅提供了高速传输，还支持内存共享和虚拟化，使设备之间的协作更加紧密和高效。

通过带宽提升、多样性存储介质有助于满足现代数据中心对大规模处理和分析的需求，同时也能够为AI、机器学习等新兴应用提供更好的支持，从整体上降低TCO;;在用户空间，总线连接的优化包括利用用户级驱动程序，最大程度发挥总线的高带宽和低延迟特性；

在内核空间，需实现高效的内核模块，以确保CXL设备的无缝集成和高性能操作；

对于BMC，应加强安全机制，确保总线在数据传输的安全性，同时整合远程监控和故障诊断功能以提高管理效率。

BMC管理 硬件层 软件层;;