规模化AI计算的算力架构优化.docxVIP

规模化AI计算的算力架构优化

目录

内容概要．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

1.3研究目标与内容．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

1.4技术路线与研究方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

1.5论文结构安排．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

规模化AI计算基础理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

2.1大规模并行计算理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

2.2人工智能计算模型．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

2.3高性能计算体系结构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

规模化AI计算算力架构现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．24

3.1现有