面向张量核心的Triton矩阵乘法优化技术研究.pdf

面向张量核心的Triton矩阵乘法优化技术研究.pdf

摘要

摘要

矩阵乘法在计算机科学领域有着重要且广泛的应用,是高性能计算系统和深

度学习模型应用的核心。Triton编译器提供了一套矩阵乘法优化系统,其中分块

配置、通用优化和访存配置是影响优化效果的关键因素。矩阵乘法操作数形状种

类繁多,异形矩阵乘法操作数形状存在某维度较小的情况,优化过程中会产生分

块配置部分维度较小、不同类型指令并行程度较低、线程资源分配不均衡、访存

效率较低等问题,从而影响整体计算性能。因此,本文基于Trit

文档评论(0)

1亿VIP精品文档

相关文档