ARM上的OpenBLAS性能 优化.pdf

ARM上的OpenBLAS性能 优化 什么是BLAS ？ l Basic Linear Algebra Subprograms l 基本线性代数子程序 - BLAS3级 ：矩阵-矩阵 - BLAS2级 ：矩阵-向量 - BLAS1级 ：向量-向量 BLAS与深度学习 l Alexnet OpenBLAS l 2011年 ，forked from Gotoblas2 l 全球最好的开源矩阵计算库 l 2016 中国计算机学会科技进步二等奖 l 进入主流Linux发行版 l 进入OpenHPC套件 OpenBLAS l 支持主流CPU处理器 l 支持常见操作系统 - Intel ，AMD - Linux - ARM ，AArch64 - Windows - MIPS ，龙芯 - Mac OSX - IBM Power - FreeBSD - Android OpenBLAS用户 OpenBLAS性能 l Intel Sandy Bridge OpenBLAS性能 l 龙芯3A GEMM算法 GEMM算法 GEMM算法 GEMM算法 GEMM算法 GEMM算法 GEMM算法 GEMM算法 GEMM算法 l 核心汇编代码 - 寄存器分块 - 指令流水线 - SIMD ，循环展开 ，预取 BLAS性能优化流派 l 自动调优 Auto- l 手工核心汇编 tuning - GotoBLAS/Ope - ATLAS nBLAS - 快速开发和移植 - 性能好 - 性能一般 - 新架构 ？ Auto-tuning生存高效代码 ？？ AUGEM l Automatically Generate Efficient Matrix kernel l 目标 ：自动生成BLAS中高效汇编 l 支持x86 ISA - SSE ，AVX ，AVX 2.0 l 支持ARMv7 ISA - Neon AUGEM l 输入 - 类似C代码片段 l 输出 - 高性能汇编 l 基于模版Template - 隐含手工优化知识 C级别Kernel优化 Input simple C code of gemm kernel Output Optimized C code of gemm kernel Template识别 Output Optimized C code of gemm kernel