向量化算法总结精要.pptxVIP

向量化算法总结 最常用的向量化算法 传统的基于循环的向量化： 针对基本块的SLP向量化： 发掘迭代间的向量并行性，即将每条语句不同的迭代间的实例压缩在一起并行运行。它是用于不存在迭代内并行的普通循环。 SLP针对基本块做向量化， 给定一个循环，若在迭代内已经存在向量并行性，并且并行宽度是硬件向量宽度的整数倍（倍数〉=1），那么不需要循环展开，直接使用SLP方法对loop的循环体进行发掘。 又称pure SLP（展开因子=1） for（）{ a[i]=b[i]*c[i]; d[i]=b[i]+c[i]; } for (i = 0; i n; i++) { c[4i] = a[4i] + b[4i+1]; c[4i+1] = a[4i+2] + b[4i+3]; c[4i+2] = a[4i+3] + b[4i]; c[4i+3] = a[4i+1] + b[4i+2]; } 最常用的向量化算法 改进的SLP——循环展开后进行SLP： 特点：将迭代间的并行转化为迭代内的并行 Stmt1(i) i i+1 Stmt1(i+1) i+2 Stmt1(i+2) i+3 Stmt1(i+3) SLP 最常用的向量化算法 改进的SLP——循环展开后进行SLP： 发掘迭代间向量并行 for（i=0；iN；i+=1）{ a[i]=b[i]*c[i]; } for（i=0；iN；i+=4）{ A[i:i+3] = b[i:i+3] * c[i:i+3]; } for（i=0；iN；i+=4）{ a[i]=b[i]*c[i]; a[i+1]=b[i+1]*c[i+1]; a[i+2]=b[i+2]*c[i+2]; a[i+3]=b[i+3]*c[i+3]; } 应用1： 最常用的向量化算法 改进的SLP——循环展开后进行SLP： 发掘迭代内和迭代间的并行： for（i=0；iN/2；i+=1）{ a[2i]=b[2i]*c[2i]; a[2i+1]=b[2i+1]*c[2i+1]; } for（i=0；iN/4；i+=1）{ a[4i]=b[4i]*c[4i]; a[4i+1]=b[4i+1]*c[4i+1]; a[4i+2]=b[4i+2]*c[4i+2]; a[4i+3]=b[4i+3]*c[4i+3]; } for（i=0；iN/4；i+=1）{ A[4i:4i+3] = b[4i:4i+3] * c[4i:4i+3]; } 应用2： 适合用SLP的程序 1、已经展开过的循环 适合用SLP的程序 2、存在结构不同成员的同构操作 适合用SLP的程序 3、非单指令多数据方式 适合用SLP的程序 4、需要复杂数据重组 适合用SLP的程序 程序特征总结： 唯一特征：存在迭代内并行性！！！ GCC中的向量化算法 Gcc中向量化算法分类： 1、针对循环的向量化 pass pass_vectorize 2、针对基本块的向量化 pass pass_slp_vectorize A、loop-based vectorize（传统向量化） B、pure SLP C、hybrid SLP（混合向量化） A、SLP GCC中的向量化算法 Gcc中向量化实现顺序： 最初实现： loop-based vectorize（传统向量化） 2004 可向量化循环的描述： 1最内存循环只含有一个基本块（没有if-then-else） 2循环的迭代次数在循环执行前就可以确定。 3循环边界已知，可以被向量化因子（每条向量指令可以并行执行的数据宽度） 4循环索引变量从0到N，并且步长为1，循环条件是iN的形式。 5所有内存存取的都是一维数组。 6所有的数组存取都是连续的（跨度都是1），并且是对齐的。 7根据目标平台的向量化支持情况，支持的操作包括加减乘。 8所有的操作都必须针对相同长度的数据类型。 9不允许有规约（如sum += a[i]）和归纳(如 a[i] = i)。 10循环中不允许有常数和不变量（如 a[i] = 5） GCC中的向量化算法 Gcc中向量化实现顺序： 功能加强：加入pure-SLP和hybrid SLP 2007 针对基本块的向量化 pass pass_slp_vectorize GCC中的向量化算法调度 GCC中的几种向量化算法是怎样调度的？ 1、对循环的向量化与对基本块的向量化是独立的两个pass 2、对循环的向量化采用了混合的SLP向量化方法。 A、首先进行传统向量化分析，目的是分析迭代间的向量并行。 B、若传统向量化分析通过，进入SLP分析过程入口。 C、真正进行SLP分析的启动条件是循环中存在非连续访存： 即ar