高效代码原理与实践.pptVIP

高效代码原理与实践 目录 高效源自设计 优化始于剖析 编译器优化的两个障碍 存储器 循环 查表 并行与SIMD 高效源自设计 高效的误区 影响效率的因素 算法的选择 相关与重复 存储器的分配与使用 数据类型的选择 运算技巧 高效的误区 高效的误区 高效的误区 高效的误区 高效的误区 高效三阶段 影响效率的因素 算法的选择 算法的选择 相关与重复 存储器的分配与使用 数据类型的选择 运算技巧 优化始于剖析 问题：某系统中各个模块对时间的占用如下图所示 如果要达到T优化前/T优化后 = 1.1， 那么需要优化几个模块， 每个模块优化多少？ 如果T优化前/T优化后为 1.5、2、3、4、5呢？ 优化始于剖析 优化始于剖析 优化始于剖析 优化始于剖析 编译器优化的两个障碍 存储器别名 函数调用 编译器优化的两个障碍 下面两个函数哪个效率高？ 两个函数是否等价？ 编译器优化的两个障碍 编译器优化的两个障碍 下面两个函数哪个效率高？ 两个函数是否等价？ 编译器优化的两个障碍 编译器优化的两个障碍 编译器优化的两个障碍 存储器 存储器的层次结构 Cache友好的代码 存储器山 局部性 存储器的层次结构 存储器的层次结构 Cache友好的代码 Cache友好的代码 Cache友好的代码 Cache友好的代码 存储器山 局部性 局部性 局部性 循环 查表 查表 并行与SIMD 软件流水 DMA SIMD 软件流水 软件流水 DMA DMA SIMD SIMD 总结 精心设计算法，消除重复运算 在编码设计阶段考虑是否使用DMA 在编码设计阶段考虑是否使用表格 设计小的、小步长的、顺序访问的缓存 养成良好的编程习惯，注意数据类型的选取，边写要顺便消除明显的重复运算，用中间变量代替公共子式 写紧密的、顺序执行的、局部性好的循环 先做剖析，确定优化的重点 使用SIMD、软件流水、DMA等方法提高并行度 The End 结论： 越靠近CPU的存储器，容量越小，速度越快。越远离CPU的存储器，容量越大，但是速度也越慢。 Cache的特性: 当不命中时，会一次性读取该数据及临近的几个数据到cahe中 for (i = 0; i N; i++) { sum += v[i]; } for (j = 0; j N; j++) { for (i = 0;i M; i++) { sum += v[i][j]; } } 这两段代码哪个效率高？ for (i = 0; i M; i++) { for (j = 0; j N; j++) { sum += v[i][j]; } } 时间局部性（Temporal locality）：如果被访问过的存储器地址在较短时间内被再次访问，则程序具有良好的时间局部性。在一定的时间内，重复访问同一个地址的次数越多，时间局部性越好。换句话说，对同一个地址的两次访问间隔时间越短，时间局部性越好。 空间局部性（Spatial locality）：如果程序访问某个存储器地址后，又在较短时间内访问临近的存储器地址，则程序具有良好的空间局部性。两次访问的地址越接近，空间局部性越好。 局部性原理如何体现在代码中？ 减少缓存大小，降低访问步长，使用顺序访问而非随机访问 循环中尽量使用较少的变量，同一个变量尽可能地多使用 局部性的一个应用：使用分块来计算矩阵乘法 详见《深入理解计算机系统》P443 循环中只保留与循环变量相关的运算 尽量不要使用break、continue、if 等跳转语句 核心循环中变量尽量少，对arm，建议不超过12个 建议使用i--,不用i++ 表格较小 运算复杂 什么时候使用表格？ 访问越频繁，该表格所对应的cache会越来越“热”，cache miss的次数越来越少，到最后相当于该表格被直接放到了cache中，此时访问速度就很快了。这也是局部性的体现。 当表格在一段时间内频繁使用时，效率会比较高。为什么？ 循环体尽量小 不使用break、if-else等跳转操作 DMA:Direct Memory Access 不占用CPU资源，直接把数据搬到想放的地方去 DMA的典型用法:把片外数据搬到片内做运算， 运算完之后再搬到片外。 在算法设计阶段就要考虑哪些运算放在片内，如何搬运。 SIMD: single instruction multiple data 例子：_dotpsu4(d, c) 两个像素a、b,用一个4字节整数表示，其中，RGBα各用一个字节表示。 那么，如果要把a、b的对应的R、G、B、α做平均，如何做效率最高？ (a b) + (((a ^ b) 0xFEFE