代码优化-之-优化条件分支.docxVIP

(有人可能会说，当 (有人可能会说，当 CPU 遇到条件分支时不做预测不就没有预测错误的惩罚了吗? 代码优化－之－优化条件分支 HouSisong@GM HouSisong@GM 2007.10.05 tag:代码优化,条件分支,饱和,MMX,CMOV,掩码 问题.摘要: 条件分支是编程中经常使用的基本操作,然而在某些时候它确可能带来严重的性能 问题. 当前的 当前的CPU 都能对条件分支做预测(动用了庞大的晶体管资源),如果分支预测正确,那么条 件 本文将讨论条件分支的一些有效优化方法.指令一般只需要花费一个 CPU 周期,而如果预测错误,那么将可能花费几十个 CPU 周期! 本文将讨论条件分支的一些有效优化方法. 正文： 文章假定的 CPU 为 x86,示例代码为 文章假定的 CPU 为 x86,示例代码为 C/C++. A. A.什么是分支? 分支是编程语言中的常见结构；分支可以分为条件分支和非条件分支； 分支是编程语言中的常见结构；分支可以分为条件分支和非条件分支； 条件分支举例: 循环: for 循环: for (i=0;i1000;++i) { ...; } while(!bOk) { bOk=...; } ... ... 非条件分支举例:对应汇编指令的 jnz,jg 等等 非条件分支举例: 函数调用 函数调用(call)，函数返回(return/ret)，软件中断(int 3)，直接跳转(jmp),... 为了加快 CPU 的处理频率，现代 CPU 为了加快 CPU 的处理频率，现代 CPU 都设计了多级流水线，有的甚至有20 级以上； 当 当 CPU 遇到跳转指令的时候，会做一个预测，把预测的分支代码载入流水线，当 测错误的代价周期数至少应该和流水线长度相当；然而考虑到各级的缓存失效、指令解码等等，实际损失的周期数有可能是流水线长度的几倍!发现预测错误的时候，需要清空流水线，重新载入正确的分支到流水线；那么预 测错误的代价周期数至少应该和流水线长度相当；然而考虑到各级的缓存失效、指 令解码等等，实际损失的周期数有可能是流水线长度的几倍! 对于非条件分支，一般来说 CPU 都能得到相当高的预测准确率；我们主要来讨论一下条件分支的预测； 这种流水线空着的惩罚实质和每次都预测错误然后清空流水线的代价相当，退一步 这种流水线空着的惩罚实质和每次都预测错误然后清空流水线的代价相当，退一步 说就算每次随机选择一个分支来执行也有50%的收益) C:需要优化的条件分支 当前的 CPU 对各种简单的条件分支模式都能做出很的预测，比如奇偶模式： for (int i=0;i1000;++i) { if (a%2==0) if (a%2==0) do0(); else do1(); 而对于随机的分支模式，再好的预测器也不可能做出好的预测；} 而对于随机的分支模式，再好的预测器也不可能做出好的预测； (intel 的 VTune (intel 的 VTune 工具可以采样分支预测错误率) D. D.把条件分支移动到热点外 比如前面的那个奇偶循环模式,假设 CPU 不能正确预测,那么可以尝试改写为两个 一些图像处理算法里(比如模板运算/卷积运算/形态学运算等),经常需要判断边for 一些图像处理算法里(比如模板运算/卷积运算/形态学运算等),经常需要判断边 界像素点 界像素点,进行特殊处理;可以考略的优化方案是把边界区域和内部区域分开处理; 就不用考虑越界的问题了;或者条件允许的话,可以扩大原图像的边界,形成哨兵数据,这样访问像素的时候 就不用考虑越界的问题了; E. E.合并多个条件来减少条件分支 比如: if ( (a0==0) (a1==0) (a2==0) ) ... 可以改写为: if ( (a0|a1|a2)==0 ) ...编译器将生成 3 可以改写为: if ( (a0|a1|a2)==0 ) ... 从而同时改进代码和分支预测率 从而同时改进代码和分支预测率; 比 比如:if ( (b0=64) || (b1=64)) ... //b0,b1=0 (请尝试证明其等价性)改写为 (请尝试证明其等价性) F.将出现几率高的分支优先处理,从而提高预测准确率 G. G.优化第一次执行的条件分支 当 CPU 第一次执行到一个条件分支的时候,默认的预测分支规则是不跳转的那个分支(也就是紧接着条件跳转指令之后的那些指令); ( (下面的内容主要讨论完全替换掉分支的一些方法; 移除分支意味着代码的性 能可以不受输入数据的影响 能可以不受输入数据的影响,并可能能更好的使用 SIMD 类指令) 改写为: color =-(color=0);//求负是为了生成掩码 改写为: color =-(color=0)