并行计算多媒体并行程序的设计ch03并行程序的设计简介续.pptVIP

中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程序并行牝的一般方法 数据划分与处理器指派 带状划分方法:又叫行列划分,就是将矩阵的整行 或整列地分成若干组,各组指派给一个处理器 a}块悟状分 b)行循环替状划分 四个处理器上16×16矩阵带状划分 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 例31设矩阵A有n行和m列,对其串行处理的程序段如下 for i=l to n do for j=l to m do Process(a[i jl endfor endfor 其中, Process(a[Jj])表示对矩阵元素a[小j某种处理过程。设有p个处理器,令, (1)行划分:在采用行划分的情况下,例31串行程序段可转化为如下的并行程序段: for k=1 to p par-do for il=l to r do for j =1 to m do Process(a[(k-1)r+ilj]) endfor endfor 其中“par-do表示对循环体用p个处理器并行执行。 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 (2)列划分:在采用列划分的情况下,例3.1行程序段可转化为如下的并行程序段: for k=l to p par-do for j1=1 to s do for i=l to n do Process(ai(k-1)s+ or ndfor endfor 留并行否划分:在采用行解环划分的情况下,例31行程序段可转化为如下 for k=1 to p par-de for il=l to r de for j=1 to m do Process(a[il-1]p+k j) endfor endfor 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 (列循环划分:在采用列循环划分的情况下,例31行 程序段可转化为如下并行程序段 for k=1 to p par-do for i=1 to n do for j1=1 to s do Process(ai,(J1-1)p+k] endfor endfor endfor 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 2、块状划分方法 所谓块状划分又叫棋盘划分( Checker board Partitioning),就是将矩阵划分成若干个子矩阵,每 个子矩阵指派给一个处理器,此时任一处理器均不包含 整行或整列。 可分为图3(a)所示的块棋盘划分(Bock checker Board Partitioning)和图3.1(b)所示的循环 棋盘划分( Cyclic-checker Board Partitioning)。 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 0.0) P: (3,0)(,1)(3,2)(3.3 (3,2)(3 块棋盘划分 四个处理器上4×4矩阵棋盘划分 棋盘划分比带状划分可开发更高的并行度。 例如,对于一个的方阵,棋盘划分最多可使 用n2个处理器;而带状划分可用的处理器数 不能多于n个 国家高性能计算中心(合肥) 中国科 计箅机科学与技术系 ersity of Science and Technology of China 么TE时T口 F COMPUTE三配E三 AnD Ec补口 循环程库并行牝的一般方店 数据划分与处理器指派 3.数据划分准则: (1)并行粒度准则: 若多处理机系统有p台处理器,所有工作的处理器均经由一单 独的