第三章并行算法2016.pptx

并行算法概述;著名计算机科学家沃思(Nikiklaus Wirth)： 算法 + 数据结构 = 程序 (1)数据结构(data structure) 对数据的描述。在程序中要指定用到哪些数据以及这些数据的类型和数据的组织形式 (2)算法(algorithm) 对操作的描述。即要求计算机进行操作的步骤;Content;Von Neumann Model;指令处理（Instruction Processing）;并行计算模型Parallel Computing Model;并行程序设计模型Parallel Programming Model;Aspects of Parallel Processing;Parallel Computing Models –并行随机存取机（Parallel Randon Access Machine）;PRAM示意图;并行随机存取机Parallel Randon Access Machine;Problems with PRAM;并行随机存取机Parallel Randon Access Machine;并行随机存取机Parallel Randon Access Machine;例子: 在PRAM模型上求和;例子: 在PRAM模型上求和;例子: 在PRAM模型上求和;其它分布式模型;Network Models;LogP;模型参数Model Parameters;LogP Model;Bulk Synchronous Parallel;BSP Computer;Illustration of BSP;BSP程序;BSP程序;Example: Pregel;Bulk Synchronous Parallel Model;图;Entities and Supersteps ;算法终止Algorithm Termination;The Pregel API in C++;Pregel Code for Finding the Max Value;Finding the Max Value in a Graph;模型总结;计算并行（Computational Parallelism）;延迟Latency;带宽;同步Synchronization;统一模型?;Content;分解、任务及依赖图;Example: Multiplying a Dense Matrix with a Vector;Example: Database Query Processing ;Example: Database Query Processing;Example: Database Query Processing ;任务粒度;并行度Degree of Concurrency ;任务交互图Task Interaction Graphs ;Task Interaction Graphs: An Example ;进程和映射（Processes and Mapping） ;Processes and Mapping: Example ;分解技术Decomposition Techniques ;递归分解（Recursive Decomposition） ;Recursive Decomposition: Example ;Recursive Decomposition: Example ;Recursive Decomposition: Example;Recursive Decomposition: Example;数据分解（Data Decomposition ）;输出分解例子;输出分解例子;Input Data Partitioning ;Input Data Partitioning: Example ;划分输入和输出数据;中间数据划分（Intermediate Data Partitioning ）;Intermediate Data Partitioning: Example ;Intermediate Data Partitioning: Example ;Intermediate Data Partitioning: Example ;探索分解（Exploratory Decomposition） ;Exploratory Decomposition: Example ;Exploratory Decomposition: Example ;Speculative Decomposition ;Speculative Decomposition: Example ;混合分解（Hybrid Decompositions） ;任务特性 ;Task Generation ;Task Sizes ;