系统结构1-并行概念.pptVIP

page 计算机系统结构讲座并行计算基本概念 什么是并行计算机 ? A parallel computer is a collection of processing elements that cooperate to solve large problems fast David E. Culler U.C. Berkeley 四个要素 有许多处理单元 → 计算结点，存储空间，I/O … 形成一个整体 → 互连网络，通信机制 … 解决一个大的问题 → 并行算法，并行编程，作业调度… 解决得快 → 算法优化，编译优化，负载均衡… 开发并行程序4步曲 Decomposition of computation in tasks Assignment of tasks to processes Orchestration of data access, comm, synch. Mapping processes to processors 并行机的分类 从指令系统和处理器结构来分 标量计算机（Scalar Computer） 向量计算机（Vector Computer） 从程序设计的角度来分 单指令流多数据流计算机（SIMD） 多指令流多数据流计算机（MIMD） 从体系结构的角度来分 共享存储多处理机（SMP） 分布存