并行计算优化-高性能计算平台.pptVIP

SPMD 编程模式：构成一个程序的所有进程运行的是同一份执行代码. 不同进程根据自己的序号可能执行该代码中的不同分支. MPI 编程中最常用的编程方式. 用户只需要编写、维护一份源代码. MPMD 编程模式：构成一个程序的不同进程运行不同的执行代码. 用户需要编写、维护多份源代码. 主/从编程模式：它是MPMD 编程模式的一个特例, 也是MPMD 编程模式中最常见的方式. 构成一个程序的进程之一负责所有进程间的协调及任务调度, 该进程称为主进程(Master), 其余进程称为从进程(Slave). 通常用户需要维护两份源代码. MPI编程模式 三、MPI程序分析及编程入门 MPI程序设计方法 明确并行任务 设计单个任务的串行程序 所有任务的统一表示--SPMD并行程序 SPMD 三、MPI程序分析及编程入门 线程（Thread） 进程 （Process） 远程分布式主机 （Distributed Node） 伪线程 （Pseudo－Thread） Python并发编程四种方式 四、Pyhon并发编程方式 多线程几乎是每一个程序猿在使用每一种语言时都会首先想到用于解决并发的工具（JS程序员请回避），使用多线程可以有效的利用CPU资源（Python例外）。然而多线程所带来的程序的复杂度也不可避免，尤其是对竞争资源的同步问题。然而在python中由于使用了全局解释锁（GIL）的原因，代