高性能计算之并行编程技术提纲.ppt

SPMD 编程模式：构成一个程序的所有进程运行的是同一份执行代码. 不同进程根据自己的序号可能执行该代码中的不同分支. MPI 编程中最常用的编程方式. 用户只需要编写、维护一份源代码. MPMD 编程模式：构成一个程序的不同进程运行不同的执行代码. 用户需要编写、维护多份源代码. 主/从编程模式：它是MPMD 编程模式的一个特例, 也是MPMD 编程模式中最常见的方式. 构成一个程序的进程之一负责所有进程间的协调及任务调度, 该进程称为主进程(Master), 其余进程称为从进程(Slave). 通常用户需要维护两份源代码. MPI编程模式 三、MPI程序分析及编程入门 MPI程序设计方法 明确并行任务 设计单个任务的串行程序 所有任务的统一表示--SPMD并行程序 SPMD 三、MPI程序分析及编程入门 线程（Thread） 进程 （Process） 远程分布式主机 （Distributed Node） 伪线程 （Pseudo－Thread） Python并发编程四种方式 四、Pyhon并发编程方式 多线程几乎是每一个程序猿在使用每一种语言时都会首先想到用于解决并发的工具（JS程序员请回避），使用多线程可以有效的利用CPU资源（Python例外）。然而多线程所带来的程序的复杂度也不可避免，尤其是对竞争资源的同步问题。然而在python中由于使用了全局解释锁（GIL）的原因，代码并不能同时在多核上并发的运行，也就是说，Python的多线程不能并发，很多人会发现使用多线程来改进自己的Python代码后，程序的运行效率却下降了。 实际上使用多线程的编程模型是很困难的，程序员很容易犯错，这并不是程序员的错误，因为我们大多数人的思维是串行（精神分裂不讨论），且冯诺依曼设计的计算机架构也是以顺序执行为基础的。 Python提供两组线程的接口，一组是thread模块，提供基础的，低等级（Low Level）接口，使用Function作为线程的运行体。还有一组是threading模块，提供更容易使用的基于对象的接口（类似于Java），可以继承Thread对象来实现线程，还提供了其它一些线程相关的对象，例如Timer，Lock。 线程（Thread） 四、Pyhon并发编程方式 由于python的全局解释锁问题，Python下比较好的并行方式是使用多进程，这样可以非常有效的使用CPU资源，并实现真正意义上的并发。当然，进程的开销比线程要大，也就是说如果你要创建数量惊人的并发进程的话，需要考虑一下你的机器是不是有一颗强大的心。 由于线程共享相同的地址空间和内存，所以线程之间的通信是非常容易的，然而进程之间的通信就要复杂一些了。常见的进程间通信有：管道，消息队列，Socket接口（TCP/IP）等等。 Python的mutliprocess模块提供了封装好的管道和队列，可以方便的在进程间传递消息。 Python进程间的同步使用锁，这一点和线程是一样的。 Python还提供了进程池Pool对象，可以方便管理和控制线程。 python的mutliprocess模块和threading具有类似的接口。 线程（Thread） 四、Pyhon并发编程方式 随着大数据时代的到临，摩尔定理在单机上似乎已经失去了效果，数据的计算和处理需要分布式的计算机网络来运行，程序并行的运行在多个主机节点上，已经是现在的软件架构所必需考虑的问题。 远程主机间的进程间通信有几种常见的方式 （1）TCP／IP：TCP／IP是所有远程通信的基础，然而API比较低级别，使用起来比较繁琐，所以一般不会考虑 （2）远程方法调用 Remote Function Call：RPC是早期的远程进程间通信的手段。Python下有一个开源的实现RPyC （3）远程对象?Remote Object：远程对象是更高级别的封装，程序可以想操作本地对象一样去操作一个远程对象在本地的代理。远程对象最广为使用的规范CORBA， （4）消息队列 Message Queue：比起RPC或者远程对象，消息是一种更为灵活的通信手段，常见的支持Python接口的消息机制有 远程分布式主机（Distributed Node） 四、Pyhon并发编程方式 还有一种并发手段并不常见，我们可以称之为伪线程，就是看上去像是线程，使用的接口类似线程接口，但是实际使用非线程的方式，对应的线程开销也不存在的。 greenlet提供轻量级的coroutines来支持进程内的并发。 伪线程（Pseudo－Thread） 四、Pyhon并发编程方式 高性能计算之并行编程技术 报 告 人： 单 位： E - Mail： 2017年6月9日 周兆永 网络与教育技术中心 yzz@nwsuaf.edu.cn 六、CPU/GPU