并行计算和MPI研究.docVIP

并行计算和MPI研究 　　摘 要：并行计算作为现代科学计算的一种重要方法，常用于解决复杂和计算量大的问题。MPI程序包含了并行计算的思想，文章对并行计算与MPI进行了研究，了解了MPI程序思想，对并行计算意义较大。 　　关键词：并行计算；MPI；并行算法 　　1 并行计算简介 　　并行计算与串行计算的区别在于，串行计算只在单个CPU上进行求解，而并行计算则是同一个时间段内在多个CPU上求解；从硬件角度上来讲，串行计算就是在普通计算机上求解，并行计算则是于并行计算机上求解。需要并行计算求解的问题须能分成很多并行子问题[1]。 　　在20世纪50年代之后，日益提升的计算速度逐渐成为互联网、娱乐游戏、科学计算领域的决定因素。例如画面优美反应灵敏的电脑游戏、精确及时的引擎搜索、清晰明了的医学成像等方方面面都离不开计算性能的提升。中国的现代生活很多都在和计算产生着关联，例如在生物医药方面，医学专家可以利用计算分析的相关知识通过患者的基因找到不会对人体产生损伤的替代药物，通过提高计算性能来提高分析蛋白质结构的能力；在能源方面，快速的计算能力能在太阳能电池、风力发电机和蓄电池方面帮助开发人员进行更加准确的建模，得到更加高效清洁的能源信息。在新闻报刊上经常提到的高性能计算其实和并行计算意思相同，这样表述的原因是高性能计算和超级计算都用到并行计算。 　　并行计算的特点主要表现在：（1）并行计算由相对独立的模块独立分开管理控制；（2）在并行计算中会存在多个模块同时异步进行，该并行能有效降低运行耗费的时间；（3）所有的模块与模块之间存在一定的交互；（4）并行计算可能由于并发和交互导致错误发生[2-3]。 　　并行计算采用的并行方法主要包括：（1）资源共享，是指用软件方法实现资源在某段时间内可以同时访问；（2） 资源重复，是指通过重复设置和利用硬件和软件资源，以此来提高计算机系统的性能；（3）时间重叠，例如不同的进程在时间上相同资源的使用相互错开或者轮流重复利用某硬件资源，来提升速度。并行遗传算法是并行计算的一个分支应用，将会大大减少得到最优解所需要的时间。 　　本文既然涉及并行计算，肯定也会涉及并行体系。并行体系的主要特点为：（1）并行性，多流水、超标量是提升CPU并行性能的重中之重。在新型并行体系中，根据并行的程度分级；（2）可扩展性，是指增加资源时，性能和功能得到提升。认识可扩展性应该认识到成本伸缩的比例应该小于线性比例。 　　早期的微处理器的计算性能以平均每年50%的速度提升。后来受到摩尔定律的限制，微处理性能提升速度渐渐变慢，在进入21世纪之后，主流的微处理器制造商已决定通过并行处理来快速提升微处理器的计算性能，以求进一步提升计算能力。由此可见并行计算对现代科学计算至关重要。 　　2 系统分类 　　并行计算在专门的平台上完成，完成整个并行过程的平台一般称为并行计算机。串行计算机主要包含3个方面：处理器、内存及数据通道。并行计算机主要含有3个大类：共享存储的多处理机、分布式存储的多处理机和集群[4]。 　　自20世纪70年代起，并行的硬件平台就处于高速发展阶段，各种硬件平台相继出现，向量机、单指令多数据流系统和多指令多数据流系统等相继面世。随着时间的脚步慢慢向前迈进，向量机和单指令多数据流系统慢慢被淘汰，而多指令多数据流系统越来越受到大家的推崇。 　　3 并行算法 　　3.1 同步并行 　　主要是因?椴煌?的进程完成速度不同，在使用同步命令之后，速度快的进程需要等速度慢的进程结束之后再与速度慢的进程同时进行下一步。 　　3.2 异步并行 　　主要是由于并行计算的独立性产生的，进程之间相互独立，也没有执行同步命令，各个进程可以按照各自的节奏有序地进行。 　　3.3 数值并行 　　主要是因为现实生活中很多模型是用数学模型表示的，而这些数学模型大部分能用数值来计算。 　　3.4 非数值并行 　　主要是指除去数值计算之外的计算，例如关系计算、逻辑计算等。 　　并行算法的主要特点是：（1）并行算法与计算机的结构有很大的关系，针对同一问题，当所使用的并行计算机的结构不同时，最后所使用的算法不同；（2）并行算法比较复杂，并行算法和任务分配、数据分配、数据结构等有着较多联系，而数据的分配、任务的分配和数据的结构都比较复杂，只要有一种不同就可能会导致算法的并行效果完全不同。 　　4 MPI并行程序设计 　　消息传递接口（Multi Point Interface，MPI）是一种基于并行计算的模型。MPI标准公布之后，很多MPI实现相继出现，例如使用LAM和MPICH实现MPI变得越发流行[5]。 　　由俄亥俄州的州立大学超级计算中心开发的LAM可以免费实现MPI。LAM在异构网络集群环境下，向使用者提供MPI