基于LinuxPC集群搭建及其性能分析.docVIP

基于LinuxPC集群搭建及其性能分析 　　摘 要 本文介绍了PC集群的基本概念和基于Linux环境搭建PC集群的方法，通过在搭建的实验集群上运行经典的N-body并行计算程序，对实验集群的多机并行计算和单机串行计算性能进行了对比，实验结果表明PC集群并行计算相对于单机计算的性能提示非常可观。 　　【关键词】PC集群 并行计算 Linux 　　1 引言 　　随着计算机应用的不断发展，越来越多的应用需要高性能的计算机――高计算能力、高可用性等。专门制造超级计算机来满足这些特殊应用的需求，不但费用昂贵，而且在可扩展性、可用性等方面亦有很大局限性。为此，国际上兴起了研制新体系结构的高性能计算机。工作站集群（NOW）系统和结合MPP技术及SMP技术的高性能集群系统就在这样的背景下被提出来。相对于传统的超级计算机，集群在性价比、可用性、可扩展性等方面均有较大优势，已成为高性能计算的发展趋势之一。著名的“深蓝”计算机就是并行计算集群的一种具体实现。 　　2 计算机集群概念 　　计算机集群是由两个或者更多的相互独立的计算机通过网络连接在一起工作的系统，它提供相同服务或者实现相同目的，在外面看来，整个集群表现为一个单一的系统。集群系统中的单个节点都是一台可独立运行的系统，拥有独立的CPU和存储器，可以是单处理器系统，也可以是多处理器系统。 　　计算机集群的类型很多，既有高端大规模并行处理系统MPP集群，也有LAN连接成的工作站集群。按照节点硬件类型可分为PC集群（CoP）、工作站集群（COW）和SMP集群（CLUMP）。由于如今PC机的性能已相当的可观，再加上网络技术的发展，利用PC机和网络搭建低成本、高性能的的集群已能满足不少应用的需求。 　　为了验证PC集群的性能优势以及今后科研的需要，我们使用自己的个人电脑搭建了一个实验PC集群，通过在该集群上分别运行算法相同的并行计算程序和串行计算程序来分析集群性能的提升，分析结果表明相对于单机串行计算，PC集群并行计算的性能提升非常可观。 　　3 搭建集群的软硬件 　　集群一般是采用软硬件结合的方式来搭建。我们的硬件环境是局域网上的四台PC机，其中一台作主节点，其余三台作从节点。软件环境方面，鉴于Linux是目前搭建集群的一个比较好的操作系统，我们选用了流行的免费Linux――ubuntu。并行计算程序开发环境我们采用的是比较流行的MPICH软件包来构建，编译器用的是gcc. 　　我们的PC集群网络拓扑结构如图1所示。 　　图1中，PC集群的四个节点分别命名为cc、koori、ubuntu和bird，其中koori是主节点，其他三个是从节点，从节点或网络上的其他计算机可以登录主节点。 　　4 PC集群搭建过程 　　4.1 Linux安装 　　在http：///上可下载得到ubuntu，安装过程不再详述。安装完毕后，需要配置好网络参数，使四台PC在网络上互相连通。 　　4.2 单一登录的创建 　　单一登录使用户可以从集群系统的任何一个节点登录，而且在整个作业执行过程中只需登录一次，使用户不再重复输入密码即可登录到集群中的另一个节点上。这包括以下步骤： 　　（1）在所有节点上安装Openssh，安装命令如下 ： 　　sudo apt-get install openssh-server； 　　（2）在所有节点上创建用于启动并行计算的用户，要求用户名相同，用户密码也相同。我们创建了一个名为cluster的用户。 　　（3）在所有节点上以root用户修改文件/etc/hosts，在其中写入集群所有节点的名称和IP地址，如下所示： 　　7 koori 　　04 ubuntu 　　5 cc 　　9 bird 　　修改完毕后用“ssh节点名称”测试是否所有节点修改成功。 　　（4）在所有节点/etc/下创建hosts.equiv文件，如下所示： 　　koori #对koori放权 　　ubuntu 　　cc 　　bird 　　（5）配置ssh以设定的用于启动mpi计算的用户cluster登录，运行ssh-keygen，这将生成一个私有/公开密钥对，分别存放在～/.ssh/id_rsa和～/.ssh/id_rsa.pub文件内。然后进行访问授权，运行以下命令： 　　cp ～/.ssh/id_rsa.pub ～/.ssh/authorized_keys 　　chmod go-rwx ～/.ssh/authorized_keys 　　ssh-agent $SHELL 　　ssh-add 　　以上操作在每个节点重复一遍。然后用ssh从某一节点上登录其它节点，在.ssh/下生成一个known_hosts文件，里面放着访问该主机的密钥，把所有密钥收集