大型分布式系统质量保证体系.pdfVIP

大型分布式系统质量保证体系 目录 大型分布式系统质量保证体系 1 一、背景描述 2 二、分布式系统模型简述 2 分布式系统通用模型及假设 2 常见分布式系统架构 3 三、分布式系统测试的挑战 5 分布式协议层测试 5 分布式系统异常测试 6 大数据、大集群 6 分布式系统测试扩充 6 四、分布式系统测试方法、技术实现及原理 6 测试体系综述 7 分布式协议层测试 7 异步测试框架及应用 9 分布式系统异常模拟 10 分布式系统沙盒建设 12 五、分布式系统的随机测试 13 测试环境的准备 13 测试数据的生成 13 随机测试的执行 14 测试结果的验收 14 基于模型的随机测试 14 六、项目应用案例 16 七、主要成员介绍 18 一、背景描述 在计算和存储单位成本不断降低的趋势下，各行业得以处理更复杂的业务需求，同 时也对基础架构提出相应新需求，例如：数据仓库、数据挖掘、海量存储、分布式计算 等。这些系统对处理能力的要求远大于普通单机服务器可提供的范畴。 通用的扩展思路一般是纵向扩容（Scale Up ）和横向扩容（Scale Out ）。纵向扩容能 解决一定范围内的扩展性需求，但随着扩容深入，单位成本也会相应上升。横向扩容一 般采用分布式架构，通过分布式协议整合低价服务器，作为整体对外提供服务，增加机 器从而提高集群服务能力。目前开源社区的 hadoop 及周边就是这样的一个系统。 在一些特定的背景下，开源项目不能很好地满足企业的需求。此时面临两种选择： 在开源基础上修改，并承担最终与社区主干合并的风险；或自行研发分布式体系。对于 复杂分布式系统，如何从测试角度尽可能保证质量，是一个充满挑战的领域。 二、分布式系统模型简述 分布式系统的理论体系非常庞大，本章节仅讨论典型场景，并对分布式模型作一定 限制和假设。 分布式系统通用模型及假设 图 2-1：分布式系统模型 名词解释 节点 一个可以独立按照分布式协议完成一组逻辑的程序个体，工程实现中往往是一 个操作系统上的进程。本章节假设节点是完整不可分割的整体，且始终按给定 协议工作。 状态节点 读写持久存储获取状态的节点称为带状态节点，此类节点在打断后（例如 程序升级）能延续上次工作状态；反之为无状态节点。 通讯 节点完全独立且隔离，节点唯一传递信息途径是通过不稳定网络通信。通 信可能是双向或单向的，不保证任意节点间一定可通讯。本章节主要讨论 企业内受保护的机器集群上的分布式系统，假设通信基本可靠，不考虑拜 占庭将军问题（恶意篡改）等攻击异常的处理。 网络分割 一个集合的节点无法与其补集内任意节点通讯，成为孤岛，被称为网络分 割现象；一般在跨机房的分布式集群中需考虑此类情况，而同一机房的强 一致性分布式协议假设不存在长时间网络分割。 本章节讨论的分布式系统及测试方法主要针对于企业内服务类集群，搭建于同一机 房，作为整体对企业内其它模块提供统一服务，是分布式系统这一领域的子集和典型代 表。模型符合以下假设： 1. 不存在长时间网络分割 无法访问的节点视为宕机，且不考虑分割恢复后重新加入集群的一致性问题 2. 不存在拜占庭将军问题 针对内部用户，没有恶意的信道劫持和篡改，不特意针对此类攻击防范 常见分布式系统架构 分布式系统中大多都存在相似的挑战，也相应地有一些通用的解决方案。这里列举 一些典型案例，旨在帮助剖析系统，从而更好地识别风险和测试要点。 数据分布及负载均衡 哈希集群是最常见的数据分布方式，其方法是按照数据的某一特征计算哈希值，并将哈 希值与集群中的机器建立映射关系，从而将数据分布到不同