FusionInsight LibrA可靠性技术白皮书.pdf

FusionInsight LibrA 可靠性技术白皮书 目 录 1 简介1 1.1 FusionInsight 概述1 1.2 FusionInsight 可靠性设计原则1 2 系统可靠性3 2.1 管理节点支持双机配置3 2.2 系统的掉电可靠性保障3 2.3 备份和恢复3 3 节点可靠性5 3.1 硬件健康状态监控5 3.2 操作系统健康状态监控5 3.3 进程健康状态监控6 3.4 硬盘故障的自动检测6 3.5 节点RAID 组的配置6 4 网络可靠性7 4.1 网络隔离7 4.2 组网可靠性8 5 数据可靠性10 5.1 数据持久度10 1 简介 1.1 FusionInsight 概述 1.2 FusionInsight 可靠性设计原则 1.1 FusionInsight 概述 华为FusionInsight 是一种高可靠性、高扩展性、高效性、高容错性、易运维的大数据 管理和分析平台。作为一种新的数据平台，大数据系统存储了海量的业务数据，承载 着企业的价值业务，数据的丢失、业务的中断，都会给企业带来有形、无形的损失， 因此系统必须充分考虑业务连续性的要求，实现高可靠性。 本文将对华为FusionInsight 的可靠性技术和基本设计原则进行分析和介绍。 1.2 FusionInsight 可靠性设计原则 华为FusionInsight 在可靠性方面遵循如下设计原则：  所有对象的故障都有自动恢复措施，包括集群管理节点，计算节点，进程，服务 容器，服务实例等。  通过监控业务成功率等手段，避免单个节点/进程的亚健康、僵死导致业务全中 断。  提供服务质量保障能力，实现租户资源隔离和任务优先级调度，避免不合规的用 户业务导致系统业务全阻塞。 按照上述原则，FusionInsight 对社区版本进行了大量的可靠性增强。例如：  华为FusionInsight 产品的OMS Server、数据库等管理节点，全部采用主备或负荷 分担配置，避免单点故障。  针对系统掉电后可能发生文件损坏的问题，FusionInsight 对数据写入的全路径进行 了优化，确保系统异常掉电后，业务仍能可靠地启动。  FusionInsight 支持对节点亚健康状态的侦测，在紧急状况下，部署认证服务的关键 节点自动重启节点以恢复业务。  支持管理平面与业务平面的网络隔离，防止业务平面的高负载对集群管理通道造 成冲击。 通过这些措施，系统的数据持久度、业务可用性都得到了极大提高。 2 系统可靠性 2.1 管理节点支持双机配置 2.2 系统的掉电可靠性保障 2.3 备份和恢复 2.1 管理节点支持双机配置 华为FusionInsight 产品对所有业务组件的管理节点，都实现了双机机制，这包括OMS Server、数据库、Kerberos Server 、Ldap Server 等，它们全部采用主备或负荷分担配 置，有效避免了单点故障场景