分布式集群自动化部署、扩容、升级方案.docxVIP

? ? 分布式集群自动化部署、扩容、升级 ? ? 需求背景 在建立分布式生产环境的过程中，相对于传统的生产环境，我们会面临更多的挑战： 分布式集群维护困难：搭建、集群节点间配置同步、日常维护（节点启停、服务启停、状态查看） 升级风险大：升级过程中、升级过程后、数据量大、持续时间长、影响范围大、业务影响大 故障定位复杂：大量服务状态需要检查、日志信息四散分布 故障恢复代价高：重新搭建故障节点或模块、重新恢复、同步（数据、配置） 为了应对这些挑战，我们需要使我们的分布式系统具备以下特点： 稳定：集群内不存在单点、数据保持完全同步（数据、配置、程序等） 高效：自动化部署、升级、恢复，快速故障定位（状态查看、日志定位） 安全：避免各个节点人工修改风险，验证后再发布到集群其他节点（灰度发布） 简单：不依赖于过多的外部资源，使用成熟工具避免引入外部故障 灵活：适用于多种分布式、非分布式软件，易于扩展，易于与其他产品结合 02 解决方案 2.1 框架结构-数据处理流程 应用的数据写入层 Elasticsearch Stack中提供的各种beats可以用于采集各种类型的数据，在非linux的环境下使用flume采集数据，也可以使用SDC或者自行开发的app进行数据采集。采集到的数据写入到传输层kafka集群。 特点：以最小的代价快速地将数据传递出来，通常不进行复杂的数据处理，避免对宿主机造