电商海量订单处理OFC系统的关键技术环节.docxVIP

OFC订单履约中心技术实现 营销研发部—零售系统部—订单生产体系 OFC是做什么的？ 转换用户订单为各终端系统的生产单 按要求送达到相应终端系统 生产单 终端1 订单 生产单 客户 OFC 终端n 2014/6/30 2 OFC的目标与职能 制定履约计划 将交易产生的单据，加工转换成库房可生产的子单 根据排产计划和履约路径，将可生产的订单转至合适库房进行生产 在保障履约的前提下，节省运营成本 完善订单履约流程 每一个业务流程都对应有系统流程对应 任何系统流程可以主动控制 任何系统流程需要设计严谨，维护数据正确、一致、完整 2014/6/30 3 面对的挑战 处理海量、高速增长的订单数据 SOA 化体系结构下，协调众多系统运行，保持订单数据的一致性和完整性 可运营、可监控、易部署、易水平扩展 2014/6/30 4 为可运营设计 充分考虑如何设计成一个易于运营的系统 监控分析工具，及时准确发现潜在的问题 异常处理流程 日志记录，可以事后追查问题 运营工具，可以随时应对运营控制需求 支持订单手工处理 支持订单优先级 修正客户预约时间和生产计划的调整 2014/6/30 5 履约工作流—系统架构 监 控 系 统  接单系统 分布式任务处理引擎 任务队列引擎 业务处理系统 任务接收服务 流 配 业务数据封装 运 程 置 营 配 优先级管理 管 系 置 管 理 业务执行 统 任务调度执行 理 生产数据中心系统 Redis集群 MySQL集群 JFS（分布式文件系统） 2014/6/30 6 海量订单处理—总原则 关注系统吞吐量 订单履约系统需要把握的最关键指标---吞吐量 定义好各系统SLA指标 涉及的系统众多 各系统业务处理方式和流程不同，导致各系统性能指标差异较 大 服务划分等级，分级治理 划分优先级，确保主流程通畅 采用灵活多样的降级方案，保证主业务正常运营 2014/6/30 7 海量订单处理—系统保护 削峰和流量控制 不是所有系统都要承担高峰值处理能力，需要有削峰和流量控制功能 保护上、下游系统 借鉴PID模型 统一的产能监控、防止过载，在过载前进行控制 过载保护 保护自身系统 快速拒绝机制 2014/6/30 8 海量订单处理-分布式系统 分布式处理系统 系统每个切片可以水平扩展 以集群为单位进行扩展 实现分布式任务队列，代替timer 2014/6/30 9 海量订单处理-系统水平和垂直扩容能力 每个GROUP能处理的订单量在可控范围之内，一旦某一块出现瓶颈的时候，可以随时部署一个或一套GROUP 2014/6/30 10 海量订单处理-分布式任务处理 配置管理页面 消息平台 其它应用 http saf saf saf/ws 服务层 业务处理 分布式任务处理引擎 业务处理服务 内存任务管理 任务 任务接 配置 业务 收服务 任务 业务 管理 任务 任务 数据 任务 优先 执行 节点 节点 封装 同步 级管 调度 执行 理 分布式任务队列 数据访问层 Jdbc 生产数据中心系统 Redis集群 MySQL集群 JFS（分布式文件系统） 2014/6/30 11 海量订单处理-分布式任务队列 2014/6/30 12 海量订单处理-分布式任务队列 采用工作流机制，支持灵活的流程配置 基于Zookeeper 的分布式配置 动态添加业务处理环节 流量缓冲和流量自动调节控制功能 能有效自动调节系统吞吐量 能自动检查检查下游系统的处理能力，保障下游系统稳定 支持订单优先级 通过配置，灵活支持高级别的订单优先生产 2014/6/30 13 订单处理流程控制 采用流程控制中心进行集中控制，而不是阶梯式控制 便于运营，方便及时发现和解决问题单据 减少业务数据不一致性的几率 借助工作流和状态机实现中心控制 2014/6/30 14 海量数据存储 多种存储形式，保证数据容量大，以及高性能 分布式云储存方案 Hbase存储方案 MySql集群存储方案 使用Redis和SSDB缓存技术 2014/6/30 15 数据一致性、完整性 OFC采用中心端推送数据的方式，保证分布式数据的一致性和完整性 区分数据一致性的要求（强、弱、最终） 划分数据等级 优先保证生产数据的强一致性 数据一致性手段 服务提供方保证防重、幂等性 使用状态机，可配置的重试机制 人工介入处理机制 采用异步处理，推送最终数据 2014/6/30 16 灰度部署 部署方案 支持按Group集群部署 支持分层部署：接单、分布式队列引擎、业务处理系统┈┈ ─ 预发布环境 Order ─ 新旧系统灰度部署 Legacy Data Legacy Server ─ 多机房容灾 Server 1 2 Dispatch Strategy New Server New Data 3 ? 分流策略