京东交易系统高可用架构实践.pdf

京东交易系统高可用架构实践 京东商城-交易平台 李尊敬 G O P S 2016全球运维大会·深圳站 高可用架构之路 u 高可用捷径——无状态化 u 自我保护 u 容器化部署 u 压力测试——提前发现瓶颈 u 快速定位故障 u 故障应对策略 u 预案与演练 G O P S 2016全球运维大会·深圳站 无状态化的架构设计 优点 ⽔平扩展 天然⾼可用 适应业务场景 底层存储满⾜⽆状态 G O P S 2016全球运维大会·深圳站 无状态化设计举例 下单服务 订单号服务 订单号服务 接单服务 接单服务 DB0 DB1 DB0 DB1 G O P S 2016全球运维大会·深圳站 自我保护 流量隔离 一机房入口流量隔离 1) 按照运营商维度隔离入口流量 移动,联通, 电信智能DNS解析到不同机房 2) 按照业务重要等级和类型隔离入口流量 交易系统和大数据系统不在一个机房 二机房间专线的流量隔离 不同业务，不同系统分配不同的网络带宽 三机房内部流量隔离 不同应用尽可能分配在不同机柜，避免相互影响 G O P S 2016全球运维大会·深圳站 自我保护 业务分流 一 PC端,移动,秒杀，微信手Q独立部署 1) 各渠道应用,数据完全独立部署 2) 不同依赖底层服务独立部署 3) 各渠道定制不同策略 二同渠道按业务重要程度分流到单独分组 1)迷你购物车等独立分组 G O P S 2016全球运维大会·深圳站 自我保护 防刷保护 一nginx层防刷 1)客户端IP+访问频率限制 2)定制化交易防刷模块 访问路径合法性，结合风控数据 3)高等级用户分流 二app层防刷 提交订单频率限制 风控拦截等 G O P S 2016全球运维大会·深圳站 自我保护 异步化 一页面异步化 购物车，结算页拆分异步化nginx节点 二写请求的异步化 购物车异步三写 结算页异步写订单中心缓存 G O P S 2016全球运维大会·深圳站 自我保护 带宽保护 一 静态资源迁移到CDN 二 双网卡bond 模式 三 大小nginx间gzip压缩 四 升级万兆网络 G O P S 2016全球运维大会·深圳站 容器化部署 从物理机到docker u 节约服务器资源 u 应用规模快速灵活伸缩 u 定制化container提高运维生产力 u 提高了服务器资源利用率 G O P S 2016全球运维大会·深圳站 压力测试 单机压测 jmeter webbench模拟请求 nginx引流 集群压测 压力测试集群压测 tcpcopy 复制流量压测 G O P S 2016全球运维大会·深圳站 压力测试 机房间压测 Haproxy复制流量压测 写流量压测 憋单压测 订单管道拦截压测订单 G O P S 2016全球运维大会·深圳站 故障的快速发现 u 性能维度 u 可用率维度 u 调用量维度 u 单量维度 G O P S 2016全球运维大会·深圳站 交易红绿灯监控 A- B A- B- G O P S 2016全球运维大会·深圳站 故障的快速发现 单量监控 北京机房