阿里双11系统管控调度架构与实践.pptx

阿里管控体系在双十一的实践议程简介 阿里线上管控体系，应对挑战 关于我们阿里管控体系在双十一的实践阿里中间件技术部打造世界第一流的中间件? 此处添加一个双十一的集体照开关预案阿里线上管控体系降级流量调度限流议程简介 阿里线上管控体系，应对挑战 关于我们阿里管控体系的最佳实践阿里线上管控体系限流场景一:零点零分小唐下单了用户洪峰在双十一140000 笔/秒 创建订单当天峰值天猫移动端销售金额 突破1亿 75 秒销售金额破百亿 38分钟洪峰对系统意味着什么短时大流量的请求单台服务器超负荷负载服务器集群雪崩交易链路崩溃限流的考虑因素①③②爆发间隔 时间允许访问 的速率爆发量令牌桶限流 按照每1/r秒的速度向桶中存放1令牌 继续发送来到的请求拦截器存储量为b的令牌桶丢弃双十一零点:小唐下单Token rate： r承诺突发量:如何把Token Rate转换成通过率？桶的大小是300个令牌系统的通过率为1000qps，把一秒切成10 个格子, 每个格子的时间窗口为100ms，每个格子发放 1000/10 个令牌洪峰场景:? 双十一0点之前，桶里放满了令牌? 在双十一0点到0点10分，每秒的请求超过了10000双十一系统表现场景二：双十一零点零五分:小唐的订单状态变为已经发货系统间的回调洪峰有时间间隔调用量大允许有延迟前5分钟包裹处理量是484万前38分钟包裹处理量是3754万数据特性漏桶算法 到达速率漏桶……输出速率丢弃/排队小唐的订单什么时候回调完成？限流框架的要素监控模块 实时监控 收集数据 反馈分析 规则变更 动态调整 令牌桶容量令牌产生速率限流处理 丢弃请求 等待队列限流决策 区分场景 用户洪峰 回调洪峰 系统保护场景延伸更多的场景策略的平衡限流处理的思考阿里线上管控体系限流降级流量调度系统的可用性系统的可用性广告业务会员系统库存查询物流系统商品浏览用户推荐保险系统优惠折扣系统的可用性N越大，小唐失败的概率就越高提高可用性的方式降级弱依赖应用剔除应用局部问题机器上游系统如何发现弱依赖应用不可用能够在避免调用这个逻辑异常数增多 RT变长Threads = QPS * RT线程数随着rt的增长而增长4312弱依赖应用不可用梳理强弱依赖 梳理强弱依赖梳理强弱依赖 自动降级自动降级框架提高可用性的方式降级弱依赖应用剔除应用局部问题机器应用局部不可用分布式环境同一个应用不同机器由于硬件、网络、超卖、程序自身等众多因素出现服务状态的差异通过流量调度策略，使分布式服务具备自愈能力和自我隔离能力全局探测与流量调度………………tomcattomcattomcathsfhsfhsf信息注入spi 应用信息注入spi 应用信息注入spi 应用cpuloadcpuloadcpuloadThread Count level 业务 stateThread Count level 业务 stateThread Count level 业务 state rtExcepti on ratio rtExcepti on ratio rtExcepti on ratioRestful ApiRestful ApiRestful Api采集节点采集节点采集节点采集节点采集节点采集节点流量调度平台状态收 集模块实时单机 视图多维聚合 视图近期归档 报表快速实时34小唐能够顺利下单 12 回调洪峰漏桶限速用户洪峰 限流排队43应用局部不可用 全局探测以及 流量调度 弱依赖应用 不可用自动降级开关预案阿里线上管控体系限流降级流量调度大促当天快速准确执行透明的通知流标准化变更 标准化变更开关中心控制台定义开关 开关管理分机房执行使用简单开关报表开关分组 标 准开关监控定时开关 规 范操作权限通知机制 维护 便捷 高效变更开关校验开关稳定性开关客户端获取开关信 息更新开关开关定义使用开关控制台交 互权限与日 志内存态与持久 化容灾机 制安全机 制38透明的通知流隔离流程 权限控制 透明通知 角色视图 多维报表议程简介 阿里线上管控体系，应对挑战 总结， 回说一下，关于我们阿里管控体系的最佳实践高可用架构团队阿里双十一核心保障团队想知道更多？ /EDAS一键建站异地多活弹性容量企业级信息系统演进的历程 云上重构? 企业级互联网架构PaaS平台? IaaS(公有，专有，混合)3 系统上云 ? 传统的垂直的IT架构 ? 自建数据中心? 高并发性能存在瓶颈? 没有线性扩展能力? 数据孤岛? 各垂直系统相同模块重复开发 无法持续沉淀积累和共享? 新功能版本开发，更新困难? 成本高? 传统的垂直的IT架构? IaaS（公有，专有，混合） ? 高并发性能仍然存在瓶颈 ? 扩展能力对大系统不很灵活 ? 数据孤岛依然存在 ? 各垂直系统相同模块依然重复 开发，无法共享沉淀 ? 新功能版本开发，更