可持续发展的互联网产品架构设计案例分析.ppt

可持续发展的 互联网产品架构设计 传统产品的架构设计-1.0 建立Business Model E/R模型 O/O模型 确立业务流程 开发并严格测试（采用企业级Middleware或Framework） 5×8运营 传统产品的架构设计-1.0 互联网产品的架构设计-2.0 建立用户数据 用户模型，确定存储模型 用户行为模型，确定访问模型 搭建原型系统并简单测试 上线运营---灰度放量-?Online升级 7×24运营 互联网产品的架构设计-2.0 1.0 VS 2.0 互联网产品架构设计的3个核心 可运营 用户模型的采集 系统模型的优化 可管理 平滑扩展 Online升级 可发展 灰度放量 持续迭代 互联网产品架构设计的4个概念 持续迭代，化繁为简 海量是什么 环境需要干净 可持续发展 持续迭代，化繁为简 20/80原则 大系统，小做 海量是什么 用户模型 用户行为 用户存储 系统模型 CPU、Traffic、Disk I/O 存储量 环境需要干净 开发环境 代码控制 测试环境 麻雀虽小，五脏俱全 运营环境 发布工具 可持续发展 力所能及、量力而行 Step by Step，站住点，再发展 互联网产品架构设计的10个方法 基础篇 灰度升级 性能 过载保护 发展篇 平滑扩容 Set模型 染色机制 统一部署 提高篇 容错 分布 柔性控制 基础篇-灰度升级 灰度升级 指定UIN的升级 UIN号段的升级（Hash，连续号段） 指定版本的升级 版本回退 例子-灰度升级 基础篇-性能 性能 多进程、多线程不能完全解决系统性能的问题 什么样的系统最快，没有阻塞的系统最快（即全异步系统最快） 例子-性能 基础篇-过载保护 过载保护 系统自愈能力 防止恶意攻击 例子-过载保护 在所有Tcp connection的地方进行过载保护 建立滑动窗口来进行过载保护，滑动窗口为1000个格子，每个格子是100ms内的请求数，每次将请求加入相应的格子中，进行一次summary统计，如果summary MAX，那么CCD将拒绝请求，直到summary = MAX 因为Tcp connection对连接请求的超时控制在60s，Client端超时控制在45s，所以无论是恶意攻击还是client端访问超时，都会在100s的格子循环统计前进行清除 MAX的值根据各个Server的类型进行控制 发展篇-平滑扩容 平滑扩容 网络层的平滑扩容 Cache层的平滑扩容 存储层的平滑扩容 例子-平滑扩容 将Cache编号划分10000份，Key％10000来定位Cache，当系统扩容时，首先需要dump出原来cache中需要迁移的数据，将cache转换到文件中，然后将文件传递到新服务器上，然后将数据文件import到内存中，最后修改cache的编号 由于采用了10000份区间，所以可以是1/10000的割接逐步放大，所有扩容过程可以自动完成 此外可以做得cache的扩容与db扩容无关，所有的扩容与扩容设备的数量无比例关系，系统的模块与扩容也没有较强的耦合 发展篇-染色机制 染色机制 用户操作跟踪 问题定位 例子-染色机制 因为Transaction为系统的协议转发中心，所有的信令请求将会通过它，所有Transaction中将会记录用户的操作痕迹 Transaction通过QQ号能对用户的痕迹进行跟踪 发展篇-Set模型 Set模型 逻辑模块的Set（Proxy，Cache，DB） 功能单元的Set（产品功能） 用户数的Set（PV，在线） 例子-Set模型 发展篇-统一部署 统一发布、部署 脚步统一 Log统一 远程安装 生产环境、测试环境、运营环境一致 提高篇-容错 容错 Cache的容错（Bin log） DB的容错（replication） File的容错（Cluster） 例子-容错 1、定时Dump dirty Node（10001，20008，30008），由于一块Cache占1G内存，假设10％为胀数据，dump次文件需要5S，可以每天或几天进行一次 2、Log将记录所有的Update操作和Delete操作，这样就保证了设备在异常dump机后，能将cache进行恢复 提高篇-分布 分布 IDC分布 电信、网通、教育网分布 用户最近IDC接入 提高篇-柔性控制 柔性控制 By 用户行为的柔性控制（Read，Write） By 用户角色的柔性控制（普通用户，VIP） By 用户体验的柔性控制（基础体验，增值体验） %10000= 0 20000 clean 30000 clean %10000= 1 …… %10000= 9999 10001 dirty 20001 clean 30001 clean 10008 clean 20008 dir