唯品会.：峰值系统应对实践.docxVIP

唯品会11.11：峰值系统应对实践 2021-03-16 区分于其他网购品牌唯品会定位是“一家特地做特卖的网站”， 商业模式为“名牌折扣+限时抢购+正品保险”，即“闪购”（flash sales）模式。每天上新品，以低至1折的深度折扣及布满乐趣的限时抢购模式，为消费者供应一站式优质购物体验， 这种闪购限时特卖业务特点打算了网站随时都需要处理高并发、大流量的用户恳求。大量买家在每次新的品牌档期上线后，大量涌入，抢购商品，形成网站担当大量流量。尤其遇到抢手商品，网站并发访问剧增，会形成整个网站负载过重，响应延迟，严峻时甚至会消灭服务宕机的情况。 另外唯品会有众多的业务销售模式，如自营销售模式、JIT、直发、海淘、O2O等等，这些业务销售模式导致系统格外简单。系统外部需要通过开放平台对接供应商系统和第三方物流系统。内部系统包括诸多系统，如供应商管理、商品选品、商品买卖、领取系统、物流仓储、客服系统、商品配送等等。这些系统功能模块之间关联性情外强，规律扩展格外简单，如何快速满足业务进展的需要，是一个格外迫切的问题。 为了保证系统在高并发、大流量访问下工作，并且使系统有较强的扩展性，我们的设计次要从以下几个方面开放： 系统模块有效切分 服务化解耦，集中服务管理 添加异步访问 多阶段缓存，降低后端压力 优化数据库访问 加强系统监控 系统模块有效切分 唯品会整个业务系统虽然已经拆分成几个相对独立的子系统如买卖平台（B2C）、VIS、WMS、TMS、ODS、CS、EBS等，但是这些业务系统在实际运作中业务耦合严峻。遇到新业务规律加入，就需要每个模块做大量修改，各个开发团队之间为了业务规律放在那里争辩不休，铺张了大量的时间，导致开发效率比较低。这次要由于模块划分不合理，导致模块之间边界不清楚。所以我们架构团队从整个系统角度动身，梳理整个流程，重新做系统定位，将不同业务子系统做物理分别，削减彼此之间的依靠，使各个子系统独立部署，消灭问题后能快速实行措施，隔离出问题模块，将毛病影响降到最低。 服务化解耦，集中服务管理 服务化设计已经被主流电商系统证明是一个切实可行的方向。通过SOA服务化改造，实现了服务使用者和服务供应者的分别，使系统间的服务解耦和系统内高内聚，大大简化了系统简单性，具有更强的伸缩性和扩展性，满足了业务快速进展的需要。 我们怎样有效管理这些服务呢？ Venus是唯品会自开发的一款基于Spring的Java开发框架, 以降低开发的简单度, 提高开发人员的开发效率, 提升代码质量, 规范开发流程。 Venus框架涵盖了以下内容： Venus生态体系 其中开放服务平台（OSP）的次要目标是供应服务化的核心近程调用机制。契约化的服务接口保证系统间的解耦清楚、洁净；基于Thrift的通信和协议层确保系统的高功能；服务可以自动注册并被发觉，易于部署；协作配置中心，服务配置可以动态更新；客户端与管理规律的分别使服务接入得到极大简化；除此之外，OSP供应了丰富的服务管理力量，如路由、负载均衡、服务爱护和优雅降级等，通过OSP，有效的实现了流量把握。 服务分流 首先OSP Proxy具有软负载的作用，系统不需要硬件负载均衡，可以将服务恳求均衡地安排到不同服务主机上。另外OSP可以配置服务的路由，服务恳求可以被安排到不同版本的服务中处理，这样很简约实现灰度发布。 服务限流 在系统流量达到极限时的情况，有自动熔断机制。熔断器是在服务或者周边环境（如网络）消灭了特别后自动断开客户端后续的使用，从而避开服务崩溃无法恢复。但是在后续时间熔断将使用小量恳求尝试侦测服务能否已经恢复，假如恢复则将服务再次供应应客户端调用。熔断器的机制即爱护了服务也削减了人工干涉。相关的阀值都在是在配置中心中配置，并支持动态修改生效。限流肯定要谨慎使用，要使用恰当的限流策略，区分正常访问和恶意恳求，不能将正常的用户恳求抹宰掉。假如无法区分能否是恶意恳求，需要将应用分级，确保优先级最高的应用能被访问到，比如全部上线的商品信息。而对于下线的商品信息，可以依据恳求容量作适当的限流。 Nginx Rate Limiter是一个自主开发的防刷工具，通过Nginx上的LUA脚本插件，实现在Nginx上对本机的HTTP访问进行限流把握的工具，以提高在促销等高业务量环境下保障系统稳定运转的力量。 Nginx Rate Limiter通过RESTful API接口进行配置以及信息查看，可以对全局进行开关等配置，也可以针对指定URL分别添加多个限流配置，包括全局的限流。限流配置可以选择以下一种方式： 最大访问恳求速率，超出则丢弃恳求 按比例丢弃恳求。 服务降级 对于电商系统，为了保证用户体验，在资源有限的条件下，我们必需保证关键系统的稳定性。通过对不同业务级别定义不同的降级策略，对除核心主