技术总监Web并发模型粗浅探讨.pptVIP

Web并发模型粗浅探讨 Larry Chen 基本概念 并发concurrency 并行parallelism 吞吐量throughput 1 CPU Core Request1 Request2 Request3 Request4 并发：CPU划分时间片，轮流执行每个请求任务，时间片到期后，换到下一个 4 CPU Core Request1 Request2 Request3 Request4 并行：在多核服务器上，每个CPU内核执行一个任务，是真正的并行 R1 R2 R3 R4 吞吐量 单位时间内服务器总的请求处理量 以 request/second 来衡量，如1200rps 每个请求的处理时间latency 服务器处理请求的并发workers 其他因素如GC也会影响吞吐量 举例：CSDN new bbs 平均每个请求的latency – 200ms 总共40个workers 理论吞吐量上限 1000/200*40 = 200rps 理论每日处理动态请求上限1700万，目前实际每日处理动态请求270-330万，预估实际处理上限600万 IO类型 磁盘文件操作，例如读硬盘文件 操作系统调用，例如shell命令 网络操作 访问数据库 MySQL, MongoDB, ... 访问其他Web服务，发起网络连接 访问缓存服务器 Memcached, Redis 典型IO密集请求 rea