如何确定线程池的大小？.docxVIP

如何确定线程池的大小？ 在我们日常业务开发过程中，或多或少都会用到并发的功能。那么在用到并发功能的过程中，就确定会遇到下面这个问题 并发线程池到底设置多大呢？ 通常有点年纪的程序员或许都听说这样一个说法 （其中 N 代表 CPU 的个数） CPU 密集型应用，线程池大小设置为 N + 1 IO 密集型应用，线程池大小设置为 2N? 这个说法到底是不是正确的呢？ 其实这是极不正确的。那为什么呢？ 首先我们从反面来看，假设这个说法是成立的，那我们在一台服务器上部署多少个服务都无所谓了。由于线程池的大小只能服务器的核数有关，所以这个说法是不正确的。那具体应当怎样设置大小呢？ 假设这个应用是两者混合型的，其中任务即有 CPU 密集，也有 IO 密集型的，那么我们改怎样设置呢？是不是只能抛硬盘来打算呢？ 那么我们到底该怎样设置线程池大小呢？有没有一些具体实践方法来指点大家落地呢？让我们来深化地了解一下。 Littles Law（利特尔法则） 一个系统恳求数等于恳求的到达率与平均每个单独恳求花费的时间之乘积 假设服务器单核的，对应业务需要保证恳求量（QPS）：10 ，真正处理一个恳求需要 1 秒，那么服务器每个时辰都有 10 个恳求在处理，即需要 10 个线程 同样，我们可以使用利特尔法则（Little’s law）来判定线程池大小。我们只需计算恳求到达率和恳求处理的平均时间。然后，将上述值放到利特尔法则（Little’s law）就可以算出系统平均恳求数。估算公式如下 *线程池大小 = （（线程 IO time + 线程 CPU time ）/线程 CPU time ）?CPU数目** 具体实践 通过公式，我们了解到需要 3 个具体数值 一个恳求所消耗的时间 (线程 IO time + 线程 CPU time) 该恳求计算时间 （线程 CPU time） CPU 数目 恳求消耗时间 Web 服务容器中，可以通过 Filter 来拦截猎取该恳求前后消耗的时间 public class MoniterFilter implements Filter { private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class); @Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { long start = System.currentTimeMillis(); HttpServletRequest httpRequest = (HttpServletRequest) request; HttpServletResponse httpResponse = (HttpServletResponse) response; String uri = httpRequest.getRequestURI(); String params = getQueryString(httpRequest); try { chain.doFilter(httpRequest, httpResponse); } finally { long cost = System.currentTimeMillis() - start; (access url [{}{}], cost time [{}] ms ), uri, params, cost); } private String getQueryString(HttpServletRequest req) { StringBuilder buffer = new StringBuilder(?); Enumeration emParams = req.getParameterNames(); try { while (emParams.hasMoreElements()) { String sParam = emParams.nextElement(); String sValues = req.getParameter(s