多线程模型在Socket编程中的应用解析：.pptVIP

多线程模型在 Socket 编程中的应用 李飞鹏 li.zhongnan@ 2009年10月23日 内容 1、Socket 编程简介 2、几种线程模型 3、单线程模型 4、简单多线程模型 5、线程池模型 6、队列 + 线程池模型 7、性能对比 8、讨论 1、Socket 编程简介 一些概念 Socket 编程即网络编程？ 编程语言：C/C++，Java,etc. 涉及到 Server 和 Client 协议：TCP 和 UDP 阻塞：调用 accept() 方法，处于阻塞状态，当有新连接时返回 非阻塞：调用 accept() 方法，立即返回，如果没有连接，返回 null 研究范围：TCP，阻塞 Server/Client API 交互过程 2、几种线程模型 分类 单线程 多线程 简单多线程 线程池 队列 + 线程池 3、单线程模型 单线程 在一个阻塞的、单线程模型下，只有当一个连接被处理完成后，然后才能处理下一个连接 在这种模式下，服务器在同一时间只能对一个客户端进行服务 如果客户端的请求是一个费时的服务，那么将极大地影响性能 单线程 4、简单多线程模型 简单多线程 在简单多线程模型下，Server 每一个新连接创建一个新线程，来处理客户的请求 在这种模式下，服务器在同一时间可以对任意多个客户端进行服务，来自客户端的请求都会被及时处理 如果 Server 需要处理大量连接，那么这种方式不是一种有效的方式 简单多线程 5、线程池模型 线程池 1 利用 java.util.concurrent 包下的 ThreadPoolExecutor 创建一个线程池 线程池决定如何调度用来处理连接的线程 FixedThreadPool：线程数量有限制 CachedThreadPool：线程数量无限制 线程池 1 线程池 2 创建一定数量线程，将代表服务器的 Socket 作为参数传入 每个线程调用 accept() 方法等待来自客户端的连接请求 当有客户端连接时，某一个线程将会被触发，从 accept()方法中返回，处理连接请求 线程池 2 线程池 3 从网上搜索到的一个线程池模型 Accept()返回后，将得到的代表客户端的SocketChannel 加入到线程池，由线程池进行调度和处理连接请求 该模型性能很差 需要对线程池进行很好的设计才能满足要求 6、队列 + 线程池模型 队列 + 线程池 创建一个队列，用来容纳客户端连接请求 创建一个线程池，每个线程不断从队列中获取任务 在接收到客户端连接请求后，将其加入到队列中 线程池中的线程获取到任务后进行处理 线程调度：利用阻塞进行调度 队列：可以是阻塞式的队列，如java.util.concurrent.ArrayBlockingQueue，也可以使用普通的 List，然后在程序中进行同步处理 线程池模型 线程池模型 7、性能对比 事例程序 单线程：SingleThread 简单多线程：MultiThread 简单线程池：ThreadPool 使用CachedThreadPool的线程池：CachedThreadPool 使用FixedThreadPool的线程池：FixedThreadPoolAcceptInMain，FixedThreadPoolAcceptInThread 定制的线程池：CustomizedThreadPool 队列+线程池：ThreadPoolWithBlockingQueue，ThreadPoolWithQueue 性能测试 服务器接收来自客户端的数据，sleep 10ms，然后将接收到的数据返回给客户端 Client 程序发送 1K 的字符给服务器，然后接收 Client 采用多线程连接服务器，线程数为20，总发送次数为 5000 Client 每发送一个数据都重新建立连接 计算 Client 发送完5000次数据的总用时作为性能指标 性能对比 结果分析及小结 如果服务器对客户端的响应非常快，用单线程也不错，而且程序简单 在程序中使用 new Thread 去创建线程看起来比较耗资源，因此如果用多线程这种方式，建议不要用简单多线程这种模式 (9219 *) java.util.concurrent 包下的线程池还是很值得使用的，虽然看起来好像和简单多线程有点类似，但是实际上，性能比简单多线程好 由于对线程数没有限制，CachedThreadPool 比 FixedThreadPool 的性能要好 使用 java.util.concurrent.ArrayBlockingQueue 的性能比自己同步线程的程序性能好（ 8531 9047） 多线程可能有多种模式，但是比较常用的可能就是“队列 + 线程池”这种模式了， java.util.concurrent