架构设计 生产者 消费者模式 2 队列缓冲区.docVIP

架构设计 生产者 消费者模式 2 队列缓冲区 经过前面两个帖子的铺垫，今天终于开始聊一些具体的编程技术了。由于不同的缓冲区类型、不同的并发场景对于具体的技术实现有较大的影响。为了深入浅出、便于大伙儿理解，咱们先来介绍最传统、最常见的方式。也就是单个生产者对应单个消费者，当中用队列(FIFO)作缓冲。 关于并发的场景，在之前的帖子进程还线程?是一个问题！中，已经专门论述了进程和线程各自的优缺点，两者皆不可偏废。所以，后面对各种缓冲区类型的介绍都会同时提及进程方式和线程方式。 ★线程方式 先来说一下并发线程中使用队列的例子，以及相关的优缺点。 ◇内存分配的性能 在线程方式下，生产者和消费者各自是一个线程。生产者把数据写入队列头(以下简称push)，消费者从队列尾部读出数据(以下简称pop)。当队列为空，消费者就稍息(稍事休息)；当队列满(达到最大长度)，生产者就稍息。整个流程并不复杂。 那么，上述过程会有什么问题捏?一个主要的问题是关于内存分配的性能开销。对于常见的队列实现：在每次push时，可能涉及到堆内存的分配；在每次pop时，可能涉及堆内存的释放。假如生产者和消费者都很勤快，频繁地push、pop，那内存分配的开销就很可观了。对于内存分配的开销，用Java的同学可以参见前几天的帖子Java性能优化[1]；对于用C/C++的同学，想必对OS底层机制会更清楚，应该知道分配堆内存(new或malloc)会有加锁的开销和用户态/核心态切换的开销。 那该怎么办捏?请听下文分解，关于生产者/消费者模式[3]：环形缓冲区。 ◇同步和互斥的性能 另外，由于两个线程共用一个队列，自然就会涉及到线程间诸如同步啊、互斥啊、死锁啊等等劳心费神的事情。好在操作系统这门课程对此有详细介绍，学过的同学应该还有点印象吧?对于没学过这门课的同学，也不必难过，网上相关的介绍挺多的(比如这里)，大伙自己去瞅一瞅。关于这方面的细节，咱今天就不多啰嗦了。 这会儿要细谈的是，同步和互斥的性能开销。在很多场合中，诸如信号量、互斥量等玩意儿的使用也是有不小的开销的(某些情况下，也可能导致用户态/核心态切换)。如果像刚才所说，生产者和消费者都很勤快，那这些开销也不容小觑啊。 这又该咋办捏?请听下文的下文分解，关于生产者/消费者模式[4]：双缓冲区。 ◇适用于队列的场合 刚才尽批判了队列的缺点，难道队列方式就一无是处?非也。由于队列是很常见的数据结构，大部分编程语言都内置了队列的支持(具体介绍见这里)，有些语言甚至提供了线程安全的队列(比如JDK 1.5引入的ArrayBlockingQueue)。因此，开发人员可以捡现成，避免了重新发明轮子。 所以，假如你的数据流量不是很大，采用队列缓冲区的好处还是很明显的：逻辑清晰、代码简单、维护方便。比较符合KISS原则。 ★进程方式 说完了线程的方式，再来介绍基于进程的并发。 跨进程的生产者/消费者模式，非常依赖于具体的进程间通讯(IPC)方式。而IPC的种类名目繁多，不便于挨个列举(毕竟口水有限)。因此咱们挑选几种跨平台、且编程语言支持较多的IPC方式来说事儿。 ◇匿名管道 感觉管道是最像队列的IPC类型。生产者进程在管道的写端放入数据；消费者进程在管道的读端取出数据。整个的效果和线程中使用队列非常类似，区别在于使用管道就无需操心线程安全、内存分配等琐事(操作系统暗中都帮你搞定了)。 管道又分命名管道和匿名管道两种，今天主要聊匿名管道。因为命名管道在不同的操作系统下差异较大(比如Win32和POSIX，在命名管道的API接口和功能实现上都有较大差异；有些平台不支持命名管道，比如Windows CE)。除了操作系统的问题，对于有些编程语言(比如Java)来说，命名管道是无法使用的。所以我一般不推荐使用这玩意儿。 其实匿名管道在不同平台上的API接口，也是有差异的(比如Win32的CreatePipe和POSIX的pipe，用法就很不一样)。但是我们可以仅使用标准输入和标准输出(以下简称stdio)来进行数据的流入流出。然后利用shell的管道符把生产者进程和消费者进程关联起来(没听说过这种手法的同学，可以看这里)。实际上，很多操作系统(尤其是POSIX风格的)自带的命令都充分利用了这个特性来实现数据的传输(比如more、grep等)。 这么干有几个好处： 1、基本上所有操作系统都支持在shell方式下使用管道符。因此很容易实现跨平台。 2、大部分编程语言都能够操作stdio，因此跨编程语言也就容易实现。 3、刚才已经提到，管道方式省却了线程安全方面的琐事。有利于降低开发、调试成本。 当然，这种方式也有自身的缺点： 1、生产者进程和消费者进程必须得在同一台主机上，无法跨机器通讯。这个缺点比较明显。 2、在一对一的情况下，这种方式挺合用