Disruptor：一种高性能、在并发线程间数据交换领域用于替换有界限队列方案.docVIP

Disruptor：一种高性能的、在并发线程间数据交换领域用于替换有界限队列的方案 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?作者： Martin Thompson ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? Dave Farley ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??Micheal Barker ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? Patricia Gee ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??Andrew Stewart 1 ?摘要 ? ? ? ? ?LMAX公司被创建去构建一种高性能的金融交易平台。作为我们为达到这样的目标所做的工作的一部分，我们论证了一些设计这个系统的方案。但是随着我们的测试，我们发现传统方案的一些根本的局限性。 ? ? ? ? ?许多应用使用队列来实现在其线程间的数据交互。通过测试我们发现，非常戏剧性的——使用队列造成的延迟与磁盘IO操作（RAID、SSD磁盘）造成的延迟同样的多！如果在一个端对端操作中使用多个队列，这将会增加数百毫秒的总延迟。显然，这是一个需要优化的领域。 ? ? ? ? ?进一步的研究和专注于计算机科学的学习使我们认识到，传统方案固有的合并特点导致了在多线程实现中出现了争用现象，这意味着或许应该有更好的解决办法。 ? ? ? ? ?考虑下现代CPU的工作原理，有一种我们称之为“硬件机制共鸣”的编程优化方法，使用优化设计方案、专注于分离问题我们最后创建了一套数据结构和对应的设计模式，我们称之为Disruptor。 ? ? ? ? ?测试表明，使用Disruptor的三个线程管道的平均延迟要比相当的使用队列的方案低得多，而且在同样的配置下，Disruptor的吞吐量大约为队列的8倍。 ? ? ? ??这些性能上的提高，使我们开始重新思考并发编程的方式。Disruptor，这个全新的模式对于任何需要高吞吐低延迟特性的异步事件驱动架构来说都是一个理想的借鉴基础。 ? ? ? ? 在LMAX公司，我们在Disruptor模式基础上构建了次序匹配引擎、实时风险管理系统、高可用性内存事务处理系统，这些项目都获得了巨大的成功。这些系统的性能都为业界设置了新的标杆——在我们看来、在目前一段可以预期的时间内不会被超越！（译者注：好狂妄的老外） ? ? ? ??Disruptor并不是只能应用于金融业的解决方案，它是一种通用的机制，以简单的实现来最大程度的提高性能，用来解决并发编程中的复杂问题。尽管Disruptor中的一些概念似乎不大主流，但是以我们的成功经验证明，使用这种模式构建系统要比使用同类机制实现起来简单得多。 ? ? ? ?Disruptor框架显著的减少了写的争用、具有更低的系统开销和比之同类其他机制更好的缓存（译者注：这里指CPU的缓存）友好特性，所有这些优点使Disruptor具有更加强大的吞吐性能和平稳的低延迟处理能力。使用中等的时钟频率的处理器，我们测试得到了每秒2500万消息发送，上述延迟低于50纳秒（译者注：1纳秒=一秒的10亿分之一，神乎其技啊~~！）。这样的性能相对于我们见过的任何其他的实现方案来说都是显著的提高。这已经非常接近现代CPU处理器在核心之间交换数据的理论极限了。（译者注：再次惊叹，神乎其技啊！） 2 ?概述 ? ? ? Disruptor是我们在LMAX公司构建世界上最快的高性能金融交易平台过程中的研究成果。早期，我们的设计是基于SEDA派生和Actors模式的，使用管道来提供吞吐量。在评测了各种不同的实现之后，事实证明在各个管道的事件排队是主要的系统消耗来源。我们也发现队列产生相当的延迟和较高的时间偏差。我们花费了大量的精力去实现更高性能的队列，但是，事实证明队列作为一种基础的数据结构带有它的局限性——在生产者、消费者、以及它们的数据存储之间的合并设计问题。Disruptor就是我们在构建这样一种能够清晰地分割这些关注问题的数据结构过程中所诞生的成果。 3 ?并发的复杂性 ? ? 在我们这一段里我们来讨论并发。在计算机科学中，并发的意思是两个或两个以上的任务同时并行的执行，但是也要通过争抢来接入资源。争抢的资源可能是数据库、文件系统、套接字、甚至或者说内存中的一块区域。 ? ? 并发的执行代码包括两个方面：互斥性和改