基于多日志的高并发消息队列处理机制研究.pdf

华中科技大学硕士学位论文

摘要

随着云计算和大数据广泛应用，为了支持大规模高并发业务，普遍采用消息队

列实现服务系统组件之间的解耦与异步通信。Google、LinkedIn、Alibaba、Apache

等公司分别推出了CloudPub/Sub、Kafka、RabbitMQ和RocketMQ等消息队列产品。

近年以固态盘为代表的高性能存储技术迅速发展，作为典型数据密集型应用，消息

队列系统应该能够充分利用这些快速存储设备以提升其读写性能。

首先测试了主流消息队列RocketMQ和Kafka在不同写模式的性能。结果表明，

在同步写模式，它们的设备写带宽利用率最高仅为13%左右；在异步写模式，它们

的设备写带宽利用率最高分别是14%和50%左右。多线程之间日志写锁资源竞争是

其设备带宽利用率不高的主要原因。据此，提出了一种基于多日志的高并发消息队

列处理机制，并实现了基于多日志的高并发消息队列（Highly-ConcurrentMulti-log

MessageQueue，HCMMQ）。HCMMQ采用多日志结构，使用细粒度的锁机制解决

多线程日志锁竞争问题，利用设备并行性提升吞吐率。最后，针对异步写消息场景

下消息队列系统过载问题，提出一种请求流量控制策略，提升HCMMQ的扩展性。

实验结果表明HCMMQ在同步写模式的设备写带宽利用率最大为25%，是

RocketMQ和Kafka的两倍；异步写模式下HCMMQ的设备写带宽利用率最高为50%，

在特定写场景下的最大设备写带宽利用率最大分别是RocketMQ和Kafka的3.5倍和

2倍。在高并发场景中，同步写模式下HCMMQ的写吞吐率分别是RocketMQ和

Kafka的73倍和211.5倍，异步写模式下HCMMQ的写吞吐率分别是RocketMQ和

Kafka的306.4倍和2.1倍。此外，同步写模式下HCMMQ的平均写请求响应时间分

别为RocketMQ和Kafka的0.4%和0.1%，异步写模式下分别为RocketMQ和Kafka

的0.1%和0.2%。

关键词：消息队列；多日志；流量控制；多线程并发

I

华中科技大学硕士学位论文

Abstract

Withthewidespreaduseofcloudcomputingandbigdata,messagequeuesare

commonlyusedtoachievedecouplingandasynchronouscommunicationbetweenservice

systemcomponentsinordertosupportlarge-scalehigh-concurrencybusinesses.Companies

suchasGoogle,LinkedIn,Alibaba,andApachehavedevelopedmessagingqueueproducts

suchasCloudPub/Sub,Kafka,RabbitMQ,andRocketMQ.Asatypicaldata-intensive

application,messagequeuesshouldbeabletomakefulluseofthesefaststoragedevicesto

improveitsoverallreadandwriteperformance.

ThispaperfirstteststhemainstreammessagequeuesKafkaandRocketMQunder

differentdatadurabilitymodes.Theresultsshowthatinsynchronouswritemode,their

devicewritebandwi