深夜更新 一文读懂MQ消息队列.docxVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
深夜更新 - 一文读懂MQ消息队列 原创 2021-02-21 —?扫描二维码?—加入架构集结群 ?? 对技术感爱好的同学可进群(备注:Java) MQ(消息队列)在软件架构中是经常被使用的,特殊是在分布式系统中也是使用频率很高的组件。 以下从消息队列的使用场景、概念、常见问题及处理方案来具体讲解。 一、消息队列使用场景 1.1 常见的使用场景 系统解耦 在分布式环境下,系统间的相互依靠,最终会会导致整个依靠关系混乱,特殊在微服务环境下,会消灭相互依靠,甚至是循环依靠的情况,对后期系统的拆分和优化都带来极大负担。那么我们就可以用MQ来进行处理。上游系统将数据投递到MQ,下游系统取MQ的数据进行消费,投递和消费可以用同步的方式处理,由于MQ接收数据的功能是格外高的,不会影响上游系统的功能。 异步处理 假如接受同步的方式,系统的功能(并发量,吞吐量,响应时间)会有瓶颈。如何处理这个问题呢?引入消息队列,将不必要的业务规律异步处理。 异步处理也可以引来?并行处理的使用姿态。在工作中,我们基于消息开发了一个简约的分布式任务处理组件。该组件简约分为三块分别是 切分、加载、执行三个阶段 每个阶段都是以作为消费者,然后处理完毕后再作为生产者发送消息。消息消费无形态,可以按需无限拓容。 流量削峰 由于使用消息,我们的链路变成了生产者发送消息,消息两头件存储消息,最终消费者从消息两头件拉取消息的一个过程。而消息两头件的存储力量能够有效的挂念消费者进行缓冲。试想下,正常流量下消费者能够开心的进行消费,瞬时高峰流量来的时候,消费者消费力量跟不上,刚好堵塞在消息两头件,等峰值过后,消费者又能很快的将堵塞的消息进行消费。 流量削锋也是消息队列中的常用场景,一般在秒宰或团抢活动中使用广泛! 数据分发 大部分开源的MQ两头件基本都支持一对多或者广播的模式,而且都可以依据规章选择分发的对象。这样上游的一份数据,众多下游系统中,可以依据规章选择能否接收这些数据,这样扩展性就很强了。 1.2 消息使用的先决条件 以上四种是MQ两头件最常见的场景,但是我们细想,MQ两头件的引入会带来什么问题呢?那就是实时性。所以MQ两头件使用的先决条件是:能容忍延迟,只需求最终全都性较为合适。 二、消息相关的概念 MQ特点 先进先出 不能先进先出,都不能说是队列了。消息队列的挨次在入队的时候就基本已经确定了,一般是不需人工干涉的。而且,最重要的是,数据是只要一条数据在使用中。?这也是MQ在诸多场景被使用的缘由。 发布订阅 发布订阅是一种很高效的处理方式,假如不发生堵塞,基本可以当做是同步操作。这种处理方式能格外有效的提升服务器利用率,这样的应用场景格外广泛。 长久化 长久化确保MQ的使用不只是一个部分场景的协助工具,而是让MQ能像数据库一样存储核心的数据。 分布式 在现在大流量、大数据的使用场景下,只支持单体应用的服务器软件基本是无法使用的,支持分布式的部署,才能被广泛使用。而且,MQ的定位就是一个高功能的两头件。 在JMS标准中,有两种消息模型P2P(Point toPoint)和Publish/Sub(Pub/Sub)。 P2P 点对点,一个发,一个消费。涉及到的角色 发布者(Publisher)、消费者(Consumer)、消息队列(Queue) 特点 一个消息只能被一个消费者消费,消费后会从队列里移除 发布者和消费者无关系,发布者发送消息的行为不会随消费者而转变 消费者消费完成消息,需要向队列Ack,消息队列发觉消息消费成功即做消息移除 Pub/Sub 发布订阅模式,一个发布,多方订阅。涉及到的角色有 发布者(Publisher)、主题(Topic)、订阅者(Subscriber)。 特点 每个消息可以有多个消费者 针对某个主题(Topic)的订阅者,必需创建一个订阅者之后,才能消费发布者的消息 为了消费消息,订阅者必需保持运转的形态 三、常见问题及处理方案 消息堵塞 1、消息堵塞一般都是流量激增,超过消费者消费力量; 2、或者消费者消灭规律问题,导致不断的重试或长时间等待。 第一种可以通过扩容处理 其次种只能紧急修复问题,发布上线,在堵塞的过程中会形成大量的消息积压,这种情况也可以考虑临时扩容 反复消费 反复消费一般发生下消费端,比如消费者处理完毕,在预备进行ack的时候消灭了问题,应用重启后,消息两头件以为该消息还未处理又推给了消费者,或者消费者拉取的时候反复。 一般的做法是消费端做幂等。 消息丢失 消息丢失一般分为生产者发送失败、消息两头件丢失、消费丢失。 生产者丢失:可能以为网络问题或者消息两头处理失败导致,消息遗漏。 消息两头的丢失:一般两头件可以设置丢弃策略,大部分MQ两头件产品可以保证数据不丢失,这种情况基本不用考虑。 消费丢失:有的消息两头

文档评论(0)

duanbingbing + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档