RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

2023-11-02

目录

一、惰性队列

1.1、消息堆积问题

1.2、消息堆积问题的解决方法

从消费者的角度:

从队列的角度:

1.3、引入惰性队列

1.3.1、什么是惰性队列

1.3.2、惰性队列的使用

1.3.3、效果演示


一、惰性队列


1.1、消息堆积问题

当生产者发送消息的速度超过了消费者处理消息的速度,就会导致队列中的消息堆积,直到队列存储消息到达上限.

这就像是有一个蓄水池,一边往里注水,一边向外排水,但是注水速度比排水快,因此这个水池最终就会填满.

接着,最早收到的消息,就可能成为死信,默认情况下会把死信丢弃,丢弃了之后队列就有了空间,就可以新消息进入队列.

1.2、消息堆积问题的解决方法

从消费者的角度:

1. 增加更多的消费者,调高消费速度.

如果说现在只有单个消费者,处理速度是 100ms 一个消息,那么如果有三个消费者,理论上就处理速度就是 300ms 一个消息.

2.在消费者内开启一个线程池,每当一个消息过来了,就交给一个线程去处理,那么当前这个消费者内部处理消息的速度就加快了.

但是,这个方法有一个限制,就是如果消息特别多的情况下,你是不是就需要分配很多线程.  线程越多,对 cpu 来讲也是一种浪费,因为 cpu 需要在多个线程之间做上下文切换,所以这个方案比较适合消息处理业务比较耗时的情况,开多个线程,让 cpu 并行处理.

从队列的角度:

3. 扩大队列容积,提高堆积上限.

就像一个蓄水池,我把这个水池搞的像黄河那么大,你再往里进水,啥时候才能填满呢~

前两种方法我们已经是比较的熟悉的了,但是最后扩大队列容积,具体该如何实现呢?

惰性队列就可以用来解决这个问题~

1.3、引入惰性队列

1.3.1、什么是惰性队列

对于传统的队列来讲,如果没有开启消息持久化,所有接收到的消息都是放在内存里面的,目的就是为了加快消息投递的速度,这也是 RabbitMQ 的一个很优势——响应速度快.

但是他也带来了一个问题,RabbitMQ 设置了一个内存预警值(内存存储的上限,默认是 40%),如果在消息堆积的情况下,很容易就到达这个预警值,此时,RabbitMQ 就会处于一个暂停状态,会阻止生产者投递消息进来,然后把内存中的一部分消息清理出来,刷出到磁盘中,这动作也叫 “page out” .  进而导致 mq 的并发能力,忽高忽低,性能不稳定(每次page out 都会比较耗时,停顿一段时间).

而惰性队列,就是是专门用来处理消息堆积问题的~

他有以下三个特点:

1. 收到的消息会直接写入磁盘,而非内存,也因此很难触发 mq 的内存预警,几乎不会出现 page out 的情况.

2. 消费者消费惰性队列的消息,也需要先从磁盘中读取并加载到内存中.  实际上这也会使延迟稍微高一点,毕竟磁盘的性能和内存还是有很大差距的,但是也在可以接收到范围内.

3. 支持数百万的消息存储,这也是因为他是磁盘存储(空间非常大).

1.3.2、惰性队列的使用

设置一个队列为 惰性队列,有以下三种方式:

1. 在 RabbitMQ Managerment 中,我们只需要在声明队列的时候,指定 x-queue-mode 属性为 lazy 即可.

2. 用 SpringAMQP 声明惰性队列,@Bean 方式如下:

@Configuration
public class LazyConfig {

    @Bean
    public Queue lazyQueue() {
        return QueueBuilder
                .durable("lazy.queue")
                .lazy() //开启 x-queue-mode 属性为 lazy
                .build();
    }

}

3. 用 SpringAMQP 声明惰性队列,注解方式如下:

    @RabbitListener(queuesToDeclare = @Queue(
        name = "lazy.queue",
            durable = "true",
            arguments = @Argument(name = "x-queue-mode", value = "lazy")
    ))
    public void listenLazyQueue(String msg) {
        log.info("消费者接收到了惰性队列的消息! msg=" + msg);
    }

1.3.3、效果演示

a)使用 @Bean 声明一个普通队列和一个惰性队列,来对比效果.

@Configuration
public class LazyConfig {

    @Bean
    public Queue lazyQueue() {
        return QueueBuilder
                .durable("lazy.queue")
                .lazy() //开启 x-queue-mode 属性为 lazy
                .build();
    }

    @Bean
    public Queue normalQueue() {
        return QueueBuilder
                .durable("normal.queue")
                .build();
    }

}

b)使用两个生产者,分别向两个队列中发送 100000 消息.

    @Test
    public void testLazyMessage() {
        for(int i = 0; i < 1000000; i++) {
            //1.准备消息
            Message message = MessageBuilder.withBody("hello lazy message".getBytes())
                    .setDeliveryMode(MessageDeliveryMode.NON_PERSISTENT)
                    .build();
            //2.发送消息
            rabbitTemplate.convertAndSend("lazy.queue", message);
        }
    }

    @Test
    public void testNormalMessage() {
        for(int i = 0; i < 1000000; i++) {
            //1.准备消息
            Message message = MessageBuilder.withBody("hello normal message".getBytes())
                    .setDeliveryMode(MessageDeliveryMode.NON_PERSISTENT)
                    .build();
            //2.发送消息
            rabbitTemplate.convertAndSend("normal.queue", message);
        }
    }

普通队列情况如下:

普通队列每次往 memory 中写入一定量的数据后,暂停一段时间,向磁盘写数据(page out).

lazy 队列情况如下:

lazy 一直都往磁盘上写数据,所以 total 等于 paged out.

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列 的相关文章

随机推荐

  • 苹果Swift语言入门教程

    目录 1 简介 2 Swift入门 3 简单值 4 控制流 5 函数与闭包 6 对象与类 7 枚举与结构 1 简介 今天凌晨Apple刚刚发布了Swift编程语言 本文从其发布的书籍 The Swift Programming Langua
  • python三引号作用是什么_python中三引号的作用(逗号的两点总结)

    三引号 1 三引号注释 程序中我使用 来做单行注释 可以使用三引号可以做多行注释 三个引号能包含多行字符串 同时常常出现在函数的声明的下一行 来注释函数的功能 与众不同的地方在于 这个注释作为函数的一个默认属性 可以通过 函数名 doc 来
  • 相信AI的力量——「AI中国」2021年度十大开源事件揭晓

    自2017 年设立以来 机器之心 Synced Machine Intelligence Awards 年度奖项评选活动自已连续举办至第五届 是目前国内人工智能界规模最大 评选最权威的年度奖项 已成为我国人工智能产业的风向标 2021年底
  • Visual Studio 和 Visual Studio Code的区别?

    Visual Studio 是一个全能的 方便的开发环境 即 IDE 像代码自动完成 调试器 数据库集成 服务器设置和配置等 Visual Studio Code VSCode 只是一个跨平台的编辑器 但是用户可以根据自己的需求去增加插件
  • cmath(常用函数)

    cmath包含了许多数学函数 非常实用 1 三角函数 double sin double 正弦 double cos double 余弦 double tan double 正切 2 反三角函数 double asin double 结果介
  • 上MES系统的目的是什么?

    上MES系统的目的是什么 实现透明制造 柔性制造 精益制造 创新制造 观点 太空洞 太空洞 太空洞 开发者的观点 计划 质量 生产 物流一体化管理 要接地气 客户说aps需要 前台傻瓜 后台智能 操作APS的起码有点水准的人吧 太傻瓜能操作
  • pt_session流程

    pt 即 prime time 数字IC后端设计人员用于check pr之后的path timing 的重要工具 在从后端拿到pt session的前提下 确认sdc或者cdc sdc是否有语法问题等 完成脚本的快速迭代 确保前端交付质量
  • vue前端实现打印功能

    方案一 window print 这个命令默认打印整个页面的内容 所以 如果想要实现局部打印功能的话 就要重新给body赋值 并且后续执行完之后再还原回去 这样的话会造成一些非预期的结果 很麻烦 并且在当前也操作 window docume
  • 剪映VS会声会影哪个好用,视频剪辑软件剪映会声会影之间对比之

    随着网络视频的发展 越来越多的人开始学习视频剪辑 毕竟技多不压身 而在众多剪辑软件中 剪映和会声会影是很适合新手使用的软件 那剪映与会声会影的区别有哪些 剪映会声会影哪个好用 下面就仔细说说 一 剪映与会声会影的区别 在剪辑功能上 剪映和会
  • 武装突袭3fps服务器不稳定,《武装突袭3》深不见底:史上最硬核、最复杂的FPS游戏...

    武装突袭3 深不见底 史上最硬核 最复杂的FPS游戏武装突袭3是一个硬核的而且复杂的游戏 我玩了一千六百多个小时 但依然没有玩透它 如果用一个词来形容ARMA3那么就是深不见底 大多数人在这里只能在某一个领域成为专家 所以如果你准备入手武装
  • gensim中TaggedDocument 怎么使用

    我有两个目录 我想从中读取它们的文本文件并给它们贴上标签 但我不知道如何通过taggedDocument来实现这一点 我以为它可以作为标记文档 strings labels 工作 但这显然不起作用 from gensim import mo
  • 超级账本PBFT(拜占庭容错)算法详解

    上一章我们从分布式系统的角度简单叙述了一下 IBM HyperLedger fabric 的一些基本概念 架构和协议信息 其中最为核心的部分就是共识算法 consensus plugin fabric推荐并实现的就是PBFT这一经典算法 B
  • 弱监督学习--半监督学习(3):Mean teachers are better role models

    前言 论文链接 https arxiv org pdf 1703 01780 pdf github https github com CuriousAI mean teacher Mean Teacher 模型是由芬兰的一家AI初创公司在2
  • c语言怎样的序列满足堆,C语言堆排序法谁能通俗易懂又清晰地讲解一下?谢谢...

    您可以找本数据结构的书看看 比如清华严尉敏的 数据结构 以下摘抄于 http student zjzk cn course ware data structure web paixu paixu8 4 2 1 htm 这个网站的讲解挺不错
  • Android OpenGL ES2.0(一):详细讲解如何绘制一个三角形

    一 Android OpenGL ES2 0简介 1 什么是OpenGL OpenGL 全写Open Graphics Library 是指定义了一个跨编程语言 跨平台的编程接口规格的专业的图形程序接口 它用于三维图像 二维的亦可 是一个功
  • 缓存怎么测试?

    1 缓存的介绍 平时用的Redis缓存是一款高性能的内存型键值对 key value 数据库 是高并发场景常用一款存储中间件 其主要用于 缓存热点数据 减少DB的请求IO 其场景使用主要有 分布式锁 全局ID 计数器 限流 消息队列 购物车
  • 垃圾回收机制

    目录 一 为什么要有垃圾回收 二 垃圾回收主要回收哪个内存区域 三 垃圾判断算法 1 引用计数法 2 可达性分析法 四 垃圾回收算法 1 标记 清除算法 2 标记 整理算法 3 复制算法 4 分代收集算法 一 为什么要有垃圾回收 在 JVM
  • DRF请求与响应

    目录 Request类 常用参数 Response类 请求编码与相应编码 相应编码 Request类 经过rest framwork 传入视图函数的request已经不是原来的request了 而是Request的类产生的对象request
  • Docker 安装 Nginx(三)

    Nginx 是一个高性能的 HTTP 和反向代理 web 服务器 同时也提供了 IMAP POP3 SMTP 服务 以前没有用Docker时 直接在服务器中下载 安装 修改配置 运行Nginx 一套完整流程下来花费的时间也就那样 但是 自从
  • RabbitMQ - 消息堆积问题的最佳解决方案?惰性队列

    目录 一 惰性队列 1 1 消息堆积问题 1 2 消息堆积问题的解决方法 从消费者的角度 从队列的角度 1 3 引入惰性队列 1 3 1 什么是惰性队列 1 3 2 惰性队列的使用 1 3 3 效果演示 一 惰性队列 1 1 消息堆积问题