我目前正在努力寻找实现特定类型队列的解决方案,这需要以下特征:
- 所有队列必须遵守作业添加的顺序。
- 整个队列的并发度为1,这意味着每个队列一次只会执行一个作业queue,不是工人。
- 像这样排队的人会超过几千人。
- 它需要分布式并且能够扩展(例如,如果我添加一个工作人员)
基本上它是一个单进程 FIFO 队列,这正是我在尝试不同的消息队列软件(如 ActiveMQ 或 RabbitMQ)时想要的,但是一旦我将其扩展到 2 个工作线程,它就不起作用,因为在这种情况下我想要它扩展并保持单个进程队列的完全相同的功能。下面我附上它如何在具有多个工作人员的分布式环境中工作的描述。
拓扑结构的示例:(请注意,它是多对多关系Queue and Workers)
其运行方式示例:
+------+-----------------+-----------------+-----------------+
| Step | Worker 1 | Worker 2 | Worker 3 |
+------+-----------------+-----------------+-----------------+
| 1 | Fetch Q/1/Job/1 | Fetch Q/2/Job/1 | Waiting |
+------+-----------------+-----------------+-----------------+
| 2 | Running | Running | Waiting |
+------+-----------------+-----------------+-----------------+
| 3 | Running | Done Q/2/Job/1 | Fetch Q/2/Job/2 |
+------+-----------------+-----------------+-----------------+
| 4 | Done Q/1/Job/1 | Fetch Q/1/Job/2 | Running |
+------+-----------------+-----------------+-----------------+
| 5 | Waiting | Running | Running |
+------+-----------------+-----------------+-----------------+
也许这不是最好的代表,但它表明,即使在Queue 1 and Queue 2,工作机会多了,但是Worker 3 在上一个作业完成之前不会开始获取下一个作业。
这就是我努力寻找好的解决办法。
我尝试了很多其他解决方案,例如rabbitMQ、activeMQ、apollo...这些允许我创建数千个队列,但是当我尝试时,所有这些都将使用worker 3来运行队列中的下一个作业。并且并发数是每个工人
是否有任何解决方案可以在任何 MQ 平台(例如 ActiveMQ、RabbitMQ、ZeroMQ 等)中实现这一点?
谢谢 :)
您可以使用 Redis 列表来实现此目的,并带有一个附加的“调度”队列,所有工作人员都可以使用该队列BRPOP
继续他们的工作。调度队列中的每个作业都标有原始队列 ID,当工作人员完成作业时,它会转到该原始队列并执行RPOPLPUSH
到调度队列中,以使下一个作业可供任何其他工作人员使用。因此,调度队列最多有队列数元素。
您必须处理的一件事是当源队列为空时调度队列的初始填充。这可能只是发布者针对最初设置的每个队列的“空”标志进行的检查,并且当原始队列中没有剩余内容可供调度时也由工作人员设置。如果设置了这个标志,发布者就可以LPUSH
第一个作业直接放入调度队列。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)