3分钟白话RocketMQ系列—— 如何保证消息顺序性

简介: 3分钟白话RocketMQ系列—— 如何保证消息顺序性

实现的消息的顺序性主要有两个维度,分别是「全局有序」和「局部有序」。

我们围绕这两个方面来白话下消息顺序性问题。


关键字摘要


  • 全局有序
  • 局部有序
  • 局部有序能一直有序吗
  • 顺序消息的限制


Q1:什么是全局有序?如何实现全局有序?


适用于性能要求不高,所有的消息严格按照先进先出(FIFO)的原则来发布和消费的场景。

例如,在证券处理中,以人民币兑换美元为Topic,在价格相同的情况下,先出价者优先处理,则可以按照FIFO的方式发布和消费全局顺序消息。

要实现全局有序,必须控制Topic只有一个队列queue,才能实现全局有序。

由于只有一个队列存在,这种方式虽然保证了全局有序,但是性能不高,无法扩展。


Q2:什么是局部有序?如何实现局部有序?


适用于性能要求高,以Sharding Key作为分区字段,在同一个队列queue中严格地按照FIFO原则进行消息发布和消费的场景。

例如,用户注册需要发送发验证码,以用户ID作为Sharding Key,那么同一个用户发送的消息都会按照发布的先后顺序来消费。

保证「消息生产」的顺序性,则必须满足以下条件:

  • 单一生产者:消息生产的顺序性仅支持单一生产者,不同生产者分布在不同的系统,即使设置相同的分区键,不同生产者之间产生的消息也无法判定其先后顺序。
  • 串行发送:生产者客户端支持多线程安全访问,但如果生产者使用多线程并行发送,则不同线程间产生的消息将无法判定其先后顺序。

满足以上条件的生产者,将 「顺序消息」 发送至服务端后,会保证设置了同一分区键的消息,按照发送顺序存储在同一队列中。

640.png

局部有序(分区有序)

注意,在RocketMQ 5.x版本中,新增了「消息组」概念,顺序消息发送必须要设置消息组。

保证「消息消费」的顺序性,则必须满足以下条件:

  • 语义正确。业务方消费消息时需要严格按照 接收---处理---应答 的语义处理消息,避免因异步处理导致消息乱序。
  • 有限重试。顺序消息消费投递次数限定有限范围内,即一条消息如果超过最大重试次数后,将跳过这条消息消费,不会一直阻塞后续消息处理。

对于需要严格保证消费顺序的场景,请务必设置合理的重试次数,避免参数不合理导致消息乱序。


Q3:如果Broker掉线,局部有序还能保持有序吗?


如果一个Broker掉线,那么此时队列总数是否会发化?

如果发生变化,那么同一个 ShardingKey 的消息就会发送到不同的队列上,造成乱序。

如果不发生变化,那消息将会发送到掉线Broker的队列上,必然是失败的。

因此 Apache RocketMQ 提供了两种模式,如果要保证严格顺序而不是可用性,创建 Topic 是要指定 -o 参数(--order)为true,表示顺序消息:

$ sh bin/mqadmin updateTopic -c DefaultCluster -t TopicTest -o true -n 127.0.0.1:9876
create topic to 127.0.0.1:10911 success.
TopicConfig [topicName=TopicTest, readQueueNums=8, writeQueueNums=8, perm=RW-, topicFilterType=SINGLE_TAG, topicSysFlag=0, order=true, attributes=null]

其次,要保证NameServer中的配置 orderMessageEnable 和 returnOrderTopicConfigToBroker 必须是 true。

如果上述任意一个条件不满足,则是保证可用性而不是严格顺序。


Q4: 顺序消息有哪些限制?


1)同一条消息是否可以既是顺序消息,又是定时消息和事务消息?

不可以。顺序消息、定时消息、事务消息是不同的消息类型,三者是互斥关系,不能叠加在一起使用。

2)为什么全局顺序消息性能一般?

全局顺序消息是严格按照FIFO的消息阻塞原则,即上一条消息没有被成功消费,那么下一条消息会一直被存储到Topic队列中。


关键字总结


  • 全局有序:必须控制Topic只有一个队列queue,才能实现全局有序,性能一般。
  • 局部有序:性能较好,需要确保「生产有序」和「消费有序」,同时注意Broker掉线时的 可用性 与 有序性 权衡。

3分钟到了吗?应该对RocketMQ如何生产消息有全面了解了吧。

如果还想了解更多,欢迎关注下一期内容。


往期热门笔记合集推荐:

  • HBase原理与实战笔记合集
  • MySQL实战笔记合集
  • Canal/Otter源码与实战笔记合集
  • Java实战技巧笔记合集
相关实践学习
消息队列RocketMQ版:基础消息收发功能体验
本实验场景介绍消息队列RocketMQ版的基础消息收发功能,涵盖实例创建、Topic、Group资源创建以及消息收发体验等基础功能模块。
消息队列 MNS 入门课程
1、消息队列MNS简介 本节课介绍消息队列的MNS的基础概念 2、消息队列MNS特性 本节课介绍消息队列的MNS的主要特性 3、MNS的最佳实践及场景应用 本节课介绍消息队列的MNS的最佳实践及场景应用案例 4、手把手系列:消息队列MNS实操讲 本节课介绍消息队列的MNS的实际操作演示 5、动手实验:基于MNS,0基础轻松构建 Web Client 本节课带您一起基于MNS,0基础轻松构建 Web Client
目录
相关文章
|
消息中间件 存储 canal
3分钟白话RocketMQ系列—— 如何保证消息不丢失
3分钟白话RocketMQ系列—— 如何保证消息不丢失
3843 1
|
消息中间件 存储 缓存
3分钟白话RocketMQ系列—— 如何消费消息
3分钟白话RocketMQ系列—— 如何消费消息
765 0
|
消息中间件 存储 Kafka
如何保证MQ消息队列的高可用?
如何保证MQ消息队列的高可用?
273 0
|
7月前
|
消息中间件 存储 运维
|
消息中间件 存储 Kafka
如何保证MQ中消息的可靠性传输?
如何保证MQ中消息的可靠性传输?
114 1
|
消息中间件 存储 canal
3分钟白话RocketMQ系列—— 如何发送消息
3分钟白话RocketMQ系列—— 如何发送消息
302 0
|
消息中间件 存储 Java
RabbitMQ如何保证消息的可靠性
RabbitMQ如何保证消息的可靠性
100 0
|
7月前
|
消息中间件 存储 缓存
【面试问题】MQ 如何保证消息的顺序性?
【1月更文挑战第27天】【面试问题】MQ 如何保证消息的顺序性?
|
7月前
|
消息中间件 缓存 监控
mq如何保证消息顺序性
mq如何保证消息顺序性
131 0
|
7月前
|
消息中间件 存储 程序员
RabbitMQ消息丢失的场景,如何保证消息不丢失?(详细讲解,一文看懂)
RabbitMQ消息丢失的场景,如何保证消息不丢失?(详细讲解,一文看懂)
337 0
RabbitMQ消息丢失的场景,如何保证消息不丢失?(详细讲解,一文看懂)