实战分享:activemq 在灾备双活建设中的研究

本文涉及的产品
传统型负载均衡 CLB,每月750个小时 15LCU
应用型负载均衡 ALB,每月750个小时 15LCU
网络型负载均衡 NLB,每月750个小时 15LCU
简介:

activemq 是业界非常流行的、功能强大的、开源消息中间件。以快速、支持多种跨语言客户端和协议著称;完全支持 JMS 1.1 and J2EE 1.4。在各个行业中有大量的应用案例。

由于 activemq 承担着消息服务的重要角色,在这篇文章中我们重点讲述在灾备双活建设中 activemq 设计、规划、部署。

随着各个行业对 IT 灾备建设的重视,越来越多的企业、单位正在筹备、实施 IT 灾备建设。由于早期的建设并没有充分考虑多数据中心下容灾方案,势必在新的多数据中心环境需要做一番整体架构的调整、重建。

本文是对目前业界流行的消费服务产品 active 在灾备双活建设的一些探讨,希望起到抛砖引玉的效果。

目标

灾备双活建设最完美的架构设计:在同城、异地 2 个数据中心,在最极端情况下,例如单数据中心垮掉情况下,保证消息零丢失,支持 7*24 服务要求。

需求描述

机房故障

1) 现象描述

消息队列中间件部署在 A、B 两个不同的机房中,客户端根据负载的策略转发到对应机房的消息中间件,其中 A 或者 B 机房因为断电或者灾难等因素出现故障,无法继续提供服务。此时仅有一个机房正常。

2) 现象图示

717bfb9c90a6dbdccc4e3da69af1bf8afc1abb0d

3) 服务影响

正常情况下,对于客户端的连接平均分布在两个机房中,出现单个机房故障后,连接在故障机房中的连接会断开,正在执行未提交的事务将会回滚,对于发起的新连接不受任何影响,依然可以通过配置的负载策略访问正常机房中的消息中间件服务。

4) 故障恢复

当机房恢复正常后,启动消息中间件服务,此时,只要主机、网络恢复正常,消息中间件服务就可以启动成功。这时,AB 机房按照负载策略继续处理连接,最终使得每个机房的中间件连接数无限接近。

活动预告

云南的朋友们有福利了,云和恩墨大讲堂-云南站,将于 8.31(下周五)在昆明举办。本次活动邀请到了 ACOUG 联合创始人,Oracle ACE 总监,云和恩墨创始人盖国强先生、云和恩墨西区交付总监郭耀龙先生。演讲议题涵盖 Oracle 18c 的新特性解析和 DBA 的未来、 Oracle 数据库故障诊断、金融行业 PaaS 云数据库平台解决方案等。欢迎各位数据库爱好者报名参与!

39f5050efc38d66b2b5a28600dd2518239d69684

服务器DOWN

1) 现象描述

在运行的消息中间件集群架构中,存在 N 个主机,其中任意 N-2 个主机 DOWN 机,不具备服务提供能力,仅剩余大于 1 个主机存活可以提供服务的场景。

2) 现象图示

a62b772473896fdf26636b4a9050e06141d7e887

3) 服务影响

主机 DOWN 掉后,已经连接在该主机消息中间件上的连接会断开,对应的事务会回滚,新的连接不受到影响。

4) 故障恢复

当主机故障处理后,启动故障主机,并启动消息中间件服务。根据负载均衡算法,客户端连接会重新分配到该主机上的节点。

消息中间件节点崩溃

1) 现象描述

在运行的消息中间件集群架构中,存在 N 个节点,其中任意 N-2 个节点崩溃,不具备服务提供能力,仅剩余大于1个节点存活可以提供服务的场景。

2) 现象图示

e564f5feaf649d26890e03780194690af8e1648c

3) 服务影响

当消息中间件节点崩溃后,已经连接在该主机消息中间件上的连接会断开,对应的事务会回滚,新的连接不受到影响。

4) 故障恢复

当消息队列节点故障处理后,启动消息中间件服务。根据负载均衡算法,客户端连接会重新分配到该节点。

架构设计

架构设计要点

● 采用 activemq 的何种架构来实现上述需求?

采用 主从+Broker-Cluster 方式来实现,主从架构实现了 HA(高可用)功能,借用 zookeeper 的选举投票功能,保证“过半即可用”,所以推荐的 HA 架构的节点数为单数,至少 3 个节点,任何时候垮掉一个节点都不影响正常使用。

同时结合 Broker-Cluster,Broker-Cluster 的部署方式可以解决负载均衡和分布式问题,因为单一主从方式无法解决负载均衡的问题。

● 如何保证未消费消息在各个节点间的同步?

采用 leveldb(LevelDB 是 Google 开源的持久化KV单机数据库,具有很高的随机写,顺序读/写性能)实现各个节点间的同步写,保证数据在同一个 Broker-Cluster 组下复制,以 3 个节点为例,同一条堆积消息,在 3个 节点保持同步,在最极端情况下,即使2个节点的数据文件丢失,也能防止数据丢失。

如何保证在灾难情况下,消息服务仍然可以正常提供服务?例如考虑最极端情况下,单边数据中心宕机?

采用 2 套主从、2套 Broker-Cluster,并且保证 2 个数据中心各包含一套主从的2个节点,如下图所示,cluster1 的 2 个节点在 B 中心,cluster2 的 2 个节点在 A 中心,即使 A、B 整个数据中心发生灾难,都不影响 jms 服务正常运行。

● 保证在各种灾难场景都实现了 7*24 和消息零丢失吗?

是的,只要保证一个 cluster 下的 2 个节点可用的情况下,不管在任何一种组合下,jms 服务都是可用的。

● 客户端如何来调用集群的 jms 地址

connectionFactory = new ActiveMQConnectionFactory(

ActiveMQConnection.DEFAULT_USER,

ActiveMQConnection.DEFAULT_PASSWORD,

"failover:(tcp://192.168.40.140:61616,tcp://192.168.40.140:61617,tcp://192.168.40.141:61619,tcp://192.168.40.141:61620,tcp://192.168.40.141:61621,tcp://192.168.40.140:61618)");

如上例子,activemq 根据随机策略,调用任一可用的节点。

架构图示

● 架构示例图如下:

fe21f69b257224aec98c2939aa190c7f5a328f4d

◆ 哪一个节点是 master,没有要求,那个先启动那个就可能成为 master。

◆ master 节点是当前提供服务的节点。


原文发布时间为:2018-08-22

本文作者:刘韬

本文来自云栖社区合作伙伴“数据和云”,了解相关信息可以关注“数据和云”。

相关实践学习
SLB负载均衡实践
本场景通过使用阿里云负载均衡 SLB 以及对负载均衡 SLB 后端服务器 ECS 的权重进行修改,快速解决服务器响应速度慢的问题
负载均衡入门与产品使用指南
负载均衡(Server Load Balancer)是对多台云服务器进行流量分发的负载均衡服务,可以通过流量分发扩展应用系统对外的服务能力,通过消除单点故障提升应用系统的可用性。 本课程主要介绍负载均衡的相关技术以及阿里云负载均衡产品的使用方法。
相关文章
|
数据中心 运维 网络协议
|
4月前
|
存储 运维 容灾
应用多活技术问题之应用多活技术实现容灾如何解决
应用多活技术问题之应用多活技术实现容灾如何解决
|
4月前
|
存储 容灾 Cloud Native
应用多活技术问题之支撑应用构建多活架构能力如何解决
应用多活技术问题之支撑应用构建多活架构能力如何解决
|
7月前
|
存储 容灾 NoSQL
同城双活的必修课 - 落地经验与关键挑战解析
同城双活作为一种容灾架构,通过在同一城市建立两个数据中心,以确保在一个数据中心发生故障时,系统能够快速切换到另一个数据中心,从而提高系统的可用性
847 2
同城双活的必修课 - 落地经验与关键挑战解析
|
7月前
|
弹性计算 容灾 网络协议
一文详解云上跨可用区容灾解决方案和异地多活能力建设最佳案例
阿里云弹性计算团队十三位产品专家和技术专家共同分享云上运维深度实践,详细阐述如何利用CloudOps工具实现运维提效、弹性降本。
579 0
|
7月前
|
存储 运维 负载均衡
探索容灾架构演进之路 - 从单点到异地多活
容灾架构的选择在于平衡可用性需求和成本之间的关系。并不存在一种完美的架构,而是应该根据业务发展的阶段逐步演进容灾架构,避免陷入过度设计和资源浪费的困境
436 0
|
域名解析 容灾 网络安全
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.2 容灾演练改造——4.2.4 云外网络改造
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.2 容灾演练改造——4.2.4 云外网络改造
203 0
|
域名解析 容灾 安全
《医保行业容灾演练云上技术白皮书》——第三章 医保云容灾建设方案——3.3 应用容灾解决方案框架
《医保行业容灾演练云上技术白皮书》——第三章 医保云容灾建设方案——3.3 应用容灾解决方案框架
211 0
|
容灾 应用服务中间件
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.4 容灾演练方案——4.4.4 核心区应用层演练
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.4 容灾演练方案——4.4.4 核心区应用层演练
|
容灾 网络协议 NoSQL
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.2 容灾演练改造——4.2.1 云平台侧容灾改造
《医保行业容灾演练云上技术白皮书》——第四章 医保云容灾演练方案——4.2 容灾演练改造——4.2.1 云平台侧容灾改造