SpringBoot+Netty+Redis 搭建长连接集群

简介: SpringBoot+Netty+Redis 搭建长连接集群
  • 1.背景
  • 2.技术选项&实现
  • 3.代码实现
  • 4.总结

1.背景

公司在做一个社交项目,音视频技术是使用的第三方技术,直播间开播,进出房间,以及推送相关功能需要自己完成开发,因而需要自己搭建长连接服务器。

于是在技术选型上,为了保证服务高并发性能,以及长连接性能,在本身就是微服务架构上,采用了SpringBoot + Netty实现了长连接服务搭建,关于SpringBoot和Netty框架相关,本文不是重点,本文重点在于Netty集群搭建实现消息转发功能。

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能。

项目地址:https://github.com/YunaiV/ruoyi-vue-pro

2.技术选项&实现

2.1 关于Netty长连接

Netty是一个非常优秀的NIO异步事件驱动框架,在JDK NIO的基础上,封装并拓展包装,使得NIO的API简单易用,很多框架底层也应用了(比如Dubbo),Netty是可以做为一个长连接服务的,使用ws协议,可以构建一个高性能的长连接服务器,据说单机就能支持1万左右的连接。

熟悉Netty或NIO的都了解,其底层数据传输时通过一个网络连接Channel,对于单机Netty来说,Channel都连接在同一台服务器上,Channel之间的通信可以直接根据绑定的用户信息进行获取并转发。但是对于Netty集群来说,每个客户端的连接可能在不同的服务器上,这样在Channel互相通信时,需要判断是否在当前节点,并实现消息的转发。

2.2 技术选项

实现消息转发,有多种技术框架可以实现,比如ZK,MQ,Redis等,由于当前项目已经搭建了自己的MQ和Redis服务,因此考虑成本,目前只在MQ和Redis中选择。

如上文,Netty集群搭建后,Channel收到消息后,需要判断目标用户的Channel是否在本节点,如果不在,就需要做消息转发,转发到目标节点上,并将消息写到Channel中。因而MQ的广播机制和Redis的发布订阅就可以实现功能。

对比如下:

  • MQ:专门做消息队列的,可靠性高,但重量级,异步,不能保证实时。
  • Redis:较轻量级,低延迟,高并发,低可靠性。

两者在项目均在使用,考虑到直播消息更加保证时效性,故而选择Redis发布订阅功能,相对而言集成较为简单。

2.3 实现架构图

微信图片_20220906144721.png

①服务启动时,向Redis注册自己的节点信息,并指定监听频道。

②客户端连接Netty Server成功后,并在Redis缓存中绑定用户加入的节点,以便后续信息转发,将信息转发到指定的频道。

③在Channel转发时,判断如果当前用户在本节点,就直接转发,如果不在,从Redis获取到注册的节点信息,并将消息发布到指定的频道节点。

基于微服务的思想,构建在 B2C 电商场景下的项目实战。核心技术栈,是 Spring Boot + Dubbo 。未来,会重构成 Spring Cloud Alibaba 。

项目地址:https://github.com/YunaiV/onemall

3.代码实现

微信图片_20220906144945.png

绑定当前节点,服务启动并监听指定的频道,指定Listener。

微信图片_20220906144949.png

订阅节点生成器 本机 ip + 服务端口

微信图片_20220906145018.png

监听器实现,监听的频道收到消息,处理并发送到对应Channel

微信图片_20220906145042.png

消息转发Sender

4.总结

①通过应用Redis发布订阅,Netty Server多个集群,追加多节点时,新增节点会自动注册监听对于的频道,消息转发时也会自动投递到新注册的节点频道上,可扩展性强。

②当前Redis 5中有很多新增的高级特性,笔者也在慢慢学习中,可应用到项目业务场景中也比较多。

相关文章
|
4月前
|
存储 负载均衡 NoSQL
【赵渝强老师】Redis Cluster分布式集群
Redis Cluster是Redis的分布式存储解决方案,通过哈希槽(slot)实现数据分片,支持水平扩展,具备高可用性和负载均衡能力,适用于大规模数据场景。
373 2
|
5月前
|
消息中间件 负载均衡 中间件
⚡ 构建真正的高性能即时通讯服务:基于 Netty 集群的架构设计与实现
本文介绍了如何基于 Netty 构建分布式即时通讯集群。随着用户量增长,单体架构面临性能瓶颈,文章对比了三种集群方案:Nginx 负载均衡、注册中心服务发现与基于 ZooKeeper 的消息路由架构。最终选择第三种方案,通过 ZooKeeper 实现服务注册发现与消息路由,并结合 RabbitMQ 支持跨服务器消息广播。文中还详细讲解了 ZooKeeper 搭建、Netty 集群改造、动态端口分配、服务注册、负载均衡及消息广播的实现,构建了一个高可用、可水平扩展的即时通讯系统。
606 0
|
2月前
|
NoSQL Java 网络安全
SpringBoot启动时连接Redis报错:ERR This instance has cluster support disabled - 如何解决?
通过以上步骤一般可以解决由于配置不匹配造成的连接错误。在调试问题时,一定要确保服务端和客户端的Redis配置保持同步一致。这能够确保SpringBoot应用顺利连接到正确配置的Redis服务,无论是单机模式还是集群模式。
275 5
|
2月前
|
NoSQL 算法 Redis
【Docker】(3)学习Docker中 镜像与容器数据卷、映射关系!手把手带你安装 MySql主从同步 和 Redis三主三从集群!并且进行主从切换与扩容操作,还有分析 哈希分区 等知识点!
Union文件系统(UnionFS)是一种**分层、轻量级并且高性能的文件系统**,它支持对文件系统的修改作为一次提交来一层层的叠加,同时可以将不同目录挂载到同一个虚拟文件系统下(unite several directories into a single virtual filesystem) Union 文件系统是 Docker 镜像的基础。 镜像可以通过分层来进行继承,基于基础镜像(没有父镜像),可以制作各种具体的应用镜像。
504 5
|
3月前
|
存储 监控 NoSQL
Redis高可用架构全解析:从主从复制到集群方案
Redis高可用确保服务持续稳定,避免单点故障导致数据丢失或业务中断。通过主从复制实现数据冗余,哨兵模式支持自动故障转移,Cluster集群则提供分布式数据分片与水平扩展,三者层层递进,保障读写分离、容灾切换与大规模数据存储,构建高性能、高可靠的Redis架构体系。
|
8月前
|
存储 NoSQL 数据库
Redis 逻辑数据库与集群模式详解
Redis 是高性能内存键值数据库,广泛用于缓存与实时数据处理。本文深入解析 Redis 逻辑数据库与集群模式:逻辑数据库提供16个独立存储空间,适合小规模隔离;集群模式通过分布式架构支持高并发和大数据量,但仅支持 database 0。文章对比两者特性,讲解配置与实践注意事项,并探讨持久化及性能优化策略,助你根据需求选择最佳方案。
316 5
|
3月前
|
NoSQL Java 调度
分布式锁与分布式锁使用 Redis 和 Spring Boot 进行调度锁(不带 ShedLock)
分布式锁是分布式系统中用于同步多节点访问共享资源的机制,防止并发操作带来的冲突。本文介绍了基于Spring Boot和Redis实现分布式锁的技术方案,涵盖锁的获取与释放、Redis配置、服务调度及多实例运行等内容,通过Docker Compose搭建环境,验证了锁的有效性与互斥特性。
257 0
分布式锁与分布式锁使用 Redis 和 Spring Boot 进行调度锁(不带 ShedLock)
|
5月前
|
负载均衡 NoSQL Redis
【赵渝强老师】Redis的主从复制集群
Redis主从复制是指将一台Redis服务器的数据复制到其他Redis服务器,实现数据热备份、故障恢复、负载均衡及高可用架构的基础。主节点负责写操作,从节点同步数据并可提供读服务,提升并发处理能力。
167 5
|
4月前
|
存储 NoSQL 算法
Redis的集群架构与使用经验
本文介绍了Redis的集群架构与使用经验,包括主从复制、哨兵集群及Cluster分片集群的应用场景与实现原理。内容涵盖Redis主从同步机制、数据分片存储方式、事务支持及与Memcached的区别,并讨论了Redis内存用尽时的处理策略。适用于了解Redis高可用与性能优化方案。
|
6月前
|
网络协议 Java
在SpringBoot项目中使用Netty实现远程调用
本文介绍了使用Netty解决网络连接性能问题的方法,重点讲解了Netty的NIO特性及其在SpringBoot中的应用。Netty作为高效的NIO框架,支持非阻塞IO,能通过单线程管理多个客户端连接,简化TCP/UDP套接字服务器开发。文章详细展示了Netty在SpringBoot中实现远程调用的过程,包括服务端与客户端代码实现、依赖配置及测试验证。通过示例代码,如`NettyServer`、`NettyClientUtil`等,清晰说明了Netty的工作原理和实际应用,解决了半包等问题,并提供了完整的测试结果。
734 3