分布式系统架构中高可用方案技术选型:Hystrix 框架实现服务保护使用详解

简介: 本篇文章介绍了分布式系统架构下的经典的高可用框架Hsytrix实现的断路器,服务降级,服务熔断,服务隔离以及解决服务雪崩效应的问题。详细分析了基于Hystrix框架解决分布式系统中服务雪崩效应的几种机制,以及在项目中如何集成Hystrix框架并且在项目中使用Hystrix框架实现分布式系统中的服务治理。

Hystrix

  • Hystrix是Netflix开源的高可用框架,能够完美解决分布式系统架构中高可用服务的问题

    • 断路器
    • 服务降级
    • 服务熔断
    • 服务隔离机制
    • 服务雪崩效应
  • Hystrix具有自我保护能力

服务保护概念

  • 在微服务高可用分布式系统中会出现:服务间的调用超时,服务间的调用时失败问题

服务雪崩效应

  • 默认情况下,Tomcat只有一个线程池处理客户端发送的请求,这样在高并发的情况下客户端所有请求堆积在同一个服务接口,就会产生Tomcat所有线程池去处理服务接口,会导致其它服务接口无法访问,这样在其它接口访问的时候就会产生延迟和等待
  • 服务雪崩效应严重会造成连环雪崩效应,可能会导致所有微服务接口无法访问,导致整个服务瘫痪
Tomcat中有个线程池,每个线程去处理客户端发送的每次请求
  • 基于Hystrix解决服务雪崩效应的机制:

    • 服务降级:
    • 服务熔断:
    • 服务隔离:

服务降级

  • 在高并发的情况下,防止用户等待,服务调用fallBack方法,返回一个友好提示直接给客户端而不会去处理请求,目的是为了提升用户体验
当Tomcat中没有线程处理客户端请求的时候,不应该让界面一致转圈,让用户等待

如果服务在调用其它接口超时的时候(默认1秒),默认情况下,业务逻辑是可以执行的,如果服务没有响应直接执行的是服务降级方法

服务熔断

  • 在高并发的情况下,设定服务的阈值,当流量过高超出给定的阈值,会自动开启保护功能,使用服务降级方式返回一个友好提示给客户端
  • 熔断机制和服务降级是一起作用的
  • 服务熔断的目的是为了保护服务

服务隔离

  • 服务隔离有两种:线程池隔离信号量隔离
  • 线程池隔离:

    • 每个服务接口都有自己独立的线程池,每个线程池互补影响
    • 由于线程池CPU占用率非常高,不是所有服务接口都采用线程池隔离,只有核心关键的接口才会采用线程池隔离

Hystrix环境搭建

  • 导入Hystrix依赖:spring-cloud-starter-netflix-hystrix
  • 在服务消费者(Consumer)项目中的配置文件中开启Hystrix断路器
feign.hystrix.enabled=true
  • 在配置文件中设置hystrix服务超时时间,防止业务服务响应不及时,执行服务降级
hystrix.command.default.execution.isolation.thread. timeoutInMilliseconds=10000
  • 在主类上标注@EnableFeignClient开启Fegin的Hystrix功能
  • 在服务实现的方法上标注 @HystrixCommand注解使用Hystrix框架
@HystrixCommand默认开启了服务降级,服务熔断,服务隔离
@HystrixCommand中的服务隔离默认开启线程池隔离方式
@HystrixCommand(fallback="服务降级提示方法名称"),其中的fallback用于服务降级

fallback接口

  • Hystrix使用类方式fallback进行服务降级的方法处理
1.新建fallback类
2.类上标注@Component注解将类加载到容器中
3.调用fallback类时,在@FeignClient注释中添加fallback参数@FeignClient(fallback=Fallback.class)
相关文章
|
10月前
|
人工智能 Kubernetes 数据可视化
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
本文回顾了一次关键词监测任务在容器集群中失效的全过程,分析了中转IP复用、调度节奏和异常处理等隐性风险,并提出通过解耦架构、动态IP分发和行为模拟优化采集策略,最终实现稳定高效的数据抓取与分析。
225 2
Kubernetes下的分布式采集系统设计与实战:趋势监测失效引发的架构进化
|
9月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
1380 3
|
7月前
|
缓存 Cloud Native 中间件
《聊聊分布式》从单体到分布式:电商系统架构演进之路
本文系统阐述了电商平台从单体到分布式架构的演进历程,剖析了单体架构的局限性与分布式架构的优势,结合淘宝、京东等真实案例,深入探讨了服务拆分、数据库分片、中间件体系等关键技术实践,并总结了渐进式迁移策略与核心经验,为大型应用架构升级提供了全面参考。
|
7月前
|
存储 NoSQL 前端开发
【赵渝强老师】MongoDB的分布式存储架构
MongoDB分片通过将数据分布到多台服务器,实现海量数据的高效存储与读写。其架构包含路由、配置服务器和分片服务器,支持水平扩展,结合复制集保障高可用性,适用于大规模生产环境。
532 1
|
11月前
|
监控 算法 关系型数据库
分布式事务难题终结:Seata+DRDS全局事务一致性架构设计
在分布式系统中,CAP定理限制了可用性、一致性与分区容错的三者兼得,尤其在网络分区时需做出取舍。为应对这一挑战,最终一致性方案成为常见选择。以电商订单系统为例,微服务化后,原本的本地事务演变为跨数据库的分布式事务,暴露出全局锁失效、事务边界模糊及协议差异等问题。本文深入探讨了基于 Seata 与 DRDS 的分布式事务解决方案,涵盖 AT 模式实践、分片策略优化、典型问题处理、性能调优及高级特性实现,结合实际业务场景提供可落地的技术路径与架构设计原则。通过压测验证,该方案在事务延迟、TPS 及失败率等方面均取得显著优化效果。
573 61
|
8月前
|
消息中间件 缓存 监控
中间件架构设计与实践:构建高性能分布式系统的核心基石
摘要 本文系统探讨了中间件技术及其在分布式系统中的核心价值。作者首先定义了中间件作为连接系统组件的"神经网络",强调其在数据传输、系统稳定性和扩展性中的关键作用。随后详细分类了中间件体系,包括通信中间件(如RabbitMQ/Kafka)、数据中间件(如Redis/MyCAT)等类型。文章重点剖析了消息中间件的实现机制,通过Spring Boot代码示例展示了消息生产者的完整实现,涵盖消息ID生成、持久化、批量发送及重试机制等关键技术点。最后,作者指出中间件架构设计对系统性能的决定性影响,
|
监控 Linux 应用服务中间件
Linux多节点多硬盘部署MinIO:分布式MinIO集群部署指南搭建高可用架构实践
通过以上步骤,已成功基于已有的 MinIO 服务,扩展为一个 MinIO 集群。该集群具有高可用性和容错性,适合生产环境使用。如果有任何问题,请检查日志或参考MinIO 官方文档。作者联系方式vx:2743642415。
3854 57
|
人工智能 负载均衡 Java
Spring AI Alibaba 发布企业级 MCP 分布式部署方案
本文介绍了Spring AI Alibaba MCP的开发与应用,旨在解决企业级AI Agent在分布式环境下的部署和动态更新问题。通过集成Nacos,Spring AI Alibaba实现了流量负载均衡及节点变更动态感知等功能。开发者可方便地将企业内部业务系统发布为MCP服务或开发自己的AI Agent。文章详细描述了如何通过代理应用接入存量业务系统,以及全新MCP服务的开发流程,并提供了完整的配置示例和源码链接。未来,Spring AI Alibaba计划结合Nacos3的mcp-registry与mcp-router能力,进一步优化Agent开发体验。
3996 14
|
12月前
|
NoSQL 算法 安全
redis分布式锁在高并发场景下的方案设计与性能提升
本文探讨了Redis分布式锁在主从架构下失效的问题及其解决方案。首先通过CAP理论分析,Redis遵循AP原则,导致锁可能失效。针对此问题,提出两种解决方案:Zookeeper分布式锁(追求CP一致性)和Redlock算法(基于多个Redis实例提升可靠性)。文章还讨论了可能遇到的“坑”,如加从节点引发超卖问题、建议Redis节点数为奇数以及持久化策略对锁的影响。最后,从性能优化角度出发,介绍了减少锁粒度和分段锁的策略,并结合实际场景(如下单重复提交、支付与取消订单冲突)展示了分布式锁的应用方法。
923 3
|
消息中间件 缓存 算法
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡
1274 0
分布式开发:数字时代的高性能架构革命-为什么要用分布式?优雅草卓伊凡

热门文章

最新文章