分布式系统架构中高可用方案技术选型:Hystrix 框架实现服务保护使用详解

简介: 本篇文章介绍了分布式系统架构下的经典的高可用框架Hsytrix实现的断路器,服务降级,服务熔断,服务隔离以及解决服务雪崩效应的问题。详细分析了基于Hystrix框架解决分布式系统中服务雪崩效应的几种机制,以及在项目中如何集成Hystrix框架并且在项目中使用Hystrix框架实现分布式系统中的服务治理。

Hystrix

  • Hystrix是Netflix开源的高可用框架,能够完美解决分布式系统架构中高可用服务的问题

    • 断路器
    • 服务降级
    • 服务熔断
    • 服务隔离机制
    • 服务雪崩效应
  • Hystrix具有自我保护能力

服务保护概念

  • 在微服务高可用分布式系统中会出现:服务间的调用超时,服务间的调用时失败问题

服务雪崩效应

  • 默认情况下,Tomcat只有一个线程池处理客户端发送的请求,这样在高并发的情况下客户端所有请求堆积在同一个服务接口,就会产生Tomcat所有线程池去处理服务接口,会导致其它服务接口无法访问,这样在其它接口访问的时候就会产生延迟和等待
  • 服务雪崩效应严重会造成连环雪崩效应,可能会导致所有微服务接口无法访问,导致整个服务瘫痪
Tomcat中有个线程池,每个线程去处理客户端发送的每次请求
  • 基于Hystrix解决服务雪崩效应的机制:

    • 服务降级:
    • 服务熔断:
    • 服务隔离:

服务降级

  • 在高并发的情况下,防止用户等待,服务调用fallBack方法,返回一个友好提示直接给客户端而不会去处理请求,目的是为了提升用户体验
当Tomcat中没有线程处理客户端请求的时候,不应该让界面一致转圈,让用户等待

如果服务在调用其它接口超时的时候(默认1秒),默认情况下,业务逻辑是可以执行的,如果服务没有响应直接执行的是服务降级方法

服务熔断

  • 在高并发的情况下,设定服务的阈值,当流量过高超出给定的阈值,会自动开启保护功能,使用服务降级方式返回一个友好提示给客户端
  • 熔断机制和服务降级是一起作用的
  • 服务熔断的目的是为了保护服务

服务隔离

  • 服务隔离有两种:线程池隔离信号量隔离
  • 线程池隔离:

    • 每个服务接口都有自己独立的线程池,每个线程池互补影响
    • 由于线程池CPU占用率非常高,不是所有服务接口都采用线程池隔离,只有核心关键的接口才会采用线程池隔离

Hystrix环境搭建

  • 导入Hystrix依赖:spring-cloud-starter-netflix-hystrix
  • 在服务消费者(Consumer)项目中的配置文件中开启Hystrix断路器
feign.hystrix.enabled=true
  • 在配置文件中设置hystrix服务超时时间,防止业务服务响应不及时,执行服务降级
hystrix.command.default.execution.isolation.thread. timeoutInMilliseconds=10000
  • 在主类上标注@EnableFeignClient开启Fegin的Hystrix功能
  • 在服务实现的方法上标注 @HystrixCommand注解使用Hystrix框架
@HystrixCommand默认开启了服务降级,服务熔断,服务隔离
@HystrixCommand中的服务隔离默认开启线程池隔离方式
@HystrixCommand(fallback="服务降级提示方法名称"),其中的fallback用于服务降级

fallback接口

  • Hystrix使用类方式fallback进行服务降级的方法处理
1.新建fallback类
2.类上标注@Component注解将类加载到容器中
3.调用fallback类时,在@FeignClient注释中添加fallback参数@FeignClient(fallback=Fallback.class)
相关文章
|
5天前
|
存储 SQL 关系型数据库
Mysql高可用架构方案
本文阐述了Mysql高可用架构方案,介绍了 主从模式,MHA模式,MMM模式,MGR模式 方案的实现方式,没有哪个方案是完美的,开发人员在选择何种方案应用到项目中也没有标准答案,合适的才是最好的。
49 3
Mysql高可用架构方案
|
12天前
|
数据采集 监控 前端开发
二级公立医院绩效考核系统源码,B/S架构,前后端分别基于Spring Boot和Avue框架
医院绩效管理系统通过与HIS系统的无缝对接,实现数据网络化采集、评价结果透明化管理及奖金分配自动化生成。系统涵盖科室和个人绩效考核、医疗质量考核、数据采集、绩效工资核算、收支核算、工作量统计、单项奖惩等功能,提升绩效评估的全面性、准确性和公正性。技术栈采用B/S架构,前后端分别基于Spring Boot和Avue框架。
|
26天前
|
存储 缓存 算法
分布式锁服务深度解析:以Apache Flink的Checkpointing机制为例
【10月更文挑战第7天】在分布式系统中,多个进程或节点可能需要同时访问和操作共享资源。为了确保数据的一致性和系统的稳定性,我们需要一种机制来协调这些进程或节点的访问,避免并发冲突和竞态条件。分布式锁服务正是为此而生的一种解决方案。它通过在网络环境中实现锁机制,确保同一时间只有一个进程或节点能够访问和操作共享资源。
61 3
|
17天前
|
人工智能 前端开发 JavaScript
前端架构思考 :专注于多框架的并存可能并不是唯一的方向 — 探讨大模型时代前端的分层式微前端架构
随着前端技术的发展,微前端架构成为应对复杂大型应用的流行方案,允许多个团队使用不同技术栈并将其模块化集成。然而,这种设计在高交互性需求的应用中存在局限,如音视频处理、AI集成等。本文探讨了传统微前端架构的不足,并提出了一种新的分层式微前端架构,通过展示层与业务层的分离及基于功能的横向拆分,以更好地适应现代前端需求。
|
1月前
|
存储 分布式计算 API
大数据-107 Flink 基本概述 适用场景 框架特点 核心组成 生态发展 处理模型 组件架构
大数据-107 Flink 基本概述 适用场景 框架特点 核心组成 生态发展 处理模型 组件架构
75 0
|
2天前
|
监控
SMoA: 基于稀疏混合架构的大语言模型协同优化框架
通过引入稀疏化和角色多样性,SMoA为大语言模型多代理系统的发展开辟了新的方向。
15 6
SMoA: 基于稀疏混合架构的大语言模型协同优化框架
|
7天前
|
缓存 关系型数据库 MySQL
高并发架构系列:数据库主从同步的 3 种方案
本文详解高并发场景下数据库主从同步的三种解决方案:数据主从同步、数据库半同步复制、数据库中间件同步和缓存记录写key同步,旨在帮助解决数据一致性问题。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
高并发架构系列:数据库主从同步的 3 种方案
|
19天前
|
存储 缓存 NoSQL
分布式架构下 Session 共享的方案
【10月更文挑战第15天】在实际应用中,需要根据具体的业务需求、系统架构和性能要求等因素,选择合适的 Session 共享方案。同时,还需要不断地进行优化和调整,以确保系统的稳定性和可靠性。
|
21天前
|
消息中间件 关系型数据库 Java
‘分布式事务‘ 圣经:从入门到精通,架构师尼恩最新、最全详解 (50+图文4万字全面总结 )
本文 是 基于尼恩之前写的一篇 分布式事务的文章 升级而来 , 尼恩之前写的 分布式事务的文章, 在全网阅读量 100万次以上 , 被很多培训机构 作为 顶级教程。 此文修改了 老版本的 一个大bug , 大家不要再看老版本啦。
|
25天前
|
存储 安全 API
单元化架构,分布式系统的新王!
【10月更文挑战第9天】
92 0
单元化架构,分布式系统的新王!
下一篇
无影云桌面