Spring cloud Alibaba Sentinel

简介: Spring cloud Alibaba Sentinel

1 服务雪崩

分布式系统环境下,通常会有很多层的服务调用。由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。

如下图,对于同步调用,当底层的库存服务不可用时,商品服务请求线程被阻塞,当有大批量请求调用库存服务时,最终可能导致整个商品服务资源耗尽,无法继续对外提供服务。

由于服务与服务之间的依赖性,故障会传播,不可用沿请求调用链向上传递,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的 “雪崩效应”


20210131165037881.png

2 服务容错

2.1 容错方案

要防止雪崩的扩散,我们就要做好服务的容错:保护自己不被猪队友拖垮的一些措施。


常见的容错方案:隔离、超时、限流、熔断、降级


2.1.1、隔离

将系统按照一定的原则划分为若干个服务模块,各个模块之间相对独立,无强依赖。当有故障发生时,能将问题和影响隔离在某个模块内部,而不扩散风险,不波及其它模块,不影响整体的系统服务。常见的隔离方式有:线程池隔离和信号量隔离。


20210131223045280.png


2.2.2、超时

上游服务调用下游服务时,设置一个最大响应时间,如果超过这个时间,下游未作出响应,就断开请求,释放掉线程。


20210131223059650.png


2.2.3、限流

限制系统的输入和输出流量以达到保护系统的目的。为了保证系统的稳定运行,一旦达到的需要限制的阈值,就采取相应措施以完成限制流量的目的。


20210131223109743.png


2.2.4、熔断

当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性,可以暂时切断对下游服务的调用。这种牺牲局部,保全整体的措施就叫做熔断。


20210131223121352.png


2.2.5、降级

降级就是为服务提供一个托底方案,一旦服务无法正常调用,就使用托底方案。


20210131223133832.png


2.3 容错组件

2.3.1、Hystrix

Hystrix是由Netflix开源的一个延迟和容错组件,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。


2.3.2、Resilience4J

Resilicence4J提供丰富的容错工具,轻量、简单、文档清晰,也是Spring Cloud官方推荐替代Hystrix的产品。不仅如此,Resilicence4j还原生支持Spring Boot 1.x/2.x,而且监控也支持和prometheus等多款主流产品进行整合。


2.3.3、Sentinel

Sentinel 是阿里巴巴开源的一款断路器实现,在阿里内部已经被大规模采用,非常稳定。


3 Sentinel介绍和环境搭建

3.1 Sentinel介绍

3.1.1、什么是Sentinel

Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。


3.1.2、Sentinel 的特征

丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。

完备的实时监控:Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。

广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 SpringCloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。

完善的扩展点:Sentinel 提供简单易用、完善的扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

3.1.3、Sentinel 的组成

核心库(Java 客户端):不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo /Spring Cloud 等框架也有较好的支持。


控制台(Dashboard):基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等应用容器。


3.2 Sentinel控制台

Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。


3.2.1、下载和安装

下载地址:https://github.com/alibaba/Sentinel/releases


下载版本:sentinel-dashboard-1.7.0.jar


3.2.2、启动控制台

控制台本身是一个SpringBoot项目,直接使用jar命令启动项目

java -jar sentinel-dashboard-1.7.0.jar
java -Dserver.port=8888 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.7.0.jar

访问:http://localhost:8080


用户名密码:sentinel/sentinel


3.3 微服务集成Sentinel客户端

3.3.1、引入依赖

service模块中配置Sentinel的pom依赖(实际是在服务消费者端需要依赖)

<!--服务容错-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

3.3.2、添加测试方法

TeacherController中添加如下方法用于测试

@GetMapping("/message1")
public String message1() {
    return "message1";
}
@GetMapping("/message2")
public String message2() {
    return "message2";
}

3.4 微服务连接控制台

3.4.1、微服务配置

service_edu微服务yml中添加以下配置

#spring:
#  cloud:
    sentinel:
      transport:
        port: 8081 #跟控制台交流的端口,随意指定一个未使用的端口即可
        dashboard: localhost:8080 # 指定控制台服务的地址

3.4.2、swagger中测试

测试message1和message2的访问


3.4.3、查看sentinel控制台

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-sSWGesR2-1612083142052)(file:///C:/Users/Administrator/Documents/My Knowledge/temp/a63aea4d-1af3-4723-8e3e-74172b0abbfe/128/index_files/3884aad4-c899-4205-9ac5-21d0ae8a3437.png)]


3.4.4、控制台运行原理

Sentinel的控制台是一个SpringBoot编写的程序。我们需要将我们的微服务程序注册到控制台上,即在微服务中指定控制台的地址(localhost:8080)


并且还要开启一个跟控制台传递数据的端口(8081),控制台也可以通过此端口调用微服务中的监控程序获取微服务的各种信息。


4 Sentinel的概念和功能

4.1 实现接口限流

4.1.1、添加流控规则


2021013122315917.png

4.1.2、基本参数

资源名:唯一名称,默认是请求路径,可自定义

针对来源:指定对哪个微服务进行限流,默认指default,意思是不区分来源,全部限制

阈值类型/单机阈值:

QPS(每秒请求数量): 当调用该接口的QPS达到阈值的时候,进行限流

线程数:当调用该接口的线程数达到阈值的时候,进行限流

是否集群:暂不需要集群

20210131223217694.png


4.1.3、测试限流效果**

快速访问message1


20210131223228584.png


4.2 基本概念

4.2.1、资源

资源就是Sentinel要保护的东西


资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,可以是一个服务,也可以是一个方法,甚至可以是一段代码。


案例中的message1方法就可以认为是一个资源

4.2.2、规则

规则就是用来定义如何进行保护资源的


作用在资源之上, 定义以什么样的方式保护资源,主要包括流量控制规则、熔断降级规则以及系统保护规则。


案例中就是为message1资源设置了一种流控规则, 限制了进入message1的流量

4.3 重要功能

20210131223314947.png


4.3.1、流量控制

思想:保证自己不被上游服务压垮


任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel可以根据需要把随机的请求调整成合适的形状。


4.3.2、熔断降级

思想:保证自己不被下游服务拖垮


当检测到调用链路中某个资源出现不稳定的表现,例如请求响应时间长或异常比例升高的时候,则对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联故障。


4.3.3、系统负载保护

思想:保证外界环境良好(CPU、内存)


当系统负载较高的时候,如果还持续让请求进入可能会导致系统崩溃,无法响应。在集群环境下,会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。


5 OpenFeign整合Sentinel

让天下没有难学的技术


5.1 引入sentinel的依赖

<!--服务容错-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

5.2 开启Sentinel支持

在service_edu的yml配置文件中开启Feign对Sentinel的支持

feign:
  sentinel:
    enabled: true

5.3 创建容错类

package com.atguigu.guli.service.edu.feign.fallback;
@Service
public class OssFileServiceFallBack implements OssFileService {
    @Override
    public R test() {
        return R.error();
    }
    @Override
    public R removeFile(String url) {
        log.info("熔断保护");
        return R.error();
    }
}

5.4 指定容错类

为OpenFeign远程调用接口添加fallback属性值没指定容错类

@Service
@FeignClient(value = "service-oss", fallback = OssFileServiceFallBack.class)
public interface OssFileService {

5.5 测试

停止service_oss微服务,测试删除讲师的功能

目录
相关文章
|
2月前
|
SpringCloudAlibaba API 开发者
新版-SpringCloud+SpringCloud Alibaba
新版-SpringCloud+SpringCloud Alibaba
|
3月前
|
Java UED Sentinel
微服务守护神:Spring Cloud Sentinel,让你的系统在流量洪峰中稳如磐石!
【8月更文挑战第29天】Spring Cloud Sentinel结合了阿里巴巴Sentinel的流控、降级、熔断和热点规则等特性,为微服务架构下的应用提供了一套完整的流量控制解决方案。它能够有效应对突发流量,保护服务稳定性,避免雪崩效应,确保系统在高并发下健康运行。通过简单的配置和注解即可实现高效流量控制,适用于高并发场景、依赖服务不稳定及资源保护等多种情况,显著提升系统健壮性和用户体验。
82 1
|
6天前
|
人工智能 前端开发 Java
基于开源框架Spring AI Alibaba快速构建Java应用
本文旨在帮助开发者快速掌握并应用 Spring AI Alibaba,提升基于 Java 的大模型应用开发效率和安全性。
基于开源框架Spring AI Alibaba快速构建Java应用
|
26天前
|
JSON SpringCloudAlibaba Java
Springcloud Alibaba + jdk17+nacos 项目实践
本文基于 `Springcloud Alibaba + JDK17 + Nacos2.x` 介绍了一个微服务项目的搭建过程,包括项目依赖、配置文件、开发实践中的新特性(如文本块、NPE增强、模式匹配)以及常见的问题和解决方案。通过本文,读者可以了解如何高效地搭建和开发微服务项目,并解决一些常见的开发难题。项目代码已上传至 Gitee,欢迎交流学习。
100 1
Springcloud Alibaba + jdk17+nacos 项目实践
|
14天前
|
消息中间件 自然语言处理 Java
知识科普:Spring Cloud Alibaba基本介绍
知识科普:Spring Cloud Alibaba基本介绍
45 2
|
20天前
|
人工智能 开发框架 Java
总计 30 万奖金,Spring AI Alibaba 应用框架挑战赛开赛
Spring AI Alibaba 应用框架挑战赛邀请广大开发者参与开源项目的共建,助力项目快速发展,掌握 AI 应用开发模式。大赛分为《支持 Spring AI Alibaba 应用可视化调试与追踪本地工具》和《基于 Flow 的 AI 编排机制设计与实现》两个赛道,总计 30 万奖金。
|
21天前
|
人工智能 Java API
阿里云开源 AI 应用开发框架:Spring AI Alibaba
近期,阿里云重磅发布了首款面向 Java 开发者的开源 AI 应用开发框架:Spring AI Alibaba(项目 Github 仓库地址:alibaba/spring-ai-alibaba),Spring AI Alibaba 项目基于 Spring AI 构建,是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践,提供高层次的 AI API 抽象与云原生基础设施集成方案,帮助开发者快速构建 AI 应用。本文将详细介绍 Spring AI Alibaba 的核心特性,并通过「智能机票助手」的示例直观的展示 Spring AI Alibaba 开发 AI 应用的便利性。示例源
|
22天前
|
Dubbo Java 应用服务中间件
Dubbo学习圣经:从入门到精通 Dubbo3.0 + SpringCloud Alibaba 微服务基础框架
尼恩团队的15大技术圣经,旨在帮助开发者系统化、体系化地掌握核心技术,提升技术实力,从而在面试和工作中脱颖而出。本文介绍了如何使用Dubbo3.0与Spring Cloud Gateway进行整合,解决传统Dubbo架构缺乏HTTP入口的问题,实现高性能的微服务网关。
|
26天前
|
人工智能 Java API
阿里云开源 AI 应用开发框架:Spring AI Alibaba
阿里云开源 Spring AI Alibaba,旨在帮助 Java 开发者快速构建 AI 应用,共同构建物理新世界。
|
22天前
|
负载均衡 算法 Java
蚂蚁面试:Nacos、Sentinel了解吗?Springcloud 核心底层原理,你知道多少?
40岁老架构师尼恩分享了关于SpringCloud核心组件的底层原理,特别是针对蚂蚁集团面试中常见的面试题进行了详细解析。内容涵盖了Nacos注册中心的AP/CP模式、Distro和Raft分布式协议、Sentinel的高可用组件、负载均衡组件的实现原理等。尼恩强调了系统化学习的重要性,推荐了《尼恩Java面试宝典PDF》等资料,帮助读者更好地准备面试,提高技术实力,最终实现“offer自由”。更多技术资料和指导,可关注公众号【技术自由圈】获取。
蚂蚁面试:Nacos、Sentinel了解吗?Springcloud 核心底层原理,你知道多少?