一.介绍
除了流量控制以外,对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。一个服务常常会调用别的模块,可能是另外的一个远程服务、数据库,或者第三方 API 等。例如,支付的时候,可能需要远程调用银联提供的 API;查询某个商品的价格,可能需要进行数据库查询。然而,这个被依赖服务的稳定性是不能保证的。如果依赖的服务出现了不稳定的情况,请求的响应时间变长,那么调用服务的方法的响应时间也会变长,线程会产生堆积,最终可能耗尽业务自身的线程池,服务本身也变得不可用。
现代微服务架构都是分布式的,由非常多的服务组成。不同服务之间相互调用,组成复杂的调用链路。以上的问题在链路调用中会产生放大的效果。复杂链路上的某一环不稳定,就可能会层层级联,最终导致整个链路都不可用。因此我们需要对不稳定的弱依赖服务调用进行熔断降级,暂时切断不稳定调用,避免局部不稳定因素导致整体的雪崩。熔断降级作为保护自身的手段,通常在客户端(调用端)进行配置。
二.熔断策略
1.慢调用比例 (SLOW_REQUEST_RATIO
):选择以慢调用比例作为阈值,需要设置允许的慢调用 RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。当单位统计时长(statIntervalMs
)内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断,若大于设置的慢调用 RT 则会再次被熔断。
2.异常比例 (ERROR_RATIO
):当单位统计时长(statIntervalMs
)内请求数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0]
,代表 0% - 100%。
3.异常数 (ERROR_COUNT
):当单位统计时长内的异常数目超过阈值之后会自动进行熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。
异常降级仅针对业务异常,对 Sentinel 限流降级本身的异常(BlockException
)不生效。
三.开始
慢调用比例(RT)
原理图
测试:
代码:每个请求进来需要暂停一秒钟(模拟处理业务需要一秒钟)
配置降级
dashboard:选择秒级平均响应时间RT,RT这里测试为200ms,也就是说必须在0.2秒之内处理完请求,时间窗口为1,代表在接下来的一秒内,打开断路器,触发熔断。
模拟并发访问
Jemeter多线程访问接口:没1秒钟10个线程并发请求接口。
测试结果:
因为downgrade接口处理业务需要1秒钟,一秒过后才返回,但是降级哪里配置了0.2秒内必须处理完,否则出发降级,这显示是不可能的,所以出发了降级。
异常比例
原理图
代码:int a = 10/0这段代码是会报错的,所以这段程序会抛出异常。
配置降级:异常比例为0.2(20%),意思是允许程序出现20%的异常,时间窗口为1,代表在接下来的1秒内降级
注:以上成立的条件是资源每秒的请求量 >= 5 , 如果资源每秒的请求量小于5,则程序不会降级,而是直接报错
测试
1.资源每秒请求量 >= 5
Jemeter每秒循环向接口并发访问10次(大于等于5)
2.资源每秒请求量 < 5
程序异常报错
异常数
当单位统计时长内的异常数目超过阈值之后会自动进行熔断。
原理图
代码
配置降级:
如下表示60秒内如果发生5次异常,则触发降级
测试结果:一分钟内发生五次异常则触发降级