服务雪崩效应|学习笔记

简介: 快速学习服务雪崩效应

开发者学堂课程【全面讲解 Spring Cloud Alibaba 技术栈(知识精讲+项目实战)第二阶段服务雪崩效应】学习笔记与课程紧密联系,让用户快速学习知识

课程地址https://developer.aliyun.com/learning/course/684/detail/11869


服务雪崩效应

 

内容介绍:

一、服务瘫痪

二、雪崩效应

 

一、服务瘫痪

在分布式系统中,由于网络原因或自身的原因,服务一般无法保证100%用。如果一个服务出现了问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等待,进而导致服务瘫痪。

 

二、雪崩效应

1.由于服务与服务之间的依赖性,故障会传播,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的“雪崩效应”。

运用下图进行理解

image.png

服务依赖关系:

A服务依赖于 B 服务,B 服务依赖于C 服务

某一个时刻,C 服务挂掉了,但是B服务依旧在不断的调用C服务

由于 C 服务挂掉了,导致B服务也一直拿不到C的响应结果,这时候就会有大量线程堆积在 B 线程,最终导致B挂掉

同样的道理,A服务最终也会挂掉,至此整个服务链调用全部挂掉

2.了便于理解,再进行细化

⑴假设A里面有个方法叫a1,B里面有个方法叫b1,C里面有个方法叫c1,同样也有a2、b2和c2。

⑵b1方法调用了c1方法,a2方法调用了b2方法,如图所示:

image.png

⑶由于服务C的崩溃,会导致产生雪崩效应

3. 雪崩发生的原因多种多样,有不合理的容量设计,或者是高并发下某一个方法响应变慢,亦或是某台机器的资源耗尽。

我们无法完全杜绝雪崩源头的发生,只有做好足够的容错,保证在一个服务发生问题,不会影响到其它服务的正常运行。也就是“雪落而不雪崩”。

⑴不合理的容量设计:如B服务只能容纳30个请求,如果每次来50个请求,会导致服务 B 繁忙

⑵高并发下某一个方法响应变慢:正常情况下,服务 C 可每秒进行一个反应,但在高并发下,需要3秒做出一个反应

⑶容错:服务 C 不影响服务B,服务 B 不被服务 C 影响

相关文章
|
Dubbo Java 应用服务中间件
深入了解Spring Cloud Alibaba Dubbo
在现代分布式系统开发中,构建高性能、可伸缩性和弹性的微服务架构变得越来越重要。Spring Cloud Alibaba Dubbo(简称Dubbo)是一个开源的分布式服务框架,可以帮助开发者构建强大的微服务架构,具备负载均衡、服务治理、远程调用等强大功能。本文将深入介绍Spring Cloud Alibaba Dubbo,帮助你理解它的核心概念、工作原理以及如何在你的项目中使用它。
|
网络协议 算法 网络性能优化
第十一问:TCP的窗口机制是什么?
TCP的窗口机制是实现流量控制和拥塞控制的重要手段,主要包括滑动窗口、接收窗口(rwnd)和拥塞窗口(cwnd)。滑动窗口定义了发送方允许发送的数据范围,接收窗口控制接收方的缓冲区容量,拥塞窗口防止网络拥塞。这些窗口通过动态调整,确保数据传输的高效性和可靠性。
|
6月前
|
机器学习/深度学习 自然语言处理 前端开发
国内快递地址解析技术的工作原理详解
随着电商和快递行业快速发展,非结构化地址问题日益突出,如字段混杂、拼写错误等,传统方式难以高效处理。为此,探数平台推出基于NLP和地理信息的快递地址解析API,可将原始地址文本解析为标准结构化字段(如省、市、区、街道等),并支持收件人姓名与电话提取。 技术上,该API采用深度学习模型(如BERT、BiLSTM)进行语义理解,结合地址知识图谱实现纠错与补全。服务支持SaaS调用或私有化部署,性能稳定,适用于各类前端场景。通过地址结构化处理,企业可显著提升订单处理效率,减少配送错误,优化用户体验,助力全链路智能化升级。无论是电商平台还是物流系统,均可从中受益。
521 0
|
人工智能 边缘计算 JSON
DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
本文详细介绍在 PAI 平台使用 DistilQwen2 蒸馏小模型的全链路最佳实践。
|
存储 缓存 负载均衡
NGINX 性能调优的五大技巧
【8月更文挑战第27天】
435 5
|
开发工具 Android开发 开发者
Android 项目编译 Gradle 配置说明
Android 项目编译 Gradle 配置说明
639 0
|
人工智能 自然语言处理 开发工具
Agent调研--19类Agent框架对比(下)
Agent调研--19类Agent框架对比(下)
4120 0
|
存储 调度 Docker
docker搭建FastDFS文件系统docker安FastDFS
docker搭建FastDFS文件系统docker安FastDFS
413 0
|
SQL 关系型数据库 MySQL
性能提高20倍!MySQL排序引起的性能问题及解决方案
负责公司的用户收藏服务,收到调用方反馈有read time out的情况,进行排查发现是某用户收藏数量太多引起的(有业务设计上的问题,正常应只保留有限时间的收藏或者限制用户收藏的数量),一般用户收藏数是不超过100的,查询耗时是几毫秒,该用户收藏数2W+,查询耗时接近200毫秒。
4140 0