亿级流量架构理论+秒杀实战系列(三)

简介: 亿级流量架构理论+秒杀实战系列(三)

亿级用户的请求分层过滤模型

请求处理模型

直筒型

直筒型请求处理模型,指的是用户请求 1:1 的洞穿到db层,如下图所示。在比较简单的业务中,才会采用这个模型。

传统的低并发、低性能、低可用项目。

直筒型请求处理模型的适用场景:

企业级应用。

特点:

1. 用户规模较小

2. 请求峰值和平均值相差不大

3. 请求峰值不会超过数据层的处理能力

漏斗型

漏斗型业务,指的是,用户的请求,从客户端到 db层,层层递减,递减的程度视业务而定。例如当 10w 人去抢100个物品时,db层的请求在个位数量级 1000以内,这就是比较理想的模型。

693e423dc198cf1cf14d15f9d94af655.png

漏斗型请求处理模型的适用场景:

互联网应用(如秒杀)

特点:

1. 用户规模大

2. 请求峰值和平均值相差巨大

3. 请求峰值远远超出最后一层(数据层)的处理能力

漏斗模型中的请求分层过滤

漏斗型请求处理模型的核心策略,对请求进行分层过滤。

而针对漏斗型请求处理模型(如秒杀场景)一 种核心策略,就是对请求进行分层过滤,从而过滤掉一些无效的请求。

a4fbdae6d5828ac70368fca226ad6086.png

案例:秒杀系统的分层过滤

比如,在秒杀系统中,请求分别经过 CDN、Nginx(商品详情)、微服务(如seckill)和数据库这几层,那么:

1 大部分数据和流量在用户浏览器或者 CDN上获取,这一层可以拦截大部分静态资源的读取;

2、经过第二层 Nginx(商品详情)时,尽量得走 Nginx Cache,过滤一些可以直接访问Nginx缓存的 请求;经过第二层 Nginx(商品详情)时,也可以进行流控,还可以进行黑名单过滤,拦截掉一些无效的流量;

3、再到服务层,进入微服务网关时,可以做用户的授权检验,对系统做好保护和限流,这样数据量和请求就进一步减少;

4、业务层,还可以进行数据的有效性、一致性过滤,这里又减少了一些流量。这样就像漏斗一样,尽量把数据量和请求量一层一层地过滤和减少了。

分层过滤的核心思想是:在不同的层次尽可能地过滤掉无效请求,让“漏斗”最末端的才是有效 请求。而要达到这种效果,我们就必须对数据做分层的校验。

写入操作的流量削峰方案(降级方案)

削峰从本质上来说,就是更多地延缓用户请求,以及层层过滤用户的访问需求,遵从【最后落地到数据 库的请求数要尽量少】的原则。

同步的直接调用转换成异步的间接推送

要对流量进行削峰,最容易想到的解决方案就是用消息队列来缓冲瞬时流量,把同步的直接调用转换成 异步的间接推送,中间通过一个队列在一端承接瞬时的流量洪峰,在另一端平滑地将消息推送出去。

消息队列中间件主要解决应用耦合、异步消息、流量削峰等问题。常用的消息队列系统有ActiveMQ、 RabbitMQ、ZeroMQ、Kafka、Me'taMQ和RocketMQ等。

在这里,消息队列就像是水库一样,拦截上游的洪水,削减进下游河道的洪峰流量,从而达到减免洪水灾害的目的。

分层限流:防止系统雪崩的无奈策略

分层限流:接入层、服务层 限流,根据各层的能力,对系统进行保护
相关文章
|
4天前
|
消息中间件 缓存 Java
亿级流量电商平台微服务架构详解
【10月更文挑战第2天】构建一个能够处理亿级流量的电商平台微服务架构是一个庞大且复杂的任务,这通常涉及到多个微服务、数据库分库分表、缓存策略、消息队列、负载均衡、熔断降级、分布式事务等一系列高级技术和架构模式。
25 3
|
9天前
|
存储 前端开发 API
DDD领域驱动设计实战-分层架构
DDD分层架构通过明确各层职责及交互规则,有效降低了层间依赖。其基本原则是每层仅与下方层耦合,分为严格和松散两种形式。架构演进包括传统四层架构与改良版四层架构,后者采用依赖反转设计原则优化基础设施层位置。各层职责分明:用户接口层处理显示与请求;应用层负责服务编排与组合;领域层实现业务逻辑;基础层提供技术基础服务。通过合理设计聚合与依赖关系,DDD支持微服务架构灵活演进,提升系统适应性和可维护性。
|
21天前
|
运维 持续交付 API
深入理解并实践微服务架构:从理论到实战
深入理解并实践微服务架构:从理论到实战
55 3
|
23天前
|
存储 缓存 负载均衡
亿级流量架构理论+秒杀实战系列(二)
亿级流量架构理论+秒杀实战系列(二)
|
1月前
|
运维 监控 持续交付
深入浅出:微服务架构的设计与实战
微服务,一个在软件开发领域如雷贯耳的名词,它代表着一种现代软件架构的风格。本文将通过浅显易懂的语言,带领读者从零开始了解微服务的概念、设计原则及其在实际项目中的运用。我们将一起探讨如何将一个庞大的单体应用拆分为灵活、独立、可扩展的微服务,并分享一些实践中的经验和技巧。无论你是初学者还是有一定经验的开发者,这篇文章都将为你提供新的视角和深入的理解。
62 3
|
23天前
|
SQL 缓存 运维
亿级流量架构理论+秒杀实战系列(一)
亿级流量架构理论+秒杀实战系列(一)
|
2月前
|
前端开发 开发者 C#
WPF开发者必读:MVVM模式实战,轻松实现现代桌面应用架构,让你的代码更上一层楼!
【8月更文挑战第31天】在WPF应用程序开发中,MVVM(Model-View-ViewModel)模式通过分离应用程序的逻辑和界面,提高了代码的可维护性和可扩展性。本文介绍了MVVM模式的三个核心组件:Model(数据模型)、View(用户界面)和ViewModel(处理数据绑定和逻辑),并通过示例代码展示了如何在WPF项目中实现MVVM模式。通过这种方式,开发者可以构建更加高效和可扩展的桌面应用程序。
84 0
|
2月前
|
资源调度 分布式计算 监控
【揭秘Hadoop YARN背后的奥秘!】从零开始,带你深入了解YARN资源管理框架的核心架构与实战应用!
【8月更文挑战第24天】Hadoop YARN(Yet Another Resource Negotiator)是Hadoop生态系统中的资源管理器,为Hadoop集群上的应用提供统一的资源管理和调度框架。YARN通过ResourceManager、NodeManager和ApplicationMaster三大核心组件实现高效集群资源利用及多框架支持。本文剖析YARN架构及组件工作原理,并通过示例代码展示如何运行简单的MapReduce任务,帮助读者深入了解YARN机制及其在大数据处理中的应用价值。
64 0
|
3天前
|
缓存 监控 API
探索微服务架构中的API网关模式
【10月更文挑战第5天】随着微服务架构的兴起,企业纷纷采用这一模式构建复杂应用。在这种架构下,应用被拆分成若干小型、独立的服务,每个服务围绕特定业务功能构建并通过HTTP协议协作。随着服务数量增加,统一管理这些服务间的交互变得至关重要。API网关作为微服务架构的关键组件,承担起路由请求、聚合数据、处理认证与授权等功能。本文通过一个在线零售平台的具体案例,探讨API网关的优势及其实现细节,展示其在简化客户端集成、提升安全性和性能方面的关键作用。
14 2
|
7天前
|
存储 缓存 监控
探索微服务架构中的API网关模式
【10月更文挑战第1天】探索微服务架构中的API网关模式
30 2