ECS7天实践训练营——SLB负载均衡实践

简介: 本文测试了阿里云的SLB负载均衡,并对结果进行了记录

〇、背景知识

简介

负载均衡(Server Load Balancer)是将访问流量根据转发策略分发到后端多台云服务器(ECS实例)的流量分发控制服务。负载均衡扩展了应用的服务能力,增强了应用的可用性。负载均衡通过设置虚拟服务地址,将添加的ECS实例虚拟成一个高性能、高可用的应用服务池,并根据转发规则,将来自客户端的请求分发给云服务器池中的ECS实例。负载均衡默认检查云服务器池中ECS实例的健康状态,自动隔离异常状态的ECS实例,消除了单台ECS实例的单点故障,提高了应用的整体服务能力。

架构

负载均衡服务主要有三个核心概念:

  • 负载均衡实例 (Server Load Balancer instances):一个负载均衡实例是一个运行的负载均衡服务,用来接收流量并将其分配给后端服务器。要使用负载均衡服务,您必须创建一个负载均衡实例,并至少添加一个监听和两台ECS实例。
  • 监听 (Listeners):监听用来检查客户端请求并将请求转发给后端服务器。监听也会对后端服务器进行健康检查。
  • 后端服务器(Backend Servers):一组接收前端请求的ECS实例。您可以单独添加ECS实例到服务器池,也可以通过虚拟服务器组或主备服务器组来批量添加和管理。

特点

  • 负载均衡服务通过设置虚拟服务地址,将位于同一地域的多台云服务器资源虚拟成一个高性能、高可用的应用服务池;根据应用指定的方式,将来自客户端的网络请求分发到云服务器池中。
  • 负载均衡服务会检查云服务器池中ECS的健康状态,自动隔离异常状态的ECS,从而解决了单台ECS的单点问题,同时提高了应用的整体服务能力。在标准的负载均衡功能之外,负载均衡服务还具备TCP与HTTP抗DDoS攻击的特性,增强了应用服务器的防护能力。
  • 负载均衡服务是ECS面向多机方案的一个配套服务,需要同ECS结合使用。

优势

  • 高可用:采用全冗余设计,无单点,支持同城容灾。根据应用负载进行弹性扩容,在流量波动情况下不中断对外服务。
  • 可扩展:可以根据业务的需要,随时增加或减少后端服务器的数量,扩展应用的服务能力。
  • 低成本:与传统硬件负载均衡系统高投入相比,成本可下降60%。
  • 安全:结合阿里云云盾,可提供5Gbps的防DDOS攻击能力。

    ##  一、创建资源并确认云服务器状态
    

在阿里云中创建好体验资源,在浏览器中输入两台ECS服务器的公网弹性IP地址,可以看到两台服务器部署的内容一致,而后端服务器IP地址不同

image-20200925131526469image-20200925131610906

二、负载均衡配置

我们将两台服务器挂载到负载均衡的后端,这样,用户只需访问一个IP地址或域名,负载均衡服务器将会根据权重自动转发用户请求到相应的后端服务器上。

  1. 登录子用户的管理控制台,进入导航栏的【产品与服务】——【弹性计算】——【负载均衡

  1. 进入左侧实例管理,打开实验提供的实例,在实例列表页面,点击目标实例右侧的点我开始配置

  1. 协议&监听页面,输入如下信息

    • 负载均衡协议:选择 HTTP
    • 监听端口:设为 80
    • 高级配置保持默认

image-20200925132726661

  1. 后端服务器页面,监听请求转发至默认服务器组,在已添加服务器处点击继续添加

NBtwILVGhvKnFQy.png

  1. 在弹出的待添加服务器页面,在预先配置好的两台云服务器前打勾选择,下一步选择添加

image-20200925132918213

  1. 在后端服务器界面的已添加服务器列表中,可以看到新增的两台云服务器,将端口设置为80

image-20200925133054503

  1. 健康检查配置中,开启健康检查按钮为绿色开启状态

image-20200925133139287

  1. 配置审核页面,确认上述配置操作正确,提交成功后会出现如下界面

image-20200925133223687

  1. 此时,页面将显示一个状态为运行中的负载均衡监听实例,后端服务器组已添加完成两台ECS服务器,且健康检查的状态为正常

image-20200925133415837

三、负载均衡验证

我们将进行如下的验证工作:

  • 验证负载均衡的工作原理;
  • 验证通过配置不同后端服务器权重,将用户的请求按比例分发到不同后端服务器;
  • 验证在一台后端服务器开启会话请求时,请求在会话开启的时间内只会分发到这一台服务器

---

此时两台后端服务器的权重均为100,比例相同。通过如下步骤,验证负载均衡服务器是轮询访问后端云服务器ECS实例

  1. 在控制台点击左侧实例管理,可以看到负载均衡的服务地址,也就是云产品资源提供的负载均衡的公网IP地址

image-20200925134317602

  1. 访问负载均衡的服务地址,界面显示的后端服务器地址为ECS-1的内网地址

image-20200925134437576

  1. 刷新页面,显示的后端地址发生变化,变成ECS-2的地址

image-20200925134540602

  1. 重复刷新几次,可以观察到后端服务器地址在ECS-1和ECS-2的内网地址间来回切换,说明负载均衡会将用户的请求发送到后端不同的服务器进行处理。这样,可以减轻单台服务器的负载压力,从而确保业务的持续性。

---

通过如下步骤,修改后端服务器权重,验证负载均衡向后端服务器发送请求的比例是按照权重的比例调整的。

  1. 返回实例管理页面,进入默认服务器组,勾选两台服务器,点击修改权重

image-20200925134838071

  1. 在弹出的窗口中,勾选设置不同的权重,将ECS-1的权重设为75,ECS-2的权重设为25。此时,用户通过负载均衡访问的时候,3/4 的用户请求发送到ECS-1中,1/4 的请求发送到ECS-2中。

image-20200925135109467

  1. 在浏览器中多次刷新服务地址的页面,可以看到每4次访问页面,有3次显示的后端IP为ECS-1,1次显示的后端IP为ECS-2,说明用户可以根据实际情况调整负载均衡器的请求分发,一般将配置高的服务器设置的权重调高,配置较低的服务器设置的权重调低。这样可以避免在高并发时,配置较低的服务器因为压力较大服务异常的发生。

---

执行下面的步骤,开启负载均衡的会话保持功能

  1. 点击上方栏的监听,在监听页面进入右侧的修改配置

image-20200925135844108

  1. 在配置页面的高级设置处,点击修改,开启会话保持,超时时间设为180(即3分钟)

image-20200925140044708

  1. 后面的页面均保持默认值,依次完成配置
  2. 回到监听页面,可以看到会话保持状态已开启

image-20200925140243823

  1. 在浏览器输入负载均衡的IP地址,可以看到在会话保持的超时时间(3分钟)内请求只会分发到ECS-1,时间超出后,重新按照权重比例分发。

image-20200925140449095

  1. 我们关闭开启会话保持的ECS,即ECS-1。在默认服务器组页面中已添加的服务器中,点击ECS-1的ID

image-20200925140633081

  1. 在实例的管理页面,点击右上角的停止,并确认,等待一会儿后,实例的状态变为已停止

image-20200925140720872

image-20200925140830070

  1. 返回负载均衡管理控制台,在默认服务器组页面中点击右上角的刷新,页面刷新后被停止的 ECS 的 状态 变为已停止

image-20200925140933960

​ 监听页面和负载均衡管理主页面,都可以看到异常警告

image-20200925141217348

image-20200925141239362

  1. 刷新浏览器中的负载均衡页面,可以看到此时后端地址为健康状态正常的ECS-2上,说明当某一台 ECS 出现异常后,负载均衡会自动将请求发送到健康检查状态正常的 ECS 上

image-20200925131526469

相关实践学习
每个IT人都想学的“Web应用上云经典架构”实战
本实验从Web应用上云这个最基本的、最普遍的需求出发,帮助IT从业者们通过“阿里云Web应用上云解决方案”,了解一个企业级Web应用上云的常见架构,了解如何构建一个高可用、可扩展的企业级应用架构。
目录
相关文章
|
11月前
|
人工智能 自然语言处理 安全
Python构建MCP服务器:从工具封装到AI集成的全流程实践
MCP协议为AI提供标准化工具调用接口,助力模型高效操作现实世界。
1766 1
|
弹性计算 Linux 云计算
阿里云操作系统控制台——ECS操作及云计算应用实践
本文详细介绍了云服务器ECS的使用流程,包括开通服务、系统配置、权限管理、组件安装及内存全景诊断等关键步骤。通过开通阿里云操作系统服务、授予RAM用户权限和安装必要组件,可实现对服务器的有效管理与维护。在内存诊断部分,展示了如何发起诊断并解析结果,帮助精准定位内存问题。此外,文章还讲解了利用ECS训练模型的操作方法,从上传文件到终端命令执行,直至完成模型训练。最后总结指出,掌握这些技能不仅提升了对云服务器架构的理解,还为实际业务提供了高效解决方案,展现了ECS在数据处理与分析中的重要价值。
阿里云操作系统控制台——ECS操作及云计算应用实践
|
弹性计算 负载均衡 Java
【上云基础系列 02-01】通过SLB+1台ECS+ESS弹性伸缩,搭建一个精简版的上云标准弹性架构(含方案及教程)
通常,构建一个弹性架构(即使是一个最基础的入门版),至少需要2台ECS。但是,很多小微企业刚开始上云的时候,为了节省成本不愿意购买更多的服务器。通过 “ALB+ESS弹性伸缩+1台ECS+RDS”方案,在保障低成本的同时,也不牺牲业务架构的弹性设计,更避免了很多人因为节省成本选择了单体架构后频繁改造架构的困局。 方案中的几个设计非常值得小微企业借鉴:(1)通过ALB/RDS的按量付费,节省了初期流量不大时的费用;(2)通过ESS弹性伸缩,不需要提前购买服务器资源,但是当业务增长或减少时却保持了资源弹性自动扩缩容。
|
Kubernetes 监控 Serverless
基于阿里云Serverless Kubernetes(ASK)的无服务器架构设计与实践
无服务器架构(Serverless Architecture)在云原生技术中备受关注,开发者只需专注于业务逻辑,无需管理服务器。阿里云Serverless Kubernetes(ASK)是基于Kubernetes的托管服务,提供极致弹性和按需付费能力。本文深入探讨如何使用ASK设计和实现无服务器架构,涵盖事件驱动、自动扩展、无状态设计、监控与日志及成本优化等方面,并通过图片处理服务案例展示具体实践,帮助构建高效可靠的无服务器应用。
|
存储 弹性计算 负载均衡
活动实践 | ALB 实现跨地域负载均衡
本方案通过阿里云的云企业网(CEN)、转发路由器(TR)、专有网络(VPC)、云服务器(ECS)和应用型负载均衡(ALB),实现跨地域的应用负载均衡。它扩展了系统的吞吐能力,提升了可用性和安全性。用户可通过资源编排服务(ROS)一键部署,并进行负载测试验证。清理资源也简便快捷。
|
存储 人工智能 运维
面向AI的服务器计算软硬件架构实践和创新
阿里云在新一代通用计算服务器设计中,针对处理器核心数迅速增长(2024年超100核)、超多核心带来的业务和硬件挑战、网络IO与CPU性能增速不匹配、服务器物理机型复杂等问题,推出了磐久F系列通用计算服务器。该系列服务器采用单路设计减少爆炸半径,优化散热支持600瓦TDP,并实现CIPU节点比例灵活配比及部件模块化可插拔设计,提升运维效率和客户响应速度。此外,还介绍了面向AI的服务器架构挑战与软硬件结合创新,包括内存墙问题、板级工程能力挑战以及AI Infra 2.0服务器的开放架构特点。最后,探讨了大模型高效推理中的显存优化和量化压缩技术,旨在降低部署成本并提高系统效率。
|
人工智能 监控 测试技术
阿里云磐久服务器稳定性实践之路
阿里云服务器质量智能管理体系聚焦自研服务器硬件层面的极致优化,应对高并发交付、短稳定性周期、早问题发现和快修复四大挑战。通过“三个重构”(质量标准、开发流程、交付模式)、“六个归一”(架构、硬件、软件、测试、部件、制造)策略,实现芯片、整机和云同步发布,确保快速稳定上量。此外,全场景测试体系与智能预警、分析、修复系统协同工作,保障服务器在萌芽阶段发现问题并及时解决,提升整体质量水平。未来,阿里云将继续深化大数据驱动的质量管理,推动服务器行业硬件质量的持续进步。
|
弹性计算 负载均衡 网络协议
ECS中实现nginx4层7层负载均衡和ALB/NLB原SLB负载均衡
通过本文的介绍,希望您能深入理解并掌握如何在ECS中实现Nginx四层和七层负载均衡,以及如何使用ALB和NLB进行高效的负载均衡配置,以提高系统的性能和可靠性。
1176 9
|
负载均衡 前端开发 应用服务中间件
Tomcat的负载均衡和动静分离(与nginx联动)
总的来说,负载均衡和动静分离是提高Web应用性能的两个重要手段。通过合理的配置和使用,我们可以让Web应用更好地服务于用户。
422 21
|
缓存 负载均衡 算法
解读 Nginx:构建高效反向代理和负载均衡的秘密
解读 Nginx:构建高效反向代理和负载均衡的秘密
435 2