80%的软件环境管理问题,根因都在这里 |研发效能提升36计

简介: 80%的软件环境管理问题,根因都在这里,云效云原生应用管理平台AppStack正是基于OAM的应用交付平台,企业在云效AppStack,可以通过应用编排、占位符、变量等声明式定义,实现一套编排多环境差异化部署,同时基于版本和基线实现环境一键拉起、一键回滚。

image.png

专栏策划|雅纯
志愿编辑|jimmy、吕瑞星


软件交付的终态是提供稳定可预期的系统,要做到这一点,我们需要确保:一、软件制品的一致性;二、运行环境的一致性。

第3讲我们分享了如何保证软件制品的一致性,这一讲我们来谈谈如何保证环境的一致性

运行环境一致性的目标是环境可预期、稳定、低成本。其中低成本比较关键,因为环境资源的成本一般比较高。

我们可以将运行环境分为3部分:制品、执行引擎和编排规则。

image.png

要保证制品的一致性,第一是保证代码及其依赖的一致性;第二是保证构建环境的一致性;最后是保证构建脚本的一致性。保证环境的一致性,也包含了三点:

  1. 应用的一致性,比如一致的容器镜像;
  2. 容器运行所需的上下文的一致性,比如一致的数据配置等;
  3. 编排规则的一致性,需要保证编排执行相同的规则,比如相同容器部署规则、相同节点分布规则、相同备份规则等。

保证这3点,部署完成之后才会形成一致的可运行环境。但是现实当中,环境还是会有很多其它的问题,比如:

  • 配置文件中有好多监控之类的配置,对于使用者来说,不知道配置的具体作用,需要修改时不知如何设置。
  • 测试的时候依赖的环境经常发生问题,耗费大量等待和排查时间。比如说依赖的API经常出问题,排查修复可能需要等待依赖方很久,导致测试工作无法继续进行。
  • 新环境的搭建很耗时。搭建一个新的环境是很痛苦的事情,比如国际化团队,经常要搭建新的站点,而每搭一个新的环境就要耗费一整天的时间是很痛苦的。
  • 应用在本地无法运行。比如因为缺某个资源导致应用无法正常运行。
  • 配置环境需要小心翼翼,可能出现配置遗漏。每次配环境的时候需要很小心,特别是当环境配置由多人配合时,会出现配置冲突,导致程序无法运行,需要全链路排查解决。

这里我们简单列了五个常见的问题,它们的根源都是环境缺乏清晰的定义:不清楚环境的具体内容、对环境搭建过程的认知模糊。

环境的清晰定义,包括环境包含什么制品、这些制品如何部署等。那么环境管理的终态是什么呢?

image.png

当制品相同、运行上下文相同,并且资源数据是一样的情况下,基于相同的编排规则,环境就应该是一致的。同时,环境可以由软件来定义和声明。这是我们认为的环境管理的终态,简单来说,即软件定义的不可变环境。软件定义的不可变环境,可以纳入版本管理,保证环境首先是定义明确的,其次是有明确版本的。

环境管理的3个阶段

image.png

阶段一:说明书

环境管理的第一个阶段是说明文档,这点相信很多人都经历过。当我们在做一个项目或产品时,会写整个产品的部署说明书、说明文档、升级文档等各种文档。但文档很难保证实用,也不一定是最新的、准确的。每次我们去现场交付时,都会遇到一些文档里没有描述的问题。这时候还得打电话确认,是否有遗漏什么。用文档或说明书去管理环境,存在很大的弊端,所以我们想到了用命令的方式去管理。

阶段二:命令

第二阶段,我们通过命令的方式,写了各种shell、Python脚本,把相关命令组合在一起。之前我们在做一个产品的私有化交付的时候,一开始的做法就是用脚本去管理环境,因为开启一个新环境实在太痛苦了,需要花很多时间改参数、找包、配IP等,效率太低。所以我们写了脚本来管理,用脚本代替了文档。

但是用脚本管理环境也存在很多问题。我们要应对各种各样的环境,同一个任务在不同的场景里,命令组合可能是不一样的,所以脚本会越来越多,维护脚本的成本也越来越高。

阶段三:声明

为了解决命令脚本的维护和稳定性问题,我们进入了第三个阶段,声明式——通过配置的方式表达环境,把环境定义出来。声明式的描述提供了环境的确定性表达。

以k8s为例,我们以一个例子来看,如何做环境声明

image.png

上图是K8S的简单架构,左上角是K8S的master,左下角是node,master有好几个组件:scheduler、ControllerManager、APIserver,以及Etcd。Etcd是一个分布式存储,配置信息都在Etcd里面。Node是物理机或者虚拟机,在每一个Node上面会有多个pod,上面会运行很多的容器。

我们知道K8S的最小单元是pod,里面有容器,还有各种网络存储等,通过pod声明去描述。声明被apply后,具体的事情在controller里面处理。

通过sidecar分离关注点

image.png

我们写一个应用,这个应用里面大量的代码其实与业务无关,而是包含很多服务治理的代码,例如日志、监控、限流、熔断等。这些代码占了很大的比重,而且这些代码的维护者和应用开发者不一定是同一批人。服务治理相关的代码,在很多企业会有专门的团队负责维护和升级,类似阿里的中间件团队。传统的情况下,我们需要升级并重新部署应用才能升级服务治理能力。但是在云原生时代,应用开发者希望仅关注应用业务代码,服务治理相关的代码放在其他的容器里面,业务容器和服务治理容器通常会编排在同一个pod里面,但是服务治理容器的管理、开发、发布都跟应用开发者没有关系,这些就是sidecar容器。sidecar容器实现了关注点的分离,应用的开发者和中间件的开发者以及运维相关的开发者,都可以有自己的关注点。

我们以两个角色为例,一是业务的开发者,关注的是应用的容器,所以发布的时候,他的关注点都在应用容器这一块。二是企业的SRE,他的关注点往往在sidecar的各种服务治理容器上,比如logagent的日志级别和采样率是否合理等。

通过sidecar,业务开发者和SRE的关注点就分离了。这样分离还有一个好处,就是中间件下沉,都以sidecar的方式管理。一旦遇到相应的中间件需要升级,业务代码不需要做任何的改变和发布,只需要做sidecar的发布就好了。

我们前面提到,一致的环境需要有3个组成部分:相同的制品、相同的运行上下文以及相同的编排规则。相同的运行上下文,本质就是里面的配置要一致。最早我们是用文档告诉我们怎么把环境管理起来,之后用脚本,最后用环境声明。

然而,用声明式的方式定义环境也并不完美。举个具体的例子,在应用运行的时候需要有一些相应的配置,中间件、基础资源、CPU、存储等都需要配置,这样会面临一个很大的问题——环境相关的配置太多了。

环境相关的配置太多,该怎么管理好呢?

通过IaC来定义环境

image.png

为了解决这个问题,业内采用了IaC的概念(InfrastructureasCode)。早期在云机房上架的时候会用到IaC,比如有一个新的机器过来,要装成centos7的系统,里面要配特定的DNS服务等等。这是就会定义一个声明文件,发送给saltstack这样的工具。现在整个环境都是通过基础设施来描述出来的,所以整个环境包括中间件的资源都是基础设施了,在范围上比原先要广的多。

从配置的角度,我们有应用配置、运维配置、基础设施运维配置,甚至软件生产过程的配置。我们把应用代码和IaC代码,放在两个库里面(也有放到一个库里面的,各有利弊,在此我们不展开也不评价)。

比如上图中,在IaCRepo里我们放了动态配置(即运行时的配置)、BaaS配置(基础设施,如数据库、中间件存储、消息队列等)、监控配置(如监控粒度、采样频率)、发布配置等。所有的配置都声明在代码库里面,基于该声明编排的所有环境就都是一致的了。

任何事情都是有利有弊,用IaC的方式管理环境又会带来什么新的挑战呢?

image.png

首先是“灵活的代价”。因为所有的配置都是松散的文本,缺少统一的聚合根,导致修改者需要自己理解这些配置背后对应的依赖关系。比如某个配置项设置为on会开启限流,但是必须配合特定的configMap一起使用;比如开启了一个Ingress插件,但如果另一个Rollout插件没有开启,会无法正常工作;再比如HPA和CronHPA无法同时使用,会产生冲突。由于编写的灵活性,会导致无穷的组合形式,其组合产生的后果往往在运行时才会发现。

其次是知识的成本。IaC将一个环境所有的配置都以文本的界面给到了开发者,但是很多配置项是需要专业背景的,比如运维相关的策略、比如监控的配置方式等等,价值IaC本身的学习成本,往往让很多开发者望而生畏。

为了解决这个问题,阿里联合微软一起发布了OAM模型,以应用为统一维度,将IaC包含的各类资源和角色进行了分类和聚合。

image.png

首先,OAM引入了应用(Application)的概念,将应用的各类IaC配置都聚合在一起,解决其依赖问题。

其次,OAM将IaC的使用者分离为:应用开发者、应用运维、基础设施运维三大角色,彼此的关注点进行了分离。

OAM抽象和简化了IaC的定义和维护方式,降低开发者的学习和使用成本。

总结一下,我们认为,环境管理的终态是软件定义的不可变环境,而当下,它的最佳实践我们认为是基于OAM模型的、以应用为核心的IaC声明。

云效云原生应用管理平台AppStack正是基于OAM的应用交付平台,企业在云效AppStack,可以通过应用编排、占位符、变量等声明式定义,实现一套编排多环境差异化部署,同时基于版本和基线实现环境一键拉起、一键回滚。感兴趣的同学点下方链接即可免费使用。

https://www.aliyun.com/product/yunxiao/appstack?channel=yy_rccb_36


下篇预告:环境管理的目标是希望有一个稳定、可预期、低成本的环境。在软件开发中,我们会涉及到开发、测试、生产各种环境,如何保证这些环境的稳定、可预期、低成本呢?下一节我们将进一步展开,敬请期待。

image.png

阅读上篇文章:这样才是代码管理和 Commit 的正确姿势!

lQLPDhshq7rXr9DNBDjNB4Cw6h-soueBRw4CB9bnfwCoAA_1920_1080.png

相关文章
|
2月前
|
自然语言处理 监控 测试技术
项目计划软件如何助力企业策略规划和执行监控
项目管理软件如Zoho Projects集成了任务管理、时间跟踪和协作工具等功能,提高了团队效率。其历史可追溯至20世纪初的甘特图,现今基于云计算的软件更是具备强大的集成与自动化能力。Zoho Projects不仅性价比高,还能与Zoho办公套件无缝衔接,适用于不同规模的企业。通过简化管理流程,这类软件已成为企业提升效率的关键工具。
40 0
|
4月前
|
测试技术 数据安全/隐私保护 UED
通用研发提效问题之衡量软件运行质量,如何解决
通用研发提效问题之衡量软件运行质量,如何解决
|
3月前
|
监控 安全 Cloud Native
公司监控电脑效率升级:精细化选择与应用
在竞争激烈的商业环境中,高效的员工表现对企业成功至关重要。为此,选用合适的电脑监控方案变得尤为重要。Libera Networks LAN/WAN Manager 提供云原生监控服务,能快速适应企业变化并集成最新威胁情报,但成本较高。WorkWin 是一款优秀的国产监控软件,提供全方位监控功能与个性化策略配置,加之深入的数据分析及严格的数据安全保障。SentinelOne 则专注于端点安全,能有效防御各种威胁,但配置较复杂。OsMonitor 能准确监测员工活动,提供灵活的监控策略及直观的报表功能。这些工具帮助企业提升工作效率的同时,兼顾了安全与隐私。
106 0
|
6月前
|
消息中间件 Cloud Native Java
项目环境稳定性指标建设之路
这篇文章讨论了项目环境在集团研发中的重要性,它是一个灵活的平台工具,用于支持联调测试和不同阶段的环境隔离。早期的项目环境管理存在任务重复运行、单机处理瓶颈和任务猝死等问题。为了解决这些问题,文章介绍了通过引入领域驱动设计(DDD)来重构流程引擎,创建了统一的异常处理和任务执行接口,增强了异常处理能力,并通过分布式分片任务、工厂模式和责任链模式实现了任务的分布式运行。此外,还使用分布式锁解决了多机忙等和任务重复执行的问题,提高了任务执行效率。优化后,环境创建成功率提升至99%以上,创建时间降低至100秒以下,系统异常率低于1%,并且能够应对更高的并发量。
|
运维 监控 安全
持续测试新范式:拨压测一体化
持续测试新范式:拨压测一体化
《研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度》电子版地址
研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度
382 0
《研发效能提升36计-敏捷协作篇:束水攻沙,持续加快产品交付速度》电子版地址
《研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进》电子版地址
研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进
165 0
《研发效能提升36计-敏捷协作篇:设定北极星指标,数据驱动效能改进》电子版地址
|
数据可视化
《研发效能提升36计-敏捷协作篇:照亮问题,效能提升从可视化交付过程开始》电子版地址
研发效能提升36计-敏捷协作篇:照亮问题,效能提升从可视化交付过程开始
135 0
《研发效能提升36计-敏捷协作篇:照亮问题,效能提升从可视化交付过程开始》电子版地址
|
消息中间件 SQL 运维
开发之痛:稳定的测试环境,怎么就那么难 | 研发效能提升36计
开发之痛:稳定的测试环境,怎么就那么难。对于生产环境,准确、稳定最重要,我们推荐以应用为中心的基于OAM和IaC的实践方式;对于测试环境,隔离、低成本和稳定的依赖是最重要的,我们推荐基于稳定环境的隔离测试环境的实践,复用稳定环境,通过流量隔离和数据隔离来生成测试环境。通过环境建设,我们解决了研发过程中的资源冲突。
1410 1
开发之痛:稳定的测试环境,怎么就那么难 | 研发效能提升36计
|
缓存 Kubernetes Cloud Native
构建制品不一致,后续工作都是白费 | 研发效能提升36计
本篇文章,我们从软件交付的终态出发,提出了不可变构建的概念。在软件开发的过程中,我们怎样才能享受产业生态的红利,实现软件交付过程的标准化呢?软件交付当中的集装箱应该是什么样的?
897 0
构建制品不一致,后续工作都是白费 | 研发效能提升36计
下一篇
无影云桌面