SREWorks数智运维平台开源一周年 | 智能运维aiops的回顾与展望

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 开源的这一年,我们聊一聊。

2022年3月SREWorks项目正式开源,到目前为止已经整整一周年了。自开源以来,我们始终立足云原生运维场景,秉承“数据化、智能化”的运维思想,采用“小步快跑”的快速迭代方式,使得整个SREWorks项目也取得了长足的进步。于此同时,得益于社区用户、企业伙伴的积极参与和贡献,也为SREWorks项目的发展注入了新的活力。下面我们来回顾一下SREWorks的开源故事并展望其未来的发展。

SREWorks 官网地址https://sreworks.cn/

SREWorks 开源地址https://github.com/alibaba/sreworks


开源故事

相信大家或多或少听说过飞天的5K项目,这是中国云计算领域的一个里程碑式的项目,我们团队承担了其中的运维工作。超大规模集群的运维保障任务,让我们意识到:如果没有系统性的运维工程,即便我们再殚精竭虑,集群稳定性也是会是一件靠天吃饭的事情。于是我们逐步将大量的运维实践进行工程化落地,使之成为了一个可靠的运维平台,在内部我们称之其为ABM:Apsara Bigdata Manager -- 飞天大数据运维平台。

有了ABM之后,我们常常会对外分享平台化的运维工程实践,也收到了较好的同行反馈。本着 "Talk is cheap. Show me the code." 的想法,我们进一步探索如何将这些平台工程实践代码进行开源,帮助更多从业者提升运维效能。

随着云原生以及Kubernetes集群的大量推广,我们发现这些大规模的工程实践,同样适用于k8s集群。于是,我们对ABM进行了分层改造,升级为应用引擎 + 运维平台的模式。抽取其核心引擎部分为AppManager,使用OAM作为应用模型,其原理及实现可以参考如下文章:

QCon演讲实录(上):多云环境下应用管理与交付实践

QCon演讲实录(下):多云管理关键能力实现与解析-AppManager

同时,我们将运维平台ABM移植到k8s集群下,并进行了优化裁剪,这个过程有点像从Mac OS X中裁剪iOS--我们将这个裁剪出来平台命名为SREWorks。有了SREWorks之后,我们的各种对外经验分享对于同行来说不再处于隔靴搔痒的状态,我们有方案有实践有代码可落地。


开源历程

在这一年时间里,SREWorks进行了几次重要的版本发布:

日期

版本

说明

2022/3/22

v1.0

工程代码首次公开推送

2022/5/9

v1.1

组件插拔场景化部署能力

SREWorks v1.1 版本发布 | 组件插拔场景化部署能力

2022/6/21

v1.2

公共应用市场上线,数据平台能力增强

SREWorks v1.2 版本发布 | 新增运维市场能力

2022/11/16

v1.3

应用插件机制上线

SREWorks v1.3 版本发布 | 插件机制发布

2023/1/6

v1.4

纯内网离线安装方案支持,底座支持热升级

SREWorks v1.4 版本发布 | 离线安装&前端重构

承蒙广大开发者和用户的支持与认可,SREWorks在2022年底被InfoQ评为开发者最喜爱的十大开源项目。

image.png



开源意义

在这开源的一年里,在与外部的讨论沟通上,我们常常会不可避免的碰到这么一个问题:为什么国内开源项目做成功的这么少?我们可以从开源项目使用者的角度,来思考这个问题:一个开源项目应该更像个工程还是更像个工具?似乎优秀的开源项目通常两者兼有之:方便快捷的工具帮助开发者快速解决问题,吸引他们快速入坑;工程的深度吸引业界高手持续往里填坑。反之,缺乏工程深度项目能帮助用户解决短平快的问题,但无法持续发展,而缺乏快捷工具的工程如无源之水无本之木,还未积累足够的用户基数用户案例就枯竭了。

再往深分析一层,为什么国内开源项目常常会陷入上段提到这些困境?因为开源项目的推广并不像朋友圈的点赞,认同这个项目的人,会将这个项目实际用起来,继而接纳开源项目作者在项目中所传达的思想及方法。所以开源项目必须要有其独创性,才能服众,否则使用者就会产生一种“好像我也行”的冲动另起炉灶。这就像老生常谈的那句话“一流企业做标准、二流企业做品牌、三流企业做产品”,一个优秀的开源项目常常引导了这个领域的一些标准的落地。

我们希望通过SREWorks数智运维平台,让更多从业者利用“大数据和人工智能”的能力做好运维,进入到“数据化、智能化”时代。从代码到线上业务服务的全流程,我们划分了“交付、监测、管理、控制、运营、服务”六大场景,每个场景中都其有代表性的核心功能。

1.png


开源生态

围绕着SREWorks数智运维平台,我们秉承开放协作共享的理念,致力于构建一个人人可参与的生态圈。

前端可视化生态

前端可视化常常成为一个产品功能快速迭代的瓶颈,SREWorks中提供了自由的前端低代码组件布局方案,无需前端开发同学配合,只需要轻松地拖拉拽一把,就可以快速将几个前端页面落地。大家在SREWorks中看到的所有功能页面,均是通过这种可视化布局产生的,我们的前端研发提供了丰富的前端组件库供布局使用,具体对此感兴趣的同学可以参考下面两篇文章或直接上手体验一把:

SREWorks前端低代码工程设计概览

SREWorks低代码组件生态演进:monorepo架构和远程组件加载实践

image.png

我们的前端研发同学生怕各种组件无法完全满足业务需求,想方设法提供了各类组件扩展及能力增强方案:

  • 组件不够多?我们利用monorepo架构将组件部分变成一个独立的npm工程,方便开发者二次开发以及往里新增组件。
  • 接口数据格式无法完全匹配组件?我们在组件中提供各种数据处理插槽,允许用户直接写js函数来处理数据。
  • 组件的文字格式上希望做一些调整?各种展示文本均支持使用React JSX进行格式渲染增强。
  • 想嵌入一些自己开发的组件?也不是基于React开发的?没关系,远程组件加载满足你,Vue组件轻松加载。
  • 不想在本地开发代码,但想快速把几个页面元素合成一个新组件?我们支持使用React JSX在前端直接编写新组件。

应用及插件生态

在应用开发中,构建环节是至关重要的。有时候线上环境看起来十分井井有条,但是构建环境却会为了快速出包,暗藏各种脚本或有状态的小魔法。时间一长,这条清澈的小溪就会布满各种岩石、急流、暗礁,大多数情况能有惊无险地通过,但总会有那么几次问题的排查让人刻骨铭心。SREWorks基于k8s提供完整的云原生研发及构建方案,没有有状态的构建机,每次构建都是一个独立Pod,用完即毁,保持良好的弹性伸缩能力。具体技术细节可以参考 SREWorks持续交付云原生化: 镜像构建

SREWorks中所有功能都是由标准的OAM应用构成的,应用就是组成平台的最小原子。同时,我们将SREWorks中的应用划分成两个大类:运维应用和企业应用:在运维应用中,我们如上文提到的“交付、监测、管理、控制、运营、服务”六大场景,内置了丰富的运维应用;在企业应用中,研发同学可以借助SREWorks的云原生研发流程快速落地功能。

image.png

在v1.2版本之后,所有的SREWorks平台实例中都上线了公共应用市场,也就意味着已经部署SREWorks的用户可以通过这个公共应用市场,来持续安装以及升级应用、增强能力。我们鼓励SRE同学将各种经验沉淀成一个应用,进而设计成一个完整的应用产品,上架到市场供更多的同行使用。

另外一方面,为了能够满足更丰富的应用形态需求,我们在v1.3版本上线了插件机制,提供了工作负载等插槽允许用户通过插件进行扩展。当前工作负载中已有插件是微服务和Helm,后续会上架更多的插件,也欢迎有需求的公司进行插件共建。

数智运维生态

在SREWorks中我们提供了基于ElasticSearch的完整的数据运维平台以及智能运维平台,但说实话,数据化和智能化这块能力让公司来一键接入还是有难度的,于是我们基于SLS(阿里云日志服务)的SREWorks微应用,无需部署SREWorks,帮助部分用户一键体验轻量级SREWorks的数智服务,需要深入了解的同学可移步这篇文章 -SREWorks 数智服务尝鲜,你的数据准备好了吗?

在智能运维算法这块,对外我们不断规划更多的算法开源,对内我们不断夯实算法理论基础:

  • 在2021年,我们与阿里云达摩院合作的时序多周期检测相关论文《RobustPeriod: Robust Time-Frequency Mining for Multiple Periodicity Detection》被SIGMOD 2021接收,这也是阿里首次以第一单位在 SIGMOD 的Research Track发表的论文。
  • 在2021年,我们与达摩院决策智能团队合作撰写的论文《CloudRCA:面向云计算平台的通用根因分析框架》,国际顶会CIKM2021的Applied Research Track录取。
  • 在2022年,我们与达摩院时序智能团队合作的《NetRCA: An Effective Network Fault Cause Localization Algorithm》在 ICASSP‘22 AIOps Challenge通信网络智能运维大赛获得冠军。

我们欢迎在数智运维领域与使用SREWorks的公司有更多的共建与合作,持续打磨工程及算法,使之产生更广泛更更普适的价值。


后续规划

引擎(Appmanager)上我们会进一步完善插件机制,同时引入更多的工作负载(workload)和运维特征(trait)来实现更丰富的应用场景。在应用持续集成(CI)链路上,我们会根据已有案例持续进行打磨能力,使得应用开发及构建方案对其他公司更加适配。

平台层(PaaS)上我们会进一步增强权限体系和接口服务,使得SREWorks在其他公司中嵌入集成更加简单。同时我们会将中台能力进一步抽取,使得运维应用之间通过中台能力交叉引用更加方便高效。

应用层(SaaS)上我们会根据内部新上线的功能情况进行开源,可能会包含应用管理的增强以及业务流程编排相关的功能点。

数智能力(DataOps&AIOps)上我们在今年会开源基于Flink ML的日志聚类算法服务,更强的异常检测服务,大敬请期待。

开发者生态(Developer Ecosystem)上我们今年会进一步扩充应用市场的应用,提供更多的培训课程及文档,方便更多用户,能快速基于SREWorks完成云原生的应用开发。同时今年会上线SREWorks应用测评系统,在日常组织一些比赛进行基于SREWorks的应用开发比赛。


写在最后

开源并非一件易事,曾有人这样问我:“你们开源是怎么活下来的?” 通过内部大量的工程实践的打磨,使得我们孵化了这样的平台,磨合了这样的一种工作方式:我们希望将这其中的价值以及思考传递给更多的人,路虽远行则将至,事虽难做则必成。


SREWorks 官网地址https://sreworks.cn/

SREWorks 开源地址https://github.com/alibaba/sreworks

如在使用过程中遇到问题,欢迎各位在GitHub中提出Issues或Pull requests~

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
运维 Kubernetes 监控
|
2月前
|
API 运维
开发与运维工具问题之开源的大语言模型能够自由与外部工具交互如何解决
开发与运维工具问题之开源的大语言模型能够自由与外部工具交互如何解决
30 2
|
2月前
|
监控 C++ 运维
开发与运维数据问题之实现商业版和开源版在发送可观测数据方面的差异如何解决
开发与运维数据问题之实现商业版和开源版在发送可观测数据方面的差异如何解决
42 1
|
2月前
|
弹性计算 运维 自然语言处理
属于Basis运维的、在Linux平台上运行的大模型测评 OS Copilot智能助手测评
OS Copilot是阿里云为Linux打造的智能操作系统助手,基于大模型,助用户进行自然语言问答、命令执行和系统运维。它简化了Linux操作,适合新手和运维人员。测评者作为IT架构师,发现OS Copilot使非技术背景人员也能操作Linux,接入命令可在官方文档找到。测试显示,通过"co"命令可与OS Copilot交互,实现生产任务融合。该工具提高了工作效率,尤其是对于遗忘具体命令时,非常有帮助。文档清晰,适合生产环境使用,值得进一步探索。
64 0
|
3月前
|
开发框架 运维 前端开发
构建一体化运维平台的八大功能
【6月更文挑战第6天】构建一体化运维平台的关键8个基本功能。
|
3月前
|
设计模式 运维 监控
运维一体化平台的能力要素
【6月更文挑战第7天】一体化运维平台的重要性,旨在建立覆盖运维全生命周期的统一平台,提升效率,保障业务连续性,实现数字化运维管理。
|
4月前
|
弹性计算 运维 监控
【阿里云云原生专栏】自动化运维的艺术:阿里云云原生平台的自动化运维工具集
【5月更文挑战第28天】阿里云云原生平台提供全面的自动化运维工具,涵盖监控告警、资源管理、部署更新、故障自愈、安全管理和数据备份等方面,简化运维工作,增强系统稳定性。通过智能工具集,运维人员能专注于业务优化,实现高效运维,为企业数字化转型提供有力支持。
227 3
|
4月前
|
运维 监控 druid
平台组成-运维监控模块
运维监控模块关注服务器、应用、数据库及Minio等状态,包括自研和开源组件。
|
4天前
|
存储 运维 监控
构建高效运维体系:从监控到自动化的全方位实践指南
在当今数字化时代,企业对运维(Operations)的需求日益增长。运维不仅仅是保持系统运行那么简单,它涉及到监控、日志管理、故障排除、性能优化和自动化等多个层面。本文将从实际操作的角度出发,详细探讨如何构建一个高效的运维体系。通过具体案例,我们将了解不同运维工具和方法的应用,以及它们是如何帮助企业提高生产效率和降低运营风险的。无论你是刚接触运维的新手,还是经验丰富的专家,这篇文章都将为你提供宝贵的参考和启示。
|
2天前
|
运维 监控 安全
构建高效运维体系:从监控到自动化的全方位实践
本文深入探讨了构建高效运维体系的关键要素,从监控、日志管理、自动化工具、容器化与微服务架构、持续集成与持续部署(CI/CD)、虚拟化与云计算以及安全与合规等方面进行了全面阐述。通过引入先进的技术和方法,结合实际案例和项目经验,为读者提供了一套完整的运维解决方案,旨在帮助企业提升运维效率,降低运营成本,确保业务稳定运行。

热门文章

最新文章