容器监控与分析实践(三)| 学习笔记

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
简介: 快速学习容器监控与分析实践。

开发者学堂课程【DevOps 日志分析实战 :容器监控与分析实践(三)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/736/detail/13101


容器监控与分析实践(三)

四、部署 Prometheus 监控操作与演示

1.登录容器服务管理控制台

image.png

2.创建命名空间

(1)在左侧导航栏中,单击命名空间

(2)单击创建

(3)配置名称为 monitoring,并单击确定

image.png

3.创建保密字典

(1)在左侧导航栏中,选择应用配置>保密字典

(2)选择 monitoring 这个命名空间,单击创建(名为 sls-ak,并默认将子账号的 ak 申请完成)

(3)配置如下参数,单击确定

image.png 

参数

说明

名称

配置为 sls-ak

命名空间

选中在步骤2中创建的命名空间,即 monitoring

类型

选中 Opaque,并添加知下两个键值对。

·名称为username,值为您的RAM用户的AccessKeylD。

·名称为password,值为您的RAM用户的AccessKeySecrete

建议您使用只具备日志服务 Project 写入权限的 PAM 用户的 AccessKey.

详情请参见授予指定 Project 写入权限。

4.创建 prometheus-operator

(1)在应用市场,点击应用目录>运维/可观测性

(2)然后单击 ack-prometheus-operator,将集群选择为 sls-zc-test

image.png

(3)还需要调整参数:

调整 prometheusSpec 下的 retention,建议修改为1d或12h。

将 tsdb 下的 enabla 设置为 true,并增加 remoteWrite配置。

remoteWrite 配置中的 ur1 为日志服务 Metricstore 的 URL,请根据实际值替换。格式为https:// {project}.{sls-enpoint}/prometheus/{project}/{metricstore}/api/v1/write。其中 {sls-enpoint} 为日志服务的Endpoint,详情请参见服务入口,{project} 和{metricstore} 为您已创建的日志版务的 Project 和 Metricstore

remoteWrite 配置:

image.png

根据创建的 Metricstore 调整,所以先创建一个新的 Project 。

创建完成 Project 后在时序库中创建一个 Metricstore(名为 prom),创建完成后可以看到以下信息:
image.png

后面要将上面的配置填入 remoteWrite 配置,如下:

url:https://k8s-prom-bj.cn-beijing-intranet.log.aliyuncs .com/promatheus/k8s-5-prom-bj/prom/ api. /v1/write

prometheus-operator 即创建完成。

5.然后配置 Grafana,简单安装 Grafana 即可

Grafana 的安装非常简单,直接安装官网的 Grafana(按照官网的方式按照即可)

使用 Grafana 访问 Promotheus 数据

(1)登录 Grafanae

(2)在左侧导航栏,单击设置标> Data Sources。

(3)在 Data Sources 页签。单击 Add data source。

(4)单击 Prometheus 区城中的 Select.

(5)在 Settings 页签中,配置如下参数。

参数

说明

Name

配置数据源名称,例如Prometheus-01

HTTP

日志服务 Metricstore 的URL:格式为https:// {project}.{sls-enpoint}/prometheus/{project}/{metricstore}。其中 {sls-enpoint} 为日志服务的Endpoint,详情请参见服务入口,{project} 和{metricstore} 为您已创建的日志版务的 Project 和 Metricstore。例如:url:https://k8s-prom-bj.cn-beijing-intranet.log.aliyuncs .com/promatheus

Whitellsted Cookies:添加访问白名单,可选

Ayth

只需要打开 Basic auth 开关

Basic Auth Detals

User为阿里云账号的 AecessKaeylD。

Password 为阿里云账号的 AccessKeySecret。

建议您使用具备日志联务Project只读权限的RAM用户的AccessKey。详情请参见授予指定Project 只读权限。

配置为:

image.png

然后点击 Save&Test

完成后可以查询到采集完成的数据:

image.png

在 SLS 控制台也能查询:
image.png

注意查询方式不同,在控制台的查询方式为 promick 加 SQL 的方式,在 Grafana 上默认方式填入,还可以做一些过滤:

image.png

导入模板,可以直接搜索 grefana dashboard 的模板,可以直接使用

例如直接搜索 Kubernetes ,点击 Kubernetes Deployment Statefulset Daemonset metrics,然后复制其 id即可导入

点击加号中的 import:

image.png

将其 id 粘贴,即导入完成:

image.png

导入完成后会根据一些查询条件,实际场景的需求做一些定制。

6.手动开启事件中心操作与演示

事件中心的开通比较方便,事件中心与容器服务做了集成。

在容器服务,如果正常的创建集群的过程(设置集群名称,选择 k8s,集群配置,组建配置,确认配置)

注意:组建配置中,默认将日志服务和 node-problem-detector放入,所以默认勾选即可,也可以勾选 Ingress Dashboard。如果不安装 node-problem-detector 也可以在组件管理中开启。

手动开启:

点击集群,找到组件管理,可以找到 node-problem-detector。如果没有安装则点击安装即可自动安装,自动安装后默认开启事件中心。

日志的组件也是如此(但默认都是已经安装,可以直接使用)

7.分析 Ingress 日志操作与演示

如果没有安装 Ingress ,可以点击集群中的连接信息:

image.png

点击通过 Cloud Shell 管理集群即可。

登录 Cloud Shell 就默认用命令行操作。

可以创建一个 Ingress 的监控,monitoring 的一个 yaml,语句为:

vim ingress-monitoring.yaml

然后将 yaml 代码粘贴并保存

并将其应用,输入语句 kubectl apply -t ingress – monitoring.yaml

到此即完成了 Ingress 的监控

对于 Ingress ,之前默认创建集群都会有 Ingress (可能数据较少)

image.png

也有各种 Ingress 的大盘(里面数据还没有流量):

image.png

看到另一个账号中的 Ingress 数据:

image.png

其中有各种类型的指标在其左侧可以点击快速看到各类型的的数据。

还可以做自定义的查询,例如:method :Get(也可以查 not method :Get)

(查询 method 是 get 的请求)

image.png

还可以分析一些状态码的分布:not method :Get | SELECT status,count(1) as total group by status

(非 get 请求的 status 分布)

image.png

上图可视化是表格的形式也可以选择饼图的形式(较直接),也可以选择柱状图、条形图的形式。

8.高级用法:

查询分析行输入

not method :Get | SELECT ip_to_province(x_forward_for) as total group by p order by total desc

image.png

可以查询到各种省份分布的信息。

也可以输入:

*| SELECT ip_to_province(x_forward_for) as total group by p order by total desc

得到省份分布信息

点击地图:

image.png

会按照中国地图的省份自动变为可视化,数量越高地图上省份颜色越深

还可以使用其他地图查看(高德地图不支持,需要用经纬度查看),世界地图需要将查询改为:

*| SELECT ip_to_country(x_forward_for) as total group by p order by total desc

得到:

image.png

热力图和高德地图:

*| SELECT ip_to_city_goo(x_forward_for) as total group by p order by total desc

image.png

image.png

该账号的 Ingress 的数据为:

image.png

展示了现有的 PV 、移动端 ois 的占比、平均的延时、Top 的一些指标、top 的延迟、top 的错误等等

Ingress Host 中的数据都可以按照不同的维度做过滤操作。

仪表盘还有监控中心,具体每一个服务的监控:

image.png

该处监控指标更加丰富,包括 PV、流量、错误比例、各种平均延时等等,还有一些统计类型,这样非常方便的从图上得到各种各样的指标,但是这些指标背后都是基于访问日志分析出来的。

可以点击预览语句:

image.png

可以看到具体是如何实现的。

也可以跳转到查询分析(原始数据),会自动将 select 填入:

image.png

事件中心:

将各种各样的告警的维度列出来:

image.png

各种告警都可以截取配置:

image.png

还可以添加通知方式:

(可以多个渠道并行通知)

image.png

默认的事件也会被排列出来,有哪些非常重要的事件需要关注,还有一些 OMM 的事件、Pod 驱逐事件。比较关键的事件都会被列出信息。

Kubernetes 事件查询:
例如担心 Waring 等级的事件,可以只过滤某一种类型的事件,如下:

image.png

然后可以看到这些事件的详细信息,其背后对应的也是日志查询的方式,如果有需求可以基于这种日志查询方式去做一些定制化。

整体上说,是基于 SLS 去构建除了整个 K8s 的监控,包括Grafans 中基础的指标,平均 cpu 内存的使用率等等,也可以得到系统内部的实践,例如目前节点被删除,pod 被丢,pod 被销毁等等,这些事件会告诉然后方便直接做告警。Ingress 是可以基于 Ingress 的访问日志去做各种各样的服务的质量,还有自己业务日志的监控,业务日志的监控需要自己配置一些参数以及策略(该部分有非常丰富的文档来操作)

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
相关文章
|
2月前
|
Kubernetes Cloud Native Docker
云原生时代的容器化实践:Docker和Kubernetes入门
【10月更文挑战第37天】在数字化转型的浪潮中,云原生技术成为企业提升敏捷性和效率的关键。本篇文章将引导读者了解如何利用Docker进行容器化打包及部署,以及Kubernetes集群管理的基础操作,帮助初学者快速入门云原生的世界。通过实际案例分析,我们将深入探讨这些技术在现代IT架构中的应用与影响。
134 2
|
1月前
|
人工智能 运维 监控
阿里云ACK容器服务生产级可观测体系建设实践
本文整理自2024云栖大会冯诗淳(花名:行疾)的演讲,介绍了阿里云容器服务团队在生产级可观测体系建设方面的实践。冯诗淳详细阐述了容器化架构带来的挑战及解决方案,强调了可观测性对于构建稳健运维体系的重要性。文中提到,阿里云作为亚洲唯一蝉联全球领导者的容器管理平台,其可观测能力在多项关键评测中表现优异,支持AI、容器网络、存储等多个场景的高级容器可观测能力。此外,还介绍了阿里云容器服务在多云管理、成本优化等方面的最新进展,以及即将推出的ACK AI助手2.0,旨在通过智能引擎和专家诊断经验,简化异常数据查找,缩短故障响应时间。
阿里云ACK容器服务生产级可观测体系建设实践
|
19天前
|
存储 人工智能 调度
容器服务:智算时代云原生操作系统及月之暗面Kimi、深势科技实践分享
容器技术已经发展成为云计算操作系统的关键组成部分,向下高效调度多样化异构算力,向上提供统一编程接口,支持多样化工作负载。阿里云容器服务在2024年巴黎奥运会中提供了稳定高效的云上支持,实现了子弹时间特效等创新应用。此外,容器技术还带来了弹性、普惠的计算能力升级,如每分钟创建1万Pod和秒级CPU资源热变配,以及针对大数据与AI应用的弹性临时盘和跨可用区云盘等高性能存储解决方案。智能运维方面,推出了即时弹性节点池、智能应用弹性策略和可信赖集群托管运维等功能,进一步简化了集群管理和优化了资源利用率。
|
1月前
|
人工智能 Cloud Native 调度
阿里云容器服务在AI智算场景的创新与实践
本文源自张凯在2024云栖大会的演讲,介绍了阿里云容器服务在AI智算领域的创新与实践。从2018年推出首个开源GPU容器共享调度方案至今,阿里云容器服务不断推进云原生AI的发展,包括增强GPU可观测性、实现多集群跨地域统一调度、优化大模型推理引擎部署、提供灵活的弹性伸缩策略等,旨在为客户提供高效、低成本的云原生AI解决方案。
|
1月前
|
运维 Kubernetes 调度
阿里云容器服务 ACK One 分布式云容器企业落地实践
阿里云容器服务ACK提供强大的产品能力,支持弹性、调度、可观测、成本治理和安全合规。针对拥有IDC或三方资源的企业,ACK One分布式云容器平台能够有效解决资源管理、多云多集群管理及边缘计算等挑战,实现云上云下统一管理,提升业务效率与稳定性。
|
2月前
|
安全 持续交付 Docker
深入理解并实践容器化技术——Docker 深度解析
深入理解并实践容器化技术——Docker 深度解析
86 2
|
2月前
|
Prometheus 监控 持续交付
深入理解Docker容器化技术:从基础到实践
深入理解Docker容器化技术:从基础到实践
|
2月前
|
安全 Docker 微服务
深入理解Docker容器技术:从基础到实践
深入理解Docker容器技术:从基础到实践
|
2月前
|
Kubernetes Cloud Native Docker
云原生技术探索:容器化与微服务的实践之道
【10月更文挑战第36天】在云计算的浪潮中,云原生技术以其高效、灵活和可靠的特性成为企业数字化转型的重要推手。本文将深入探讨云原生的两大核心概念——容器化与微服务架构,并通过实际代码示例,揭示如何通过Docker和Kubernetes实现服务的快速部署和管理。我们将从基础概念入手,逐步引导读者理解并实践云原生技术,最终掌握如何构建和维护一个高效、可扩展的云原生应用。
|
2月前
|
Cloud Native 持续交付 Docker
Docker容器化技术:从入门到实践
Docker容器化技术:从入门到实践