Logtail从入门到精通(三):机器分组配置

本文涉及的产品
对象存储 OSS,20GB 3个月
阿里云盘企业版 CDE,企业版用户数5人 500GB空间
日志服务 SLS,月写入数据量 50GB 1个月
简介: 基于集团内数年来的Agent运维经验总结,我们设计了一种灵活性更高、使用更加便捷、耦合度更低的配置&机器管理方式:自定义标识机器分组。此种方式对于动态环境非常适用,尤其适用于弹性伸缩服务和swarm、pouch(阿里docker)、Kubernetes等容器环境。

什么是机器分组


上一篇中我们对机器分组进行了简单的介绍,从更通俗的角度讲:机器分组就是一批产生相同日志的机器,一般情况下是一组应用,比如Nginx、MongoDB、HDFS等集群。通常一个机器分组下会产生多种日志,会分别采集到多个logstore。而同时一个机器也可以扮演多种角色(比如同时担当前端和后端的角色,既部署了Nginx也部署了应用worker),因此一个机器也会属于多个机器分组中。所以我们有了以下的机器分组模型:


c4550e27-6622-4349-ba39-dda308b91539.png


机器分组类型


目前我们支持了两种不同的机器分组,分别是IP标识和自定义标识分组。


IP标识机器组


IP标识的机器组通俗易懂,非常易于上手,只需简单的将IP输入到分组里即可完成配置,同时也支持一个分组里面输入多个IP。


c3aa2deb-ef35-4d5e-94f2-0f42834d3d84.png


IP标识的机器组虽然配置简单,但存在非常大的缺陷:不支持动态缩扩容。在实际使用中机器组中机器经常会发生变化(例如机器替换、服务扩容/缩容),尤其在使用弹性伸缩服务、Kubernetes容器服务更为明显,如果没有及时同步更新或忘记配置,新增加的机器便无法采集到日志。


自定义标识机器组


基于集团内数年来的Agent运维经验总结,我们设计了一种灵活性更高、使用更加便捷、耦合度更低的配置&机器管理方式:自定义标识机器分组。


自定义标识机器分组操作非常简单:机器上设置一个或多个标识,并把机器组配置为自定义标识类型(userdefined-id),输入相应的标识,机器组即会自动匹配。


此种方式对于动态环境非常适用,尤其适用于弹性伸缩服务和swarm、pouch(阿里docker)、Kubernetes等容器环境。只需在虚拟机镜像、DockerFile或Kubernetes的yaml模板等提前配置好标识,后续扩容的机器一上线就会立即加入到对应的机器分组中,并根据对应机器分组上的采集配置开始工作。


使用方式


详细使用方式参见自定义标识机器组


步骤一 本地配置


  • Linux Logtail


通过文件 /etc/ilogtail/user_defined_id 来设置userdefined-id。


例如,设置自定义机器标识如下:


cat /etc/ilogtail/user_defined_id
k8s-demo


  • Windows Logtail


通过文件 C:\LogtailData\user_defined_id 来设置userdefined-id。


例如,设置自定义机器标识如下:


C:\LogtailData>more user_defined_id
k8s-demo


注意: 若目录 /etc/ilogtail/C:\LogtailData或文件 /etc/ilogtail/user_defined_idC:\LogtailData\user_defined_id不存在,请手动创建。


  • Docker 应用


如果您在容器中安装Logtail,可以在DockerFile中使用以下方式在发布时配置标识:


RUN mkdir /etc/ilogtail/
RUN echo ${您的机器组自定义标识} > /etc/ilogtail/user_defined_id


  • Kubernetes 集群


K8S使用可以参见Kubernetes日志采集


步骤二 创建自定义标识机器组


  1. 在机器组列表页面单击右上角的创建机器组。
  2. 填写机器组配置。
  • 机器组名称。填写自定义的机器组名称。
  • 机器组标识。选择用户自定义标识。
  • 用户自定义标识。填写步骤一中配置的userdefined-id,例如k8s-demo
  1. 单击确认结束配置。后续扩容无需修改机器组。


60915910-9376-4fdf-900f-6d884a20d434.png


步骤三 查看机器组心跳


在机器组列表页面,单击目标机器组右侧的查看状态,可以查看使用相同自定义标识的机器列表及其心跳状态。


7fbbbbad-6978-4654-ab5c-18042aa0104f.png

若有收获,就点个赞吧

相关实践学习
通过Ingress进行灰度发布
本场景您将运行一个简单的应用,部署一个新的应用用于新的发布,并通过Ingress能力实现灰度发布。
容器应用与集群管理
欢迎来到《容器应用与集群管理》课程,本课程是“云原生容器Clouder认证“系列中的第二阶段。课程将向您介绍与容器集群相关的概念和技术,这些概念和技术可以帮助您了解阿里云容器服务ACK/ACK Serverless的使用。同时,本课程也会向您介绍可以采取的工具、方法和可操作步骤,以帮助您了解如何基于容器服务ACK Serverless构建和管理企业级应用。 学习完本课程后,您将能够: 掌握容器集群、容器编排的基本概念 掌握Kubernetes的基础概念及核心思想 掌握阿里云容器服务ACK/ACK Serverless概念及使用方法 基于容器服务ACK Serverless搭建和管理企业级网站应用
目录
相关文章
|
消息中间件 存储 数据采集
iLogtail社区版使用入门 - 主机环境采集业务日志到SLS
本文将会详细介绍如何使用社区版iLogtail,并结合SLS云服务快速构建出一套高可用、高性能的日志采集分析系统
1099 0
|
6月前
|
监控 负载均衡 安全
Elasticsearch 集群某一节点修改 IP 后无法启动问题复盘
Elasticsearch 集群某一节点修改 IP 后无法启动问题复盘
142 2
|
3月前
|
应用服务中间件 nginx Docker
[loki]轻量级日志聚合系统loki快速入门
[loki]轻量级日志聚合系统loki快速入门
130 5
|
11月前
|
Kubernetes 固态存储 调度
k8s教程(pod篇)-调度概述
k8s教程(pod篇)-调度概述
75 0
|
Prometheus 监控 Cloud Native
Docker下Prometheus和Grafana三部曲之三:自定义监控项开发和配置
本文详细讲述了业务系统如何将自定义的监控项上报到prometheus,并且在Grafana上配置监控项展示上报的自定义数据
396 0
Docker下Prometheus和Grafana三部曲之三:自定义监控项开发和配置
|
存储 Prometheus 监控
Prometheus的架构原理,如何使用其进行监控告警配置实现?
Prometheus的架构原理,如何使用其进行监控告警配置实现?
364 0
Prometheus的架构原理,如何使用其进行监控告警配置实现?
|
监控 Linux 应用服务中间件
【Zabbix_6.x 第三章】 监控任意主机(下)
【Zabbix_6.x 第三章】 监控任意主机(下)
103 0
|
监控 Windows
【Zabbix_6.x 第三章】 监控任意主机(上)
【Zabbix_6.x 第三章】 监控任意主机(上)
136 0
|
存储 弹性计算 监控
Logtail心跳问题排查手册(主机场景)
机器组有心跳是Logtail正常运行的重要基础,然而,机器组无心跳却是Logtail使用过程中非常常见的问题。事实上,这一类问题的排查有一套非常系统的流程,绝大多数问题均可在这个排查过程中得以解决。因此,本文将重点介绍如何系统排查主机场景下的机器组无心跳问题。
277 0
|
数据采集 运维 监控
本地机器安装Logtail接入到阿里云SLS日志服务
本地机器安装Logtail接入到阿里云SLS日志服务
1312 0
本地机器安装Logtail接入到阿里云SLS日志服务