使用rsyslog采集客户端日志

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介: rsyslog可以作为ELK最前端的日志收集,系统自带且性能较好

一、采集(使用rsyslog)

客户端使用rsyslog8.19.0做的收集,直接centos安装rpm包,安装详细见:

http://www.rsyslog.com/rhelcentos-rpms/

将yum源配置好后:

1、yum install rsyslog -y
2、yum install rsyslog-kafka -y

二、配置文件示例

module(load="imfile")
module(load="omkafka")
$PreserveFQDN on
main_queue(
queue.workerthreads="10" # threads to work on the queue
queue.dequeueBatchSize="1000" # max number of messages to process at once
queue.size="50000" # max queue size
)

tomcat

$template api-tomcat,"%hostname% ◊ %msg%"
ruleset(name="api-tomcat") {
action(
broker=["1.1.1.1:9092,1.1.1.2:9092,1.1.1.3:9092"]
type="omkafka"
topic="api-tomcat"
template="api-tomcat"
partitions.auto="on"
)
}
input(type="imfile"
File="/www/webcode/api/logs/info.log"
Tag="m.w"
ruleset="api-tomcat"
startmsg.regex="^[[:digit:]]{4}-[[:digit:]]{2}-[[:digit:]]{2}"
escapeLF="on"
freshStartTail="on" #start tailf
reopenOnTruncate="on" #Truncate reopen
)

三、测试

添加 kafka配置vhosts

rsyslogd -f api-tomcat.conf -dn

相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
目录
相关文章
|
26天前
|
网络安全
【Azure Service Bus】启用诊断日志来获取客户端访问Azure Service Bus的IP地址 [2024-03-26 实验结果失败]
【Azure Service Bus】启用诊断日志来获取客户端访问Azure Service Bus的IP地址 [2024-03-26 实验结果失败]
|
2月前
|
消息中间件 Kubernetes Kafka
日志采集/分析
日志采集/分析
51 7
|
2月前
|
存储 并行计算 开发工具
SLS Prometheus存储问题之相比客户端SDK聚合写入,SLS网关侧聚合写入有什么优势
SLS Prometheus存储问题之相比客户端SDK聚合写入,SLS网关侧聚合写入有什么优势
|
1月前
|
存储 Kubernetes Java
在k8S中,容器内日志是怎么采集的?
在k8S中,容器内日志是怎么采集的?
|
1月前
|
数据采集 监控 Kubernetes
Job类日志采集问题之iLogtail以减小容器发现和开始采集的延时如何优化
Job类日志采集问题之iLogtail以减小容器发现和开始采集的延时如何优化
|
1月前
|
数据采集 Kubernetes Java
Job类日志采集问题之在日志中添加容器的元信息标签,如何操作
Job类日志采集问题之在日志中添加容器的元信息标签,如何操作
|
1月前
|
存储 容器
Job类日志采集问题之DaemonSet采集方式的参数以减小采集延时如何调整
Job类日志采集问题之DaemonSet采集方式的参数以减小采集延时如何调整
|
1月前
|
容器
Job类日志采集问题之ECI产品采集方式对于弹性扩缩容是如何支持的
Job类日志采集问题之ECI产品采集方式对于弹性扩缩容是如何支持的
|
1月前
|
存储 数据采集 容器
Job类日志采集问题之DaemonSet采集方式在Job日志采集上如何表现
Job类日志采集问题之DaemonSet采集方式在Job日志采集上如何表现
|
1月前
|
存储 Kubernetes 数据处理
Job类日志采集问题之为什么Job容器的日志采集要考虑容器发现速度和开始采集延时,如何理解
Job类日志采集问题之为什么Job容器的日志采集要考虑容器发现速度和开始采集延时,如何理解