Logback 配置文件这么写,TPS 提高 10 倍!

简介: 通过阅读本篇文章将了解到:1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件2.通过异步输出日志减少磁盘IO提高性能3.异步输出日志的原理

通过阅读本篇文章将了解到:


1.日志输出到文件并根据LEVEL级别将日志分类保存到不同文件


2.通过异步输出日志减少磁盘IO提高性能


3.异步输出日志的原理


1、配置文件logback-spring.xml

Spring Boot工程自带logback和slf4j的依赖,所以重点放在编写配置文件上,需要引入什么依赖,日志依赖冲突统统都不需要我们管了。


logback框架会默认加载classpath下命名为logback-spring或logback的配置文件。


将所有日志都存储在一个文件中文件大小也随着应用的运行越来越大并且不好排查问题,正确的做法应该是将error日志和其他日志分开,并且不同级别的日志根据时间段进行记录存储。

<?xml version="1.0" encoding="utf-8"?>  
<configuration>  
    <property resource="logback.properties"/>  
    <appender name="CONSOLE-LOG" class="ch.qos.logback.core.ConsoleAppender">  
        <layout class="ch.qos.logback.classic.PatternLayout">  
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>  
        </layout>  
    </appender>  
    <!--获取比info级别高(包括info级别)但除error级别的日志-->  
    <appender name="INFO-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">  
        <filter class="ch.qos.logback.classic.filter.LevelFilter">  
            <level>ERROR</level>  
            <onMatch>DENY</onMatch>  
            <onMismatch>ACCEPT</onMismatch>  
        </filter>  
        <encoder>  
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>  
        </encoder>  
        <!--滚动策略-->  
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">  
            <!--路径-->  
            <fileNamePattern>${LOG_INFO_HOME}//%d.log</fileNamePattern>  
            <maxHistory>30</maxHistory>  
        </rollingPolicy>  
    </appender>  
    <appender name="ERROR-LOG" class="ch.qos.logback.core.rolling.RollingFileAppender">  
        <filter class="ch.qos.logback.classic.filter.ThresholdFilter">  
            <level>ERROR</level>  
        </filter>  
        <encoder>  
            <pattern>[%d{yyyy-MM-dd' 'HH:mm:ss.sss}] [%C] [%t] [%L] [%-5p] %m%n</pattern>  
        </encoder>  
        <!--滚动策略-->  
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">  
            <!--路径-->  
            <fileNamePattern>${LOG_ERROR_HOME}//%d.log</fileNamePattern>  
            <maxHistory>30</maxHistory>  
        </rollingPolicy>  
    </appender>  
    <root level="info">  
        <appender-ref ref="CONSOLE-LOG" />  
        <appender-ref ref="INFO-LOG" />  
        <appender-ref ref="ERROR-LOG" />  
    </root>  
</configuration>  

部分标签说明


标签,必填标签,用来指定最基础的日志输出级别


标签,添加append


标签,通过使用该标签指定日志的收集策略


name属性指定appender命名


class属性指定输出策略,通常有两种,控制台输出和文件输出,文件输出就是将日志进行一个持久化。ConsoleAppender将日志输出到控制台


标签,通过使用该标签指定过滤策略


标签指定过滤的类型


标签,使用该标签下的标签指定日志输出格式


标签指定收集策略,比如基于时间进行收集


标签指定生成日志保存地址 通过这样配置已经实现了分类分天手机日志的目标了


image.png


2、logback 高级特性异步输出日志

之前的日志配置方式是基于同步的,每次日志输出到文件都会进行一次磁盘IO。采用异步写日志的方式而不让此次写日志发生磁盘IO,阻塞线程从而造成不必要的性能损耗。关注微信公众号Java技术栈在后台回复Java可以获取我整理的 N 篇 Java 多线程教程。


异步输出日志的方式很简单,添加一个基于异步写日志的appender,并指向原先配置的appender即可。

<!-- 异步输出 -->  
<appender name="ASYNC-INFO" class="ch.qos.logback.classic.AsyncAppender">  
    <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->  
    <discardingThreshold>0</discardingThreshold>  
    <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->  
    <queueSize>256</queueSize>  
    <!-- 添加附加的appender,最多只能添加一个 -->  
    <appender-ref ref="INFO-LOG"/>  
</appender>  
<appender name="ASYNC-ERROR" class="ch.qos.logback.classic.AsyncAppender">  
    <!-- 不丢失日志.默认的,如果队列的80%已满,则会丢弃TRACT、DEBUG、INFO级别的日志 -->  
    <discardingThreshold>0</discardingThreshold>  
    <!-- 更改默认的队列的深度,该值会影响性能.默认值为256 -->  
    <queueSize>256</queueSize>  
    <!-- 添加附加的appender,最多只能添加一个 -->  
    <appender-ref ref="ERROR-LOG"/>  
</appender>  

3、异步输出日志性能测试

既然能提高性能的话,必须进行一次测试比对,同步和异步输出日志性能到底能提升多少倍?


服务器硬件

CPU 六核


内存 8G


测试工具

Apache Jmeter


同步输出日志

线程数:100


Ramp-Up Loop(可以理解为启动线程所用时间) :0 可以理解为100个线程同时启用


测试结果


image.png


重点关注指标Throughput【TPS】吞吐量:系统在单位时间内处理请求的数量,在同步输出日志中TPS为44.2/sec。坑爹的日志无法按天切割问题,这个大家也得注意下。


异步输出日志

线程数 100


Ramp-Up Loop:0


测试结果


image.png


TPS为497.5/sec,性能提升了10多倍!!!


4、异步日志输出原理

从logback框架下的Logger.info方法开始追踪。一路的方法调用路径如下图所示:

image.png



异步输出日志中最关键的就是配置文件中ch.qos.logback.classic包下AsyncAppenderBase类中的append方法,查看该方法的源码:

protected void append(E eventObject) {  
    if(!this.isQueueBelowDiscardingThreshold() || !this.isDiscardable(eventObject)) {  
        this.preprocess(eventObject);  
        this.put(eventObject);  
    }  
}  

通过队列情况判断是否需要丢弃日志,不丢弃的话将它放到阻塞队列中,通过查看代码,这个阻塞队列为ArrayBlockingQueueu,默认大小为256,可以通过配置文件进行修改。


Logger.info(...)到append(...)就结束了,只做了将日志塞入到阻塞队列的事,然后继续执行Logger.info(...)下面的语句了。在AsyncAppenderBase类中定义了一个Worker线程,run方法中的关键部分代码如下:

E e = parent.blockingQueue.take();aai.appendLoopOnAppenders(e);  

从阻塞队列中取出一个日志,并调用AppenderAttachableImpl类中的appendLoopOnAppenders方法维护一个Append列表。Worker线程中调用方法过程主要如下图:


image.png


最主要的两个方法就是encode和write方法,前一个法方会根据配置文件中encode指定的方式转化为字节码,后一个方法将转化成的字节码写入到文件中去。


所以写文件是通过新起一个线程去完成的,主线程将日志扔到阻塞队列中,然后又去做其他事情了。



相关文章
|
3天前
|
数据采集 人工智能 安全
|
12天前
|
云安全 监控 安全
|
4天前
|
自然语言处理 API
万相 Wan2.6 全新升级发布!人人都能当导演的时代来了
通义万相2.6全新升级,支持文生图、图生视频、文生视频,打造电影级创作体验。智能分镜、角色扮演、音画同步,让创意一键成片,大众也能轻松制作高质量短视频。
1042 151
|
4天前
|
编解码 人工智能 机器人
通义万相2.6,模型使用指南
智能分镜 | 多镜头叙事 | 支持15秒视频生成 | 高品质声音生成 | 多人稳定对话
|
17天前
|
机器学习/深度学习 人工智能 自然语言处理
Z-Image:冲击体验上限的下一代图像生成模型
通义实验室推出全新文生图模型Z-Image,以6B参数实现“快、稳、轻、准”突破。Turbo版本仅需8步亚秒级生成,支持16GB显存设备,中英双语理解与文字渲染尤为出色,真实感和美学表现媲美国际顶尖模型,被誉为“最值得关注的开源生图模型之一”。
1731 9
|
9天前
|
人工智能 自然语言处理 API
一句话生成拓扑图!AI+Draw.io 封神开源组合,工具让你的效率爆炸
一句话生成拓扑图!next-ai-draw-io 结合 AI 与 Draw.io,通过自然语言秒出架构图,支持私有部署、免费大模型接口,彻底解放生产力,绘图效率直接爆炸。
680 152
|
11天前
|
人工智能 安全 前端开发
AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用
AgentScope 重磅发布 Java 版本,拥抱企业开发主流技术栈。
644 13
|
6天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
405 4