FastJson:大面积故障规

简介: 本文记录了一次由Kotlin语法混淆引发的FastJson反序列化故障排查过程。因误将`{}`赋值给Java对象字段,导致FastJson解析时触发`kotlin_error`静态标记位异常,进而引发全局反序列化失败。问题根源在于多语言混编下语法差异及框架对异常状态的不可逆处理,最终通过代码审查与原理分析定位解决,凸显了对底层机制理解的重要性。

在短短不到两年的开发生涯里,加上这次,印象中已经碰到过至少3次FastJson的问题了。而且FastJson不同版本之间的差异很大,各位同学在使用时一定注意不要踩坑。

下面讲一下我碰到的这个细思极恐的问题。

一、首先讲讲工程背景

我们的工程是Kotlin与Java混编的,再附加偶尔写写Groovy,在团队中不断熟悉后发现各语言在编程中各有利弊。

  • Java就不说了,阿里在国内Java应用上堪称鼻祖,集团各种工具对Java的支持都比较完备;
  • Kotlin有很多语法上的优势,同样的代码Java 10行,Kotlin可能只需要5行,此外支持协程(coroutines),编写非阻塞异步代码看起来像是同步的,能很好地处理IO密集型任务。但是Kotlin毕竟非正统,集团很多工具对Kotlin的支持性比较一般;
  • groovy的语法规则更加特殊,工程里用的不是特别多,所以基本都是需要开发时用大模型去解决,没有特意去研究;

二、问题现象

突然有一天组里同学告诉我预发环境(开发-测试-预发/灰度/UAT-生产)有大量报错,是不是我改了架构层面的代码引起的。我心想肯定不是啊,我这是增量编程,并没有改动太多原来的代码。

但是处于谨慎起见,还是把分支踢掉吧,重新部署了一下,发现同样的问题在工程重启一小段时间后又发生了。

下面是问题报错,这会导致工程运行时大部分涉及反序列化的链路中断,而工程到处用了FastJson,影响面可想而知。

三、排查过程

1. 怀疑FastJson版本

既然是FastJson的抛错,那是不是有人改动了工程依赖,于是开始查pom文件的改动,一时也想不到别的原因可能导致该报错。

查了一圈并没有发现可疑的地方,于是上AppInsights中看了一下FastJson相关类的加载情况,发现这里有个1.2.68_noneautotype版本的包,而工程其实统一用的是1.2.83_noneautotype,会不会是这里引起的呢?

后来登到线上机器对比了一下发现没有这个版本,那有可能就是别的包引入的,于是看了一下出问题module的pom文件,发现果然有这个版本的FastJson,再定位了下发现是rass-sdk-core引入了这个包,scope为compile,打包时会将这个包编译进工程中。

 

很果断的将该包中的FastJson排掉,那问题铁定解决了,观察了日志发现没有再抛错,我就没再管。到了下午同学又来反馈有问题,我一看还真是,难道是搞错了。

再次对比了一下预发和线上,发现还真是我搞错了,线上也有1.2.68_noneautotype。

我有点郁闷,为了定位这个bug,翻遍了预发每个人的分支,为了排包前后部署过很多次。此时这个问题已经困扰了我1天多了,想撂挑子放弃,到时候谁发线上时注意下好了。

但又一想这是我们辛苦维护的庞大工程,不能因为这种莫名其妙的问题引发大面积故障,到时候辛苦半年多白干(上价值,给自己增加点动力)。理智告诉我哪怕手头的需求先放一放,还得继续查,虽然只是预发。

2. 怀疑kotlin相关依赖

跟同学确认了JDK近期也没有变动后,接下来开始到处翻资料。

大概能确认是反序列化Kotlin的data class实体时出现的问题。类似下面这

GitHub上关于该问题的讨论也比较多,总结一下解法有:

1.FastJson和kotlin版本不兼容

2.工程中需要引入kotlin-reflect

3.需要对data class的非空字段默认初始化

4.……

第三个字段初始化问题不太可能,因为受影响的class从来没改动过,不可能好端端出问题。估计问题应该还是出在工程环境上。

于是去工程里看了一下kotlin-reflect依赖,仍然是正常引入的。

又去看了几遍近期所有分支的所有改动,也没有任何相关变动,慢慢地开始头麻,环境问题一向是最难的。。。。

3. 翻阅到相似的例子

接下来就还是一直在网上翻阅其他资料,后来在掘金找到一篇: https://juejin.cn/post/6929740384734019597

文章提到的问题现象跟我们的还挺像的,都是一开始正常,过了一会儿就又出现问题。

文章对FastJson剖析挺深,感觉我们的工程不至于这么奇葩吧。还提到了什么getKoltinConstructorParameters、Unit变量、kotlin_error标记位问题。核心原因是有个静态标记位被置为异常状态。

虽然抽象,但死马当活马医,试试看吧。

先看工程里有没有打印这个NPE吧,SLS日志搜了半天都没搜到,去源码看了一下,原来这里只打印了异常堆栈,那不会被采集到SLS中,不过服务器日志里可能会有。

妈耶还真给我搜到了,再仔细读了一下打堆栈的地方,会将kotlin_error置为true,而且关键的地方在于这玩意儿是个static volatile变量!!具有静态共享特征(static)和多线程可见性(volatile),意味着整个工程使用的都是被修改后的值。

4. ☆ 锁定关键报错位置

继续进QuestionCardProxyApi 228行 找到报错源,发现确实有个toJsonString。对于invokeResumeReq这个对象,我一眼看到有个古怪的赋值,this.resumeBody被赋值为{}。但这个赋值有何神奇之处,哪能这么个小玩意儿导致全局异常啊??

这段日志代码是12-17添加的,时间看了下还挺符合。再看resumeBody其实是个Java类的一个object类型字段,kotlin中这样对其赋值,编译器倒也没报错

其实到这个地方已经感觉要水落石出了,再一看master,妈耶这个代码上线了,但线上却没有任何报错,运行一切正常。

但基本能确定是这里无疑了,就赶紧拉写这段代码的同学看(悄悄说,仁兄一开始提给我的bug),确认线上还没开始灰度,无任何流量后放心了。他在家里加班修,我继续看原理。

首先肯定本意是想将resumeBody置空,误用了{},{}在kotlin中被编译器解释为一个lambda表达式。

再看debug信息,这里resumeBody实际上被解释为 ()->kotlin.Unit 这样一个lambda函数,arity表示函数的参数数量为0.

也就是说:{}是一个没有任何入参,并且返回值默认为Unit类型的一个函数(没有明确返回值时默认Unit类型)。

为了更清晰地了解这个语法,可以看下面这个例子:这里定义了一个函数式变量x,入参为s,出参为s+“000”。在使用时可以直接以函数的方式调用x,最终得到y=111000

FastJson自然无法正确解析这样的一个Object字段,而最令人细思极恐的问题是 解析这个对象报了错,却把kotlin_error置为true,而后有没有地方将其复原为false,导致所有的反序列化都进到这里,返回不正确的结果,错误结果被外层拦截抛出default constructor not found异常。这个影响面是巨大的,会导致整个工程崩溃。

具体代码解释:

1.一开始 kotlin_error !=true ,会进到 kotlin_kclass_getConstructors.invoke获取类构造器,这里抛错了,把kotlin_error改为true;

2.往后所有相关的FastJson序列化、反序列化重新进到这里都会return null,导致类构造器获取失败;

3.外层没拿到paramNames,直接抛了异常。

5. 有问题的代码(自测)

有kotlin运行环境的同学可以尝试运行下面的代码自测。

注意:经测试这段代码在FastJson 2.0.53版本可以正常运行,其他版本同学们可以再自测下。

四、总结&反思

至此,问题定位清楚并彻底解决了。这次bug是工作以来碰到的最抽象的一个,耗时两天。虽然有点低效,但找到原因后俺非常激动,逮住组里同学细细讲了一番,估计这么抽象的问题工作多年的大佬也不一定能遇到。

再次膜拜一下掘金大佬:https://juejin.cn/post/6929740384734019597

另外也反思了以下几个问题:

1.工程中Java、kotlin、groovy等多语言混编,对开发同学的语法掌握程度有较高要求,有时候各语言间会混淆,特别是判空、变量定义规则等。这些语言的线上空指针我都尝过,有点酸爽。这次同学出现语法问题,其实也是有点语言混淆了,如果纯Java,铁定不会甩个{}上去;

2.这次线上无异常,得益于灰度开关(哥们可得感谢我,还没放量,否则一旦流量进来,涉及kotlin的链路全部中断就寄了);

3.FastJson是有很多漏洞的,使用时仍然要高度注意。任何框架都是不能完全信任的,毕竟代码都是人写出来的,Bug要大家一起合力发现hhh;

4.写Bug是每个开发同学都会经历的,朋友经常嘲笑我写Bug。但实际上你写过的Bug越多,说明越有经验,吃一堑长一智,下次不要再犯就好了。

以上内容分享给大家,欢迎大家指导和建议~~

相关文章
|
7天前
|
存储 SQL Apache
Flink + Fluss 实战: Delta Join 原理解析与操作指南
Flink Delta Join 通过复用源表数据替代本地状态,解决双流 Join 状态膨胀问题。结合 Fluss 流存储,实现高效双向 Lookup,显著降低资源消耗与 Checkpoint 时间,提升作业稳定性与恢复速度,已在阿里大规模落地。
84 13
Flink + Fluss 实战: Delta Join 原理解析与操作指南
|
16天前
|
消息中间件 人工智能 NoSQL
AgentScope x RocketMQ:打造企业级高可靠 A2A 智能体通信基座
基于 RocketMQ SDK 实现了 A2A 协议的 ClientTransport 接口(部分核心代码现已开源),并与 AgentScope 框架深度集成,共同构建了全新的 A2A 智能体通信基座,为多智能体应用提供企业级、高可靠的异步协同方案。
240 40
|
14天前
|
SQL 人工智能 自然语言处理
让AI真正懂数据:猫超Matra项目中的AI知识库建设之路
本文介绍猫超基于大模型的AI数据助手Matra实践,构建面向Data Agent的知识库体系,通过知识图谱与ReAct框架实现智能取数,提升数据研发效率与业务分析能力。
113 20
让AI真正懂数据:猫超Matra项目中的AI知识库建设之路
|
16天前
|
监控 Java 开发工具
Android 崩溃监控实战:一次完整的生产环境崩溃排查全流程
某 App 新版上线后收到大量用户投诉 App 闪退和崩溃。仅凭一条崩溃日志和会话追踪,团队如何在2小时内锁定「快速刷新导致数据竞态」这一根因?本文带你复现真实生产环境下的完整排查路径:从告警触发、堆栈分析、符号化解析,到用户行为还原——见证 RUM 如何让“无法复现的线上崩溃”无所遁形。
171 33
|
14天前
|
弹性计算 Kubernetes 安全
已上线!云监控 2.0 面向实体的全链路日志审计与风险溯源
在云端,一次 API 调用背后可能隐藏着一场数据泄露;一个异常进程背后,或许是 AK 泄露引发的链式攻击。传统日志“看得见却看不懂”,而云监控 2.0 日志审计通过 UModel 实体建模,将分散在 ACS、K8s、主机各层的日志自动串联。
120 32
|
人工智能 缓存 运维
探秘 AgentRun丨通过无代码创建的 Agent,如何用高代码进行更新?
AgentRun 打破 AI Agent 开发困局,无代码快速验证想法,一键转高代码实现深度定制。60 秒创建 Agent,支持多模型、工具集成与 Prompt 优化;业务增长后可平滑演进,保留配置生成高质量代码,助力从原型到生产的持续迭代。
171 25
|
13天前
|
监控 Java C语言
揭开 Java 容器“消失的内存”之谜:云监控 2.0 SysOM 诊断实践
本文介绍云原生环境下Java应用内存超限问题的诊断与治理,聚焦容器化后常见的JVM堆外内存、JNI内存泄漏、LIBC分配器特性及Linux透明大页等导致OOM的根源,结合阿里云SysOM系统诊断工具,通过真实案例详解如何实现从应用到系统的全链路内存分析,精准定位“消失的内存”,提升资源利用率与稳定性。
104 19
|
13天前
|
人工智能 安全 开发者
快速构建企业 AI 开放平台,HiMarket 重磅升级快速构建企业 AI 开放平台,HiMarket 重磅升级
HiMarket是阿里开源的AI开放平台,助力企业构建Agent/MCP/Model市场,提供统一的AI资源管理、安全治理与协作能力,支持一键部署,推动AI规模化落地。
155 14
|
14天前
|
消息中间件 人工智能 NoSQL
AgentScope x RocketMQ:打造企业级高可靠 A2A 智能体通信基座
Apache RocketMQ 推出轻量级通信模型 LiteTopic,专为 AI 时代多智能体协作设计。它通过百万级队列支持、会话状态持久化与断点续传能力,解决传统架构中通信脆弱、状态易失等问题。结合 A2A 协议与阿里巴巴 AgentScope 框架,实现高可靠、低延迟的 Agent-to-Agent 通信,助力构建稳定、可追溯的智能体应用。现已开源并提供免费试用,加速 AI 应用落地。
245 36
AgentScope x RocketMQ:打造企业级高可靠 A2A 智能体通信基座