开源国内首个财富管理AI智能体评测集FinMCP-Bench,附主流大模型测试结果

简介: 2025年,金融AI迈入Agent时代。盈米基金与阿里云联合发布国内首个财富管理AI评测集FinMCP-Bench,聚焦复杂多轮对话、多步推理与真实工具调用,覆盖10大核心场景,基于万条真实交互数据构建,开源助力AI+财富管理落地。

金融AI进入Agent时代。2025年,AI浪潮汹涌澎湃,正在深刻改变我们每一个人的生产和生活方式。在金融领域,AI的发展已经从生成式AI迈入Agent AI的深水区。而技术竞争的焦点,不再是模型参数的堆砌或者工具提效,而是谁能将AI转化为可信赖、可执行的金融专家,实现真正的业务落地与场景赋能。

01
财富管理AI面临的挑战

面对财富管理领域复杂多变的客户需求,传统的通用大模型往往力不从心。一个合格的投资顾问智能体,必须具备以下"实战"能力:

  • 复杂多步推理:像真人专家一样将复杂任务分解为多个步骤。
  • 专业工具调用:精准协同调用海量的金融工具和数据服务。
  • 多轮对话记忆:在持续交互中始终保持专业性和上下文连贯性。

盈米基金高级副总裁、且慢业务负责人林杰才表示,“随着AI大模型在财富管理领域的深化应用,财富管理公司都很关心自己的AI应用给客户提供的财富管理服务到底可以打几分,FinMCP-Bench评测集正是为了解决这个问题而面世的。”

在今年9月的2025云栖大会上,盈米基金与阿里云联合发布了国内首个财富管理领域的理财智能体评测集——FinMCP-Bench。作为一套权威且贴近真实财富管理业务场景的评测体系,FinMCP-Bench可以客观衡量 AI 在“金融服务实战”中的表现,并且对外开源共建、不断进化。

02
FinMCP-Bench 有何特点?

不同于通用的评测集,FinMCP-Bench是首个聚焦财富管理(投资顾问)领域,针对复杂多轮、多步骤工具调用场景的评测基准。核心特点包括:

  • 数据源于投顾实战:评测数据基于且慢APP “AI小顾” 上10000+条真实生产环境的交互记录,结合多名专家注释和LLM增强策略的高难度案例构建。

  • 真实工具链:整合了65个真实的金融MCP工具(Model Context Protocol,模型上下文协议),涵盖股票趋势分析、基金持仓查询、市场研判等金融服务场景需求。

  • 核心场景覆盖:覆盖10大主要核心场景(如市场分析、投资规划、投资者教育等)和33个子场景,精准还原金融服务的用户画像。

截屏2025-12-12 11.26.06.png

(图|FinMCP-Bench的覆盖场景)

03
FinMCP-Bench评测什么?

FinMCP-Bench重点考察模型在复杂金融场景下的Agentic(代理)能力:

工具调用:模型能否从MCP工具中精准识别并准确调用的能力。

多步推理与规划:面对“先查市场,再看持仓,最后给建议”的复杂指令,模型能否处理顺序调用与并行调用的能力。

多轮对话维系:在平均5.95轮的对话中,模型能否不丢失上下文,保持逻辑连贯的能力。

容错与修正:当遇到模糊的指令或错误指令时,模型能否自我修正的能力。

截屏2025-12-12 11.26.44.png
(图|基于工具链的多工具样本合成)
截屏2025-12-12 11.27.15.png
(图|基于投资顾问角色扮演的多轮样本合成)

评测结果
我们选取了Qwen3系列、DeepSeek-R1、GPT-OSS-20B等6个主流大模型进行同台竞技。
评测结果发现,模型参数大小与金融工具调用性能并非简单的正相关。这也进一步证明了专业垂直评测集对于优化金融垂类模型的必要性。
截屏2025-12-12 11.28.18.png
(图|主流大模型的FinMCP-Bench评测结果)

04
欢迎加入FinMCP-Bench,共同探索AI+财富管理的新可能

我们始终相信,AI的未来在于开放与连接。
目前,FinMCP-Bench现已全面开源,我们诚挚邀请行业伙伴加入这场技术革新。

如果你是:
金融机构与科技公司业务人员,可以利用评测集评估模型的实战水平,优化AI业务落地能力。

AI研究人员与模型/Agent开发者,可以基于评测集和MCP高质量的金融标注数据,探索金融Agent开发的新路径。

高校与学术机构,可以利用该评测标准,助力推动金融大模型的前沿研究。

开源地址
1、Huggingface:
https://huggingface.co/datasets/DianJin/FinMCP-Bench

2、ResearchGate(完整论文):
https://www.researchgate.net/publication/396371996_FinMCP-Bench_Benchmarking_LLM_Agents_for_Real-World_Financial_Tool_Use_under_the_Model_Context_Protocol
(注:另外,需要您开通盈米且慢MCP,获取API Key。)

盈米且慢MCP免费开通地址
https://qieman.com/mcp

FinMCP-Bench 的开源发布只是一个开始。盈米相信,AI将重新定义金融服务的深度与广度。我们期待与您携手,用更精准的代码、更智能的Agentic模型和应用,去更好、更高效地服务好每一位投资者。

相关文章
|
8天前
|
数据采集 人工智能 安全
|
4天前
|
机器学习/深度学习 人工智能 前端开发
构建AI智能体:七十、小树成林,聚沙成塔:随机森林与大模型的协同进化
随机森林是一种基于决策树的集成学习算法,通过构建多棵决策树并结合它们的预测结果来提高准确性和稳定性。其核心思想包括两个随机性:Bootstrap采样(每棵树使用不同的训练子集)和特征随机选择(每棵树分裂时只考虑部分特征)。这种方法能有效处理大规模高维数据,避免过拟合,并评估特征重要性。随机森林的超参数如树的数量、最大深度等可通过网格搜索优化。该算法兼具强大预测能力和工程化优势,是机器学习中的常用基础模型。
298 164
|
3天前
|
机器学习/深度学习 自然语言处理 机器人
阿里云百炼大模型赋能|打造企业级电话智能体与智能呼叫中心完整方案
畅信达基于阿里云百炼大模型推出MVB2000V5智能呼叫中心方案,融合LLM与MRCP+WebSocket技术,实现语音识别率超95%、低延迟交互。通过电话智能体与座席助手协同,自动化处理80%咨询,降本增效显著,适配金融、电商、医疗等多行业场景。
311 155
|
11天前
|
SQL 自然语言处理 调度
Agent Skills 的一次工程实践
**本文采用 Agent Skills 实现整体智能体**,开发框架采用 AgentScope,模型使用 **qwen3-max**。Agent Skills 是 Anthropic 新推出的一种有别于mcp server的一种开发方式,用于为 AI **引入可共享的专业技能**。经验封装到**可发现、可复用的能力单元**中,每个技能以文件夹形式存在,包含特定任务的指导性说明(SKILL.md 文件)、脚本代码和资源等 。大模型可以根据需要动态加载这些技能,从而扩展自身的功能。目前不少国内外的一些框架也开始支持此种的开发方式,详细介绍如下。
854 6
|
5天前
|
机器学习/深度学习 人工智能 前端开发
构建AI智能体:六十九、Bootstrap采样在大模型评估中的应用:从置信区间到模型稳定性
Bootstrap采样是一种通过有放回重抽样来评估模型性能的统计方法。它通过从原始数据集中随机抽取样本形成多个Bootstrap数据集,计算统计量(如均值、标准差)的分布,适用于小样本和非参数场景。该方法能估计标准误、构建置信区间,并量化模型不确定性,但对计算资源要求较高。Bootstrap特别适合评估大模型的泛化能力和稳定性,在集成学习、假设检验等领域也有广泛应用。与传统方法相比,Bootstrap不依赖分布假设,在非正态数据中表现更稳健。
250 113

热门文章

最新文章