方案测评|巧用文档智能和RAG构建大语言模型知识库

本文涉及的产品
云解析 DNS,旗舰版 1个月
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
简介: 本文介绍了一款基于文档智能和大语言模型(LLM)的文档解析及问答应用,旨在提升企业文档管理和信息检索效率。系统通过文档解析、知识库构建和问答服务三大模块,实现了从文档上传到智能问答的全流程自动化。

一、引言

在数字化转型的浪潮中,企业对于文档处理和信息检索的需求日益增长。传统的文档管理方式往往存在效率低下、信息检索困难等问题,无法满足现代企业对于快速响应和精准决策的需求。随着大语言模型(LLM)和文档智能技术的不断发展,这些挑战得到了新的解决方案。本文将测评一款基于文档智能的文档解析处理,并结合百炼平台构建的文档问答应用,旨在探索其在企业级文档类型知识库中的实际应用效果。

二、技术背景

1、大语言模型(LLM)

大语言模型(LLM)是自然语言处理(NLP)领域的一项核心技术,它通过深度学习技术,训练出能够理解、生成自然语言的大规模神经网络模型。LLM具备强大的语义理解和生成能力,能够处理复杂的语言结构和语境,为知识问答、内容生成等场景提供了强有力的支持。

2、文档智能

文档智能技术是指利用计算机视觉、自然语言处理等技术,对文档进行解析、提取、分类等处理,以实现文档信息的智能化管理。文档智能技术能够处理多种格式的文档,包括PDF、Word、Excel等,对于表格内容、公式文本、图片内容等复杂元素也能进行有效处理。

3、检索增强生成(RAG)

检索增强生成(RAG)是一种结合了信息检索和文本生成的模型,它能够在给定的上下文中,通过检索相关信息来生成更加准确、有逻辑的回复。RAG模型能够利用检索到的信息,为LLM提供丰富的上下文信息,从而提高问答的准确性和可信度。

三、方案架构

本次测评的系统架构主要包括如下:

  • 文档解析:通过调用文档智能提供的文档解析(大模型版),将文件处理为Json对象,包含多个版面块单元。

  • 构建知识库:文档内容切片向量化存储,将多个版面块过滤非正文内容,切分成多个切块,进行向量化服务,存入知识库中。

  • 创建问答服务:当接收到一个提问时,服务首先将问题转换为内容向量,然后在知识库中进行召回,找到相关信息。接着,结合召回的内容和问题,通过语言模型进行智能问答,提供准确的回答。
    image.png

四、部署过程

一键部署,基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,ROS模板已定义好脚本,可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。

1、ECS配置,选择ecs.g7.large,配置实例登录密码。
image.png

2、获取百炼API-KEY
image.png

3、配置百炼APP。
image.png

4、检查配置后单击创建。
image.png

5、创建进度查看。
image.png

6、创建完成。耗时6分钟。
image.png

四、方案验证

使用文档智能(Document Mind)提供的文档解析(大模型版)解析本地文档。并将解析结果接入百炼平台创建知识库。

1、单击资源栈的输出页签,再单击体验地址对应的URL进行访问。
image.png

2、系统登录:在登录页面输入之前配置的用户名和密码,然后进行登录和体验(如果遗忘用户名可在创建ROS资源栈中的参数AppUsername找到您的设置信息)。
image.png
image.png

3、文档上传:用户可以选择本地文档并设置知识库名称。点击上传后,系统将解析文档并构建相应的知识库,最终返回文档信息、文档摘要和文档结构。

支持PDF/Doc/Docx格式,单文档最大限制100MB或1000页

image.png

4、问答服务:点击页面上方问答服务,切换到问答服务界面,然后输入知识库名称并输入针对该知识库的提问,即可获得精准的回答。
image.png
image.png

五、清理资源

1、登录ROS控制台。在左侧导航栏,选择资源栈。在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
image.png
image.png
image.png

2、登录百炼控制台,在数据应用 > 知识索引页面,找到知识库并点击操作栏中的删除。
image.png

在数据管理页面,找到上传的文档并点击操作栏中的删除。
image.png

六、测评结果与反馈

1、阅读本解决方案后,对解决方案的实践原理理解程度如何?是否觉得描述清晰?

  • 本方案中使用的IDP解析与传统的电子解析文本或者OCR解析文本没有对比,无法直观理解IDP解析的优势。
  • 本方案在验证过程中没有展示出RAG的实现原理,比如分片,数据索引的创建。

2、在部署体验过程中是否得到足够的引导以及文档帮助?在方案部署中遇到过哪些报错或异常?

  • 在上传文档时,总是报错上传失败,无法解析出来。重试了四次都是如此。

image.png

该文档为PDF格式,3.7M,53页。满足要求。
image.png
image.png

在百炼查看,其实都上传成功,并解析完成。
image.png
image.png
image.png
image.png

遇到上述问题,该如何处理。

  • 有些回答不完整。
    image.png

  • 希望可以对上传文件的要求做一些更具体的推荐,比如内容格式、是否文档里可以有大量图片等等。

  • 报错的信息是否能提供中文,最好再有相关的指导排障连接。

3、在部署过程中能否体验到通过文档智能和检索增强生成结合起来构建的LLM知识库的优势?

  • 方案里描述可以解析包括企业日常办公中常见的Office文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。但实践只支持PDF/Doc/Docx。是说图片在文档中可以处理,单独的图片无法解析是吗?

image.png
image.png

image.png

4、部署实践后,是否能清晰理解解决方案适用的业务场景?是否符合实际生产环境的需求?

针对实际的生产场景的建议与问题如下:

  • 单次只能上传解析一个文档,是否能支持同时解析多个文档。
  • 若企业内有多个知识库,是否在问答服务时可以下拉选择已有知识库,而非自己手动输入。
  • 自己构建的知识库,在问答时是否能增加联想功能。
  • 当企业知识库进行更新时,该如何进行处理。是需要重新导入文档再解析一遍吗?
  • 知识库的召回率与正确率该如何评估?
  • 在上传完文档解析时,没有解析进度,若文件比较大或者结构复杂,不太清楚能多久解析完成,只能干等待。
    image.png
相关文章
|
SQL 人工智能 分布式计算
基于阿里云PAI平台搭建知识库检索增强的大模型对话系统
基于原始的阿里云计算平台产技文档,搭建一套基于大模型检索增强答疑机器人。本方案已在阿里云线上多个场景落地,将覆盖阿里云官方答疑群聊、研发答疑机器人、钉钉技术服务助手等。线上工单拦截率提升10+%,答疑采纳率70+%,显著提升答疑效率。
|
2月前
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
3天前
|
消息中间件 人工智能 弹性计算
《文档智能 & RAG让AI大模型更懂业务》解决方案评测
一文带你了解《文档智能 & RAG让AI大模型更懂业务》解决方案的优与劣
29 6
|
22天前
|
数据采集 人工智能 自然语言处理
文档智能与检索增强生成结合的LLM知识库方案测评:优势与改进空间
《文档智能 & RAG让AI大模型更懂业务》解决方案通过结合文档智能和检索增强生成(RAG)技术,构建企业级文档知识库。方案详细介绍了文档清洗、向量化、问答召回等步骤,但在向量化算法选择、多模态支持和用户界面上有待改进。部署过程中遇到一些技术问题,建议优化性能和增加实时处理能力。总体而言,方案在金融、法律、医疗等领域具有广泛应用前景。
45 11
|
12天前
|
人工智能 自然语言处理 算法
《文档智能 & RAG让AI大模型更懂业务》解决方案的测评:
此解决方案通过文档智能技术分析、处理和结构化业务文档,利用RAG技术整合至LLM知识库,提升AI模型的业务理解和响应准确性。部署文档详尽易懂,适合新手操作。系统在专业领域查询中表现出色,但建议优化冷启动性能和多语言处理能力,以满足更多企业需求。适用于客户服务、内部知识管理和数据分析等场景,特别适合需高效信息检索的大型企业,建议提供不同规模解决方案以适应各类企业。
41 1
|
24天前
|
人工智能 JSON 自然语言处理
基于文档智能&RAG搭建更懂业务的AI大模型
本文介绍了一种结合文档智能和检索增强生成(RAG)技术,构建强大LLM知识库的方法。通过清洗文档内容、向量化处理和特定Prompt,提供足够的上下文信息,实现对企业级文档的智能问答。文档智能(Document Mind)能够高效解析多种文档格式,确保语义的连贯性和准确性。整个部署过程简单快捷,适合处理复杂的企业文档,提升信息提取和利用效率。
|
1月前
|
人工智能 弹性计算 文字识别
基于阿里云文档智能和RAG快速构建企业"第二大脑"
在数字化转型的背景下,企业面临海量文档管理的挑战。传统的文档管理方式效率低下,难以满足业务需求。阿里云推出的文档智能(Document Mind)与检索增强生成(RAG)技术,通过自动化解析和智能检索,极大地提升了文档管理的效率和信息利用的价值。本文介绍了如何利用阿里云的解决方案,快速构建企业专属的“第二大脑”,助力企业在竞争中占据优势。
|
1月前
|
数据采集 人工智能 自然语言处理
《文档智能 & RAG让AI大模型更懂业务》解决方案测评
《文档智能 & RAG让AI大模型更懂业务》解决方案测评
|
2月前
|
人工智能 自然语言处理 文字识别
部署《文档智能 & RAG》解决方案
部署《文档智能 & RAG》解决方案
58 4
|
3月前
|
存储 算法 API
文档解析(大模型版)能力对比测评
文档解析(大模型版)能力对比测评
242 41