《多模态数据信息提取》解决方案,主要是通过先进的人工智能技术,能够识别和解析各种格式的文件,包括文本、图像、音频和视频,从而提取出有价值的信息,大幅提升数据处理效率。
并且开箱即用,通过百炼的多模态大模型推理服务,能够识别和解析文本、图像、音视频等不同模态的数据,根据用户需求进行结构化信息挖掘、提取、分析和摘要等,并支持批处理模式下的离线作业,提高大规模数据处理效率,降低 50% 的业务落地成本。
该解决方案主要是围绕下面五个场景,我也一一体验了变,下面我就那一个案例来举例部署流程。
一.部署【文档文件信息提取】:
在文档信息提取的流程中,我们使用计算资源(本方案以函数计算 FC 为例)构建的 Web 服务来接收用户的请求,在函数计算内部将文档和提示词发送至百炼模型服务,由其调用qwen-long文本模型处理后,最终将结果返回给用户。这里首先我们来看下方案的架构:
本方案的技术架构包括以下基础设施和云服务:
1个函数计算 FC 函数:用于调用百炼模型服务 API,进行文档信息提取。
百炼模型服务:调用 API 使用文本模型进行信息提取。
1.部署资源:
1.首先我们先要获取百炼模型服务的API KEY,获取API Key:在控制台的右上角选择API-KEY,然后创建API Key,用于通过API调用大模型。
(创建好后,直接复制下来备用)
2.请点击前往部署打开我们提供的函数计算应用模板,参考下表进行参数配置,然后单击创建并部署默认环境(下面图是默认环境,上面的“前往部署”我加了超链接,可以直接跳转部署函数FC模版哟)。
3.部署的时候,填写前面复制下来的百炼API KEY,然后点击“创建并部署默认环境”按钮。
4.当部署成功后,我们就能看到页面上跳出【访问域名】了。(这里说实话一键部署是真的很方便,当然手动部署也不难)
5.点击“访问域名”,我们就可以跳转到本次部署的“文档文件信息提取”页面了。如下图所示:
6.下面我们用官方示例先进行体验:
首先,我选择了“手机卖卖合同”案例,提示词选择:手机信息(如下图)
点击提取后,AI就进行了相关数据的提取,这里速度还是比较快的。提取出来的信息如下所示(型号、容量、品牌、颜色等信息也都到位了):
二.体验评测【文档文件信息提取】:
当然为了评测体验文档文件信息提取的能力,不能只用官方案例来跑的,所以我特地拿了一份大文件“信息系统项目管理师教程-第四版.pdf”,文档大小501 MB (525,808,729 字节),来看下该功能体验效果。
但是问题出来了:
当我上传这份大文件后,发现按钮置灰了,没法点击,所以我刷新了下重新上传尝试:
我发现第二次上传也是如此,我又进行了第三变。在上传的过程中我仔细观察了下,我觉得问题应该是:由于文件过大导致上传失败,从而出现异常,因为我看到文件每次都是上传到6%的时候就显示出“已上传”的图标,但是我个人觉得应该没有真的上传完成,
这里我提下建议:
1.上传文件可以限制先文件大小(页面上可以提示出来);
2.不管上传成功还是失败,这里增加个提示,比如:上传成功或者文件过大上传失败;(这里缺少了交互)
于是乎,这里要发挥我锲而不舍的精神了,我换成了一份300M的文件,发行不行,再换一份200M的文件也还是不行,100M的文件也还不行,33M的文件也还不行,经过我的努力最后我成功上传了3份(每份10-30M)的文件,按钮终于是点亮了。
这里我有个问题,我觉得他这里应该是针对【单份文件】上传有大小限制,而且我觉得限制应该是不大于30M,在我测试的时候,我发现大于30M的文件上传后按钮就置灰了,而总文件大小应该没有限制,或者限制的阈值我不知道。这个问题交给官方大大解释了。
下面我进行了搜索,我这里使用了关键词【质量控制】来做索引,我发AI搜索的速度和文件大小是有关系的,文件越大,搜索出结果越慢(不过当然也是如此,这里我一份文件5M,一份是25M,两份文件相差速度有点久的。)
下面我们来对AI整理出来的结果来一一查看:
1.第一份文件:038-高项-第19章-24章.pdf
从他提取出来的内容看,其实和【质量控制】关系不是很大,不知道为嘛会提取出这么多信息:
2.第二份文件:037-高项-第18章绩效域-03-24年5月课程-一本通V1.2(24年4月5日直播)打印版-可搜索.pdf
第二份文件提取出来的内容其实还是挺满意的,如下图:
3.第三份文件:_035-高项-第18章绩效域-01-24年5月课程-一本通V1.2(24年4月1日直播)-打印版-可搜索pdf
第三份文件提取出来的内容最多,但是重点内容其实也不是我想要的。如下图:
当然这里测试我要说明下,这里我测试有点刁钻了,关于【质量控制】内容重点是在文档2内出现,文档1、3的确是没有的,所以不怪他整理出来的内容是我截图所示的,当然我也可以进一步的用更优质的提示词来做提示,可能效果更好。百炼提供了 Prompt 一键优化工具。该工具能针对输入的提示(Prompt)进行自动扩写和细节添加,大家也可以尝试下(当然我比较懒,我想让AI整理资料,就更不想还要自己动手整理提示词了,哈哈,说着说着,这不有又一个优化需求出来了吗?可以增加一个提示词优化功能)
三.写在最后的总结:
先来说下优化建议:
1.上传文件可以限制文件大小(页面上可以提示出来);
2.不管上传成功还是失败,这里增加个提示,比如:上传成功或者文件过大上传失败;(这里缺少了交互)
3.增加“提示词”优化功能,可以一键优化;
4.多文档提取信息的时候,右侧的提取结果可以按文档信息以树结构的形式进行收缩和展开,这样方便阅读,而不是一直往下滑动;
5.增加多维度的信息提取功能,我可以一次性搜索出想要的信息,然后按照“选择/切换”的方式来查看;
总的来说整体功能和效果已经是很不错了,另外四项功能我也都评测了一遍,一键部署是真的超级方便,功能上在未来我相信会越来越完美的!