1. 引言
百炼大模型平台的插件是一种扩展功能,设计用于增强大模型的基础能力,使其能够执行更复杂、特定领域的任务。这些插件旨在克服大模型的一些固有限制,比如无法获取最新信息、可能产生不准确的推断以及处理精确计算的挑战。插件分为官方插件和自定义插件两大类:官方插件、自定义插件。其中自定义插件可满足个性化或业务场景特有的功能需求。而Dataphin数据服务API可以帮助用户快速提供插件,让AI大模型应用的研发更加快捷!
接下来让我们使用数据服务API及百炼大模型平台构建一个简易的客户360智能应用来了解如何用数据服务API帮助AI大模型的研发。
我们主要分成四个步骤:
- 首先我们需要创建两个数据服务的API:
- searchCustomer:通过客户名称模糊搜索客户ID
- getCustomerDetails:通过客户ID给出客户的360,包括客户的详细名称、客户的地址、客户的订单详情,客户负责人及联系电话
- 在阿里云API网关,修改API的认证及应用以支持APP Code认证
- 接下来我们需要在百炼平台中先创建两个自定义插件,分别对应两个数据服务的API
- 最后我们要基于自定义的插件构建客户360的智能应用,通过对话式的方式可查询客户的详情
接下来我们就通过详细的步骤来进一步了解一下吧!
2. 在Dataphin数据服务创建API和应用
2.1 创建数据服务API
我们在MySQL中已经有了客户详情表:
字段名 |
类型 |
说明 |
customer_id |
INT AUTO_INCREMENT |
客户ID,唯一标识符 |
customer_name |
VARCHAR(100) |
客户的详细名称,不能为空 |
customer_address |
VARCHAR(255) |
客户的地址 |
order_details |
TEXT |
客户的订单详情 |
contact_person |
VARCHAR(100) |
客户负责人 |
contact_number |
VARCHAR(15) |
联系电话 |
在数据服务中创建searchCustomer API,输入参数为customer_name,进行模糊匹配客户名称。当然这里我们也可以使用向量数据库替换MySQL数据库,使用向量搜索提升搜索的精准性。
完成API的开发和测试后,提交并发布API。
创建getCustomerDetails API,完成测试后,提交并发布该API。这样我们两个API都准备完成啦。
2.2 授权API应用权限
创建应用“阿里云百炼应用_客户360”,该应用即作为阿里云百炼调用的代理(此处略过详细步骤,请查看Dataphin帮助文档)。
申请searchCustomer和getCustomerDetails两个API的权限(此处略过详细步骤,请查看Dataphin帮助文档)。
2.3 下载API YAML文件
在在百炼平台上注册自定义插件时,需要提供API规范文件。我们可以进入【Dataphin -服务-市场-查看API文档】下载API YAML文件。填写operationID、summary后点击下载,即可下载API的YAML文件,也可以直接复制代码。
3. 在阿里云网关修改API认证为APP Code认证
百炼暂时不支持使用摘要签名认证方式调用API,因此我们需要将API修改为使用AppCode认证。
- 登录 https://apigateway.console.aliyun.com/
- 进入【API网关控制台-API管理 - API列表】,找到上一步创建的两个API,编辑该API并修改API的AppCode认证为“允许AppCode认证(Header)”。Dataphin数据服务在API网关创建的API名称为“${API名名称}_${API_ID}”,如searchCustomer_177。点击保存修改,并发布API
- 接下来,我们要获取到应用的AppCode,用于认证。进入【API网关控制台-API调用 - 应用管理】,找到应用“阿里云百炼应用_客户360”,点击应用,进入AppCode,复制该AppCode备用。
4. 创建阿里云百炼插件
进入阿里云百炼控制台,进入【应用组件-插件管理】新建自定义插件,配置参数如下:
配置项 |
参数值 |
备注 |
插件名称 |
可使用API名称 |
|
插件ID |
输入插件ID,可根据提示定义 |
|
插件描述 |
输入插件描述 |
|
是否鉴权 |
设置为开启 |
|
鉴权类型 |
服务级鉴权 |
|
位置 |
Header |
由于百炼暂时不支持使用摘要签名认证方式调用API,因此我们需要使用简单认证(AppCode)方式调用API,详情查看 使用简单认证(AppCode)方式调用API |
Type |
basic |
|
Token |
在API网关中获取应用的Token值 |
|
接口协议 |
输入在Datphin服务-API文档中下载的YAML文件内容 |
如下图所示:
5. 在百炼创建应用
接下来,我们就可以使用已经创建好的插件创建应用了。在这里我们使用智能体应用来完成客户360的智能应用。
- 在Prompt中填写与大模型交互的提示词,在这里我们需要给出“阿里云百炼应用_客户360”应用的AppKey的信息(可从 【Dataphin数据服务-调用】列表中查找AppKey),
- 在插件中添加已经创建好的插件
接下来就可以开始应用的效果。输入客户名称关键字“红星”,就可以查到红星科技的客户360详情啦,如果需要更多的信息,也可以在prompt中修改提示词,获取更多的信息
6. 结束语
Dataphin API数据服务API与前沿的大模型技术深度融合,未企事业探索更多智能化应用的通途。您也可以尝试使用向量数据库+API数据服务提供向量检索的能力,将知识库集中管理,提供不同的API给不同的模型应用,引领我们步入一个数据驱动、智能共生的美好未来。