在函数计算上部署专属的Agent平台

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
函数计算FC,每月15万CU 3个月
简介: Agent 是公认的可以将AI能力跟具体业务结合的技术方案,而Agent Platform 是将Agent开发流程进行整合抽象后的平台工程,能够极大的提升Agent的构建和发布效率,帮助企业获取先机。本篇文章介绍如何在函数计算上部署一套Serverless架构的Agent平台- [AgentCraft](https://agentcraft-docs.serverless-developer.com/)

AgentCraft特性介绍

相较于其他的Agent平台,AgentCraft 以Serverless架构体系构建,对内核服务,前端管控,插件,模型服务,交付客户端进行模块化的设计,可以根据需要灵活的添加和删除模块。

AgentCraft 增加了云资源的管理能力,帮助用户自由获取和使用需要的云资源, 包括端到端的GPU模型服务,CPU插件函数以及独立的客户端交付。

使用场景

部署AgentCraft 您可以作为企业内部的 AI能力中心,向下对接Serverless GPU/CPU 算力, 向上交付业务AI应用,也可以作为个人开发者的工具,创建工作所需的智能体应用以及沉淀领域知识并且通过AI 的方式随时获取。也可以将其二开进行对外服务。

部署教程

一、产品开通

访问产品页进行开通,函数计算属于后付费产品,并且有大量免费额度,所以新同学可放心使用

二、使用应用模版快速创建

访问函数计算应用中心,切换到“人工智能”Tab

函数计算应用
选择 《智能体世界AgentCraft》应用进行创建

image.png

根据引导进行权限配置和信息填写

image.png

之后点击“创建应用”,等待1-2分钟即可部署成功,您可以访问自定义域名进入系统配置(注意该域名30天会过期,如需长期访问,请绑定自定义域名或者重新部署)

三、系统配置

AgentCraft部署成功后,访问自定义域名,进入系统配置

image.png

数据库配置

数据库配置有三种方案

方案1 采购阿里云Postgresql公网数据库【推荐】

您可以购买阿里云的RDS Postgresql数据库,获得最佳的数据体验,同时保障数据的安全性,购买后创建数据库的教程可以参考AgentCraft引导教程

image.png

方案2 使用共享体验数据库

这里的共享体验数据是由社区提供的公共数据库,仅供快速体验AgentCraft使用,存在数据风险,切勿用于生产

image.png

方案3 使用容器镜像部署可以公网访问的数据库

您可以在ECS上使用docker 拉取镜像部署pg 带有vector插件的数据库

镜像地址 registry.cn-hangzhou.aliyuncs.com/agentcraft/agentcraft-pg:v1

向量服务配置

AgentCraft可以帮助您创建一个在函数计算上部署好的向量服务,使用开源的bge-large-zh (1024维度)

image.png

image.png

最终确认您的配置

image.png

使用体验

注册登录

image.png

部署通义千问大语言模型服务

image.png

根据引导填写秘钥信息并点击下一步(该秘钥信息仅存储于您的函数计算服务)

image.png

体验简易问答+API输出

image.png

image.png

image.png

image.png

体验智能知识库

知识库是最常见的AI应用场景,AgentCraft 目前文档加载器基于langchain的扩展方案,支持pdf,markdown,txt,html等文件类型,后续会支持更多文件以及本地目录,检索目前基于向量的方案,

利用余弦近似值召回答案

数据集&数据源

数据集是AgentCraft的数据对象的一层抽象,可以对应搜索引擎数据的索引或者关系数据库的某个表,

数据源则是具体的表行数据

image.png

选取任意文档数据

image.png

接下来等待向量化完成即可

image.png

创建数据库智能体

image.png

关联数据集

image.png

image.png

体验智能助手

智能助手是大模型应用的进一步升级,可以让大模型调用各种工具,比如我们演示一个调用绘图工具的效果

执行工具

执行工具是最基础函数能力,AgenCraft可以将执行工具快速部署成可以被调用的服务,省去您本地构建还要花功夫部署的成本

这里提供了一些工具模板,我们可以选择“文生图”工具

image.png

执行工具部署成功后,新建智能助手类的智能体应用,然后进行工具的挂载和提示词描述

image.png

image.png

image.png

智能助手帮助您合成了一张漂亮的“午后晒太阳小猫咪图片”

总结

经过以上教程,您已经了解如何部署自己云上专属的智能体平台,同时了解如何使用它,在接下来的时间,我们会提供更丰富的AI能力,希望能够帮助您或者您的企业一起构建AI时代的业务价值。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
1月前
|
人工智能 Java Serverless
阿里云函数计算助力AI大模型快速部署
随着人工智能技术的快速发展,AI大模型已经成为企业数字化转型的重要工具。然而,对于许多业务人员、开发者以及企业来说,探索和利用AI大模型仍然面临诸多挑战。业务人员可能缺乏编程技能,难以快速上手AI模型;开发者可能受限于GPU资源,无法高效构建和部署AI应用;企业则希望简化技术门槛,以更低的成本和更高的效率利用AI大模型。
155 12
|
5天前
|
人工智能 JSON 自然语言处理
一键生成毛茸萌宠形象,基于函数计算极速部署 ComfyUI 生图系统
本次方案将帮助大家实现使用阿里云产品函数计算FC,只需简单操作,就可以快速配置ComfyUI大模型,创建出你的专属毛茸茸萌宠形象。内置基础大模型+常用插件+部分 Lora,以风格化图像生成只需用户让体验键配置简单方便,后续您可以根据自己的需要更换需要的模型、Lora、增加插件。
|
25天前
|
JSON 人工智能 Serverless
一键生成毛茸萌宠形象,基于函数计算极速部署ComfyUI生图系统
通过阿里云函数计算FC 和文件存储NAS,用户体验 ComfyUI 和预置工作流文件,用户可以快速生成毛茸茸萌宠等高质量图像。
一键生成毛茸萌宠形象,基于函数计算极速部署ComfyUI生图系统
|
14天前
|
存储 人工智能 安全
函数计算助您 7 分钟极速部署开源对话大模型
本方案利用函数计算的无服务器架构,您可以在函数计算控制台选择魔搭(ModelScope)开源大模型应用模板;同时,我们将利用文件存储 NAS ,为应用服务所需的大模型和相关文件提供一个安全的存储环境;最终通过访问提供的域名进行模型的调用与验证。仅需三步,即可玩转目前热门 AI 大模型。
|
2月前
|
算法 Serverless
通过函数计算部署ComfyUI以实现一个AIGC图像生成系统
快来报名参与ComfyUI活动,体验一键部署模型,生成粘土风格作品赢取体脂秤。活动时间从即日起至2024年12月13日24:00:00,每个工作日限量50个,先到先得!访问活动页面了解更多详情。
175 54
|
14天前
|
存储 人工智能 Serverless
7分钟玩转 AI 应用,函数计算一键部署 AI 生图大模型
人工智能生成图像(AI 生图)的领域中,Stable Diffusion WebUI 以其强大的算法和稳定的输出质量而闻名。它能够快速地从文本描述中生成高质量的图像,为用户提供了一个直观且高效的创作平台。而 ComfyUI 则以其用户友好的界面和高度定制化的选项所受到欢迎。ComfyUI 的灵活性和直观性使得即使是没有技术背景的用户也能轻松上手。本次技术解决方案通过函数计算一键部署热门 AI 生图大模型,凭借其按量付费、卓越弹性、快速交付能力的特点,完美实现低成本,免运维。
|
1月前
|
消息中间件 运维 安全
C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验
游戏行业蓬勃发展,作为国内领先的 STEAM 游戏饰品交易的服务平台,看 C5GAME 如何利用 RocketMQ Serverless 技术,为千万级玩家提供流畅的游戏体验,同时降低成本并提升运维效率。
137 18
C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验
|
20天前
|
运维 Cloud Native Serverless
Serverless Argo Workflows大规模计算工作流平台荣获信通院“云原生技术创新标杆案例”
2024年12月24日,阿里云Serverless Argo Workflows大规模计算工作流平台荣获由中国信息通信研究院颁发的「云原生技术创新案例」奖。
|
1月前
|
Serverless 开发工具 开发者
活动实践 | 西游再现,函数计算一键部署 Flux 超写实文生图模型部署
这些图片展示了阿里巴巴云开发者生态的多个方面,包括开发工具、技术文档、社区交流、培训认证等内容,旨在为开发者提供全方位的支持和服务。
|
2月前
|
自然语言处理 搜索推荐 Serverless
基于函数计算部署GPT-Sovits模型实现语音生成
阿里云开发者社区邀请您参加“基于函数计算部署GPT-Sovits模型实现语音生成”活动。完成指定任务即可获得收纳箱一个。活动时间从即日起至2024年12月13日24:00:00。快来报名吧!

相关产品

  • 函数计算