轻松集成私有化部署Dify文本生成型应用

简介: Dify 是一款开源的大语言模型应用开发平台,融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者能快速搭建生产级生成式 AI 应用。通过阿里云计算巢,用户可以一键部署 Dify 社区版,享受独享的计算和网络资源,并无代码完成钉钉、企业微信等平台的应用集成。本文将详细介绍如何部署 Dify 并将其集成到钉钉群聊机器人和企业微信中,帮助您轻松实现 AI 应用的定义与数据运营,提升工作效率。

随着如今大语言模型的发展,大家对Agent和工作流编排的需求越来越旺盛。Dify 作为一款开源的大语言模型(LLM) 应用开发平台逐渐为大家熟知。它融合了后端即服务(Backend as Service)和 LLMOps的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

阿里云计算巢提供了Dify社区版的一键部署功能,您可以轻松通过计算巢部署Dify社区版,仅需较低的资源部署费用即可拥有独享的计算和网络资源,并且不再有商业版的各类额度限制。

同时,计算巢AppFlow还为您提供成熟的应用集成方案,通过AppFlow配置,您可以将您的Dify应用集成到钉钉群聊机器人、企业微信机器人或者是公众号等各类平台。接下来本文将为您展示如何无代码完成上述部署和集成步骤。

私有化部署Dify社区版

  1. 访问计算巢服务部署页面,根据您的需要选择单机版或高可用版本,完成资源配置和可用区配置

  1. 确认您的订单并点击立即创建。

  1. 等待部署完成后,点击Dify链接访问Dify页面。设置您的管理员账户密码即可登陆。

创建Dify应用

  1. 配置您的模型。点击右上角头像,选择设置,点击模型供应商。

  1. 点击创建空白应用,本文选取文本生成应用进行说明。

  1. 编辑您的前缀提示词。您也可以根据您的需要添加更多的变量。

  1. 点击右上角发布案例,更新或发布您的应用。

  1. 点击左侧“访问API”菜单栏,点击右上角API密钥,在弹出框点击创建密钥。获取并保存您的API密钥。

创建AppFlow连接流集成

集成到钉钉机器人

创建钉钉应用

  1. 在应用开发的左侧导航栏中,点击钉钉应用,在钉钉应用页面右上角点击创建应用

  1. 创建应用面板,填写应用名称应用描述,上传应用图标,完成后点击保存

查看应用 Client ID 和 Client Secret

在左侧菜单选择凭证与基础信息,复制 Client ID 和 Client Secret,用于下一步创建连接流。

创建消息卡片

钉钉机器人通过卡片消息支持流式返回结果,您需要创建卡片模板供消息发送使用。

  1. 访问卡片平台,点击新建模板

  1. 在创建模板输入框,填入模板信息。

  1. 在模拟编辑页面,保存发布模板。然后点击返回模板列表页面。

  1. 复制模板ID,用于创建钉钉连接流使用。

授予应用发送卡片消息权限

创建卡片后,您需要给应用授予发送卡片消息的权限。

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在左侧菜单选择开发配置 > 权限管理,在左侧搜索框分别输入Card.Streaming.WriteCard.Instance.Write,并在操作列点击申请权限

创建AppFlow连接流

  1. 使用AppFlow模版创建连接流
  2. 点击Dify节点,根据您的实际部署形式选择单机版或高可用执行动作,此处默认单机版。点击保存,进入下一步。

  1. 选择链接凭证,点击添加新凭证。自定义填写您的凭证名称。下拉选择您刚刚部署的计算巢Dify实例,同时填写在Dify获取的API密钥,点击确定即可。

  1. 选中您创建的连接凭证,点击保存,进入下一步。
  2. 填写您在Dify中定义的变量。如果您除了query还定义了其他变量,点击“+”可继续添加。

  1. 点击完成,开始编辑钉钉节点。
  2. 选择凭证或新建。填写您之前保存的Client ID和Client Secret。

  1. 点击保存,进入下一步。填写您的钉钉卡片模版ID即可。点击完成并保存流程。
  2. 在连接流列表点击发布,发布成功后点击查看webhookUrl。

配置钉钉机器人

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 添加应用能力页面,找到机器人卡片,点击添加

  1. 在机器人配置页面,打开机器人配置开关,您可以参考下图完成配置。消息接收模式请选择HTTP模式消息接收地址为刚刚的 WebhookUrl。然后点击发布

发布应用版本

应用创建完成后,如果需要将应用供企业内其他用户使用,需要发布一个版本。

  1. 点击应用开发,在钉钉应用页面,点击目标应用。
  2. 在目标应用开发导航栏,点击版本管理与发布,在版本管理与发布页面,点击创建新版本。进入版本详情页面,输入应用版本号版本描述信息,选择合适的应用可见范围,完成后点击保存。并在弹窗中点击直接发布
  3. 完成后,即可在钉钉中与Dify应用进行对话了

集成到企业微信

创建企业微信应用

  1. 访问企业微信开发者中心,扫码登录,点击立即创建。根据指引选择以企业身份创建企业内部应用
  2. 在顶部导航栏中,选择应用管理,在应用页面下半部分点击创建应用
  3. 创建应用页面,填写应用名称应用介绍,上传应用 logo,选择可见范围,完成后点击创建应用

  1. 在应用详情页面,复制 AgentID和 Secret,用于下一步创建连接流。

  1. 在顶部导航栏中,选择我的企业,在企业信息页面,复制企业 ID,用于下一步创建连接流。

创建AppFlow连接流

  1. 使用AppFlow模版创建连接流。
  2. 点击企业微信节点,下拉选择连接凭证列表或点击添加新凭证。
  3. 创建凭证对话框中,设置一个自定义凭证名称,填入之前获取的企业微信的企业ID、应用 AgentId 和 Secret。保存AppFlow生成的 Token 和 EncodingAESKey到本地、保存IP白名单到本地。点击完成
  4. 点击Dify节点,根据您的实际部署形式选择单机版或高可用执行动作,此处默认单机版。点击保存,进入下一步。

  1. 选择链接凭证,点击添加新凭证。自定义填写您的凭证名称。下拉选择您刚刚部署的计算巢Dify实例,同时填写在Dify获取的API密钥,点击确定即可。

  1. 选中您创建的连接凭证,点击保存,进入下一步。
  2. 填写您在Dify中定义的变量。如果您除了query还定义了其他变量,点击“+”可继续添加。

  1. 点击完成,点击第三个企业微信节点,选择同样的连接凭证。点击保存即可。
  2. 在连接流列表点击发布,发布成功后点击查看webhookUrl。

配置企业微信应用

配置API接收消息

  1. 访问企业微信应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在应用详情页面,找到接收消息卡片,点击设置API接收

  1. API接收消息页面,您可以参考下图完成配置,然后点击保存
  • URL填入上一步复制的 WebhookUrl

如果之前未保存WebhookUrl,可访问AppFlow连接流页面,在操作列点击webhookUrl进行查看。

  • Token EncodingAESKey 填入上一步复制的值。

如果之前未保存,可访问AppFlow连接凭证页面,在公共连接器 > 企业微信中,找到刚刚配置的凭证,点击操作列的编辑从凭证中获取。

域名主体校验未通过如何解决?

当您在企业微信后台配置 API 接收消息时,报错提示“域名主体校验未通过,需配置备案主体与当前企业主体相同或有关联关系的域名”。这通常是由于企业微信的相关限制所引起的。为解决此问题,您需要配置一个企业自有域名。

  • 如果您的域名已在阿里云备案,您可以参考如下步骤创建一个二级域名作为企业自有域名。
  1. 访问AppFlow域名管理页面,单击添加域名按钮,进入添加域名页面,填入可用的二级域名,如airobot.example.com

  1. 参考CNAME 记录,将该二级域名解析到上一步的记录值
  2. 解析配置完成后,返回创建域名页面,点击提交
  3. 使用该二级域名替换API接收消息URL(即已经填写的WebhookUrl)中的主机名。
  • 如果您的域名没有在阿里云备案,您可以参考如下步骤,将API接收消息中的URL配置为您的企业自有域名,并在企业自有域名对外提供服务的Nginx上配置转发规则,将请求转发到连接流的WebhookUrl。
  1. AppFlow连接凭证页面编辑企业微信的连接凭证。

  1. 点击下一步,勾选内网代理

  1. 首次勾选内网代理时,会弹出AppFlow服务关联角色授权创建页面,请您确认并授权。

  • 如果您没有在阿里云备案的可信主体域名,同时也没有Nginx代理,可以通过点击部署Nginx代理实例一键自动为您部署并配置Nginx代理。按控制台提示直接确认订单或更改您期望的配置下单,等待部署完成即可。部署过程通常耗时1-3分钟,请刷新列表并耐心等待。
  • 部署完成后,点击下拉框选择计算巢实例,用计算巢实例Host替换API接收消息的URL(即已经填写的WebhookUrl)中的主机名,复制IP白名单并添加到企业可信IP中,点击保存,完成配置。

配置企业可信IP

  1. 在应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

  1. 在企业可信IP对话框,粘贴复制的 IP 地址,然后点击确定

“以下IP属于第三方”报错如何解决?

  1. 修改 AppFlow 中配置的企业微信的连接凭证,
  2. 修改内容:在内网代理配置页面选择使用可信主体域名 > ECS实例使用自有Nginx代理 > ECS实例,选择对应地域和实例, 点击保存。

  1. 将代理机器的 IP 添加到企业微信可信 IP。访问企业微信应用列表,进入应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

如果您有自己的非阿里云的机器,您可以将自有机器托管到阿里云,并使用托管机器进行请求转发,解决可信 IP 的问题:

  1. 在您的非阿里云服务器中找一台可以访问公网的机器,按照文档安装云助手 。
  2. 修改 AppFlow 中配置的企业微信的连接凭证,
  3. 修改内容:在内网代理配置页面选择使用可信主体域名 > ECS实例使用自有Nginx代理 > ECS实例,选择对应托管地域和托管实例, 点击保存

4. 将代理机器的 IP 添加到企业微信可信 IP。访问企业微信应用列表,进入应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

测试应用

你可以在企业微信中搜索应用并发送消息,查看效果。

  1. 在企业微信顶部搜索框搜索应用名称,点击应用进入聊天。

相关文章
|
17天前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
阿里云与企业共筑容器供应链安全
171340 13
|
19天前
|
供应链 监控 安全
对话|企业如何构建更完善的容器供应链安全防护体系
随着云计算和DevOps的兴起,容器技术和自动化在软件开发中扮演着愈发重要的角色,但也带来了新的安全挑战。阿里云针对这些挑战,组织了一场关于云上安全的深度访谈,邀请了内部专家穆寰、匡大虎和黄竹刚,深入探讨了容器安全与软件供应链安全的关系,分析了当前的安全隐患及应对策略,并介绍了阿里云提供的安全解决方案,包括容器镜像服务ACR、容器服务ACK、网格服务ASM等,旨在帮助企业构建涵盖整个软件开发生命周期的安全防护体系。通过加强基础设施安全性、技术创新以及倡导协同安全理念,阿里云致力于与客户共同建设更加安全可靠的软件供应链环境。
150296 32
|
27天前
|
弹性计算 人工智能 安全
对话 | ECS如何构筑企业上云的第一道安全防线
随着中小企业加速上云,数据泄露、网络攻击等安全威胁日益严重。阿里云推出深度访谈栏目,汇聚产品技术专家,探讨云上安全问题及应对策略。首期节目聚焦ECS安全性,提出三道防线:数据安全、网络安全和身份认证与权限管理,确保用户在云端的数据主权和业务稳定。此外,阿里云还推出了“ECS 99套餐”,以高性价比提供全面的安全保障,帮助中小企业安全上云。
201965 15
对话 | ECS如何构筑企业上云的第一道安全防线
|
5天前
|
机器学习/深度学习 自然语言处理 PyTorch
深入剖析Transformer架构中的多头注意力机制
多头注意力机制(Multi-Head Attention)是Transformer模型中的核心组件,通过并行运行多个独立的注意力机制,捕捉输入序列中不同子空间的语义关联。每个“头”独立处理Query、Key和Value矩阵,经过缩放点积注意力运算后,所有头的输出被拼接并通过线性层融合,最终生成更全面的表示。多头注意力不仅增强了模型对复杂依赖关系的理解,还在自然语言处理任务如机器翻译和阅读理解中表现出色。通过多头自注意力机制,模型在同一序列内部进行多角度的注意力计算,进一步提升了表达能力和泛化性能。
|
9天前
|
存储 人工智能 安全
对话|无影如何助力企业构建办公安全防护体系
阿里云无影助力企业构建办公安全防护体系
1256 11
|
11天前
|
机器学习/深度学习 自然语言处理 搜索推荐
自注意力机制全解析:从原理到计算细节,一文尽览!
自注意力机制(Self-Attention)最早可追溯至20世纪70年代的神经网络研究,但直到2017年Google Brain团队提出Transformer架构后才广泛应用于深度学习。它通过计算序列内部元素间的相关性,捕捉复杂依赖关系,并支持并行化训练,显著提升了处理长文本和序列数据的能力。相比传统的RNN、LSTM和GRU,自注意力机制在自然语言处理(NLP)、计算机视觉、语音识别及推荐系统等领域展现出卓越性能。其核心步骤包括生成查询(Q)、键(K)和值(V)向量,计算缩放点积注意力得分,应用Softmax归一化,以及加权求和生成输出。自注意力机制提高了模型的表达能力,带来了更精准的服务。
|
10天前
|
人工智能 自然语言处理 程序员
通义灵码2.0全新升级,AI程序员全面开放使用
通义灵码2.0来了,成为全球首个同时上线JetBrains和VSCode的AI 程序员产品!立即下载更新最新插件使用。
1404 25
|
10天前
|
消息中间件 人工智能 运维
1月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
760 36
1月更文特别场——寻找用云高手,分享云&AI实践
|
1天前
|
存储 人工智能 分布式计算
湖仓实时化升级 :Uniflow 构建流批一体实时湖仓
本文整理自阿里云产品经理李昊哲在Flink Forward Asia 2024流批一体专场的分享,涵盖实时湖仓发展趋势、基于Flink搭建流批一体实时湖仓及Materialized Table优化三方面。首先探讨了实时湖仓的发展趋势和背景,特别是阿里云在该领域的领导地位。接着介绍了Uniflow解决方案,通过Flink CDC、Paimon存储等技术实现低成本、高性能的流批一体处理。最后,重点讲解了Materialized Table如何简化用户操作,提升数据查询和补数体验,助力企业高效应对不同业务需求。
299 17
湖仓实时化升级 :Uniflow 构建流批一体实时湖仓
|
15天前
|
人工智能 自然语言处理 API
阿里云百炼xWaytoAGI共学课DAY1 - 必须了解的企业级AI应用开发知识点
本课程旨在介绍阿里云百炼大模型平台的核心功能和应用场景,帮助开发者和技术小白快速上手,体验AI的强大能力,并探索企业级AI应用开发的可能性。