在阿里函数计算中,调用阿里云百炼的应用,是不是一定要在函数计算FC里创建应用才能调用?如果一定要,那么想问下应用该如何创建?
您提到的是阿里云百炼大模型服务平台中的应用。实际上,调用阿里云百炼的应用并不一定非要通过函数计算(FC)创建应用。百炼平台本身提供了多种方式来调用大模型,比如直接在平台上进行API调用、通过SDK集成到您的应用中,或者是利用函数计算等无服务器服务进行部署。
不过,如果您希望利用函数计算的弹性伸缩和免运维特性来部署和调用百炼大模型服务,确实可以通过函数计算来创建应用。这种方式可以让您以事件驱动的方式运行代码,按需自动扩展,并且只需要关注代码逻辑而无需管理基础设施。以下是基于您提供的参考信息简化的创建应用步骤:
创建应用步骤:
登录函数计算控制台:
访问函数计算控制台。
选择应用中心创建应用:
在左侧导航栏,点击应用。
如果是首次使用或没有创建过应用,系统可能会直接引导您到创建应用页面。否则,手动点击创建应用。
选择通过模板创建应用。
在应用列表中搜索是否有与百炼大模型直接相关的模板。如果没有特定模板,可以选择通用的HTTP触发模板或者自定义模板,然后在应用中集成百炼模型的调用逻辑。
配置应用:
如果您选择的是通用模板,需要在创建应用页面设置基本配置,如部署类型、角色名称、地域等。具体配置项根据模板需求有所不同,但通常包括服务的基本信息和权限配置。
角色名称:如果是首次使用,可能需要创建或选择已有具备函数计算服务权限的角色。
地域:选择靠近您用户群体或与百炼大模型服务同区域的地域,以降低延迟。
部署应用:
设置好配置项后,点击创建并部署默认环境。函数计算会自动准备环境并部署您的应用。
集成百炼大模型:
应用创建后,您需要在函数代码中集成百炼大模型的调用逻辑。这通常涉及使用百炼提供的API接口,通过HTTP请求发送数据并接收模型响应。
您可能需要获取百炼模型的API密钥或其他认证信息,并在代码中正确配置。
测试与访问:
部署成功后,您可以访问应用详情页找到访问域名,通过该域名测试应用是否能成功调用百炼大模型并返回预期结果。
请注意,如果百炼平台提供了专门的函数计算部署指南或模板,遵循官方指南进行操作将更为直接有效。同时,考虑到费用和资源优化,确保在创建应用时合理配置资源,尤其是对于可能产生大量请求的模型应用。此回答整理自钉群“阿里函数计算客户”。
可以参考下:阿里云百炼应用实践系列-AI助手快速搭建
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。