1
条回答
写回答
写回答
-
应该是可以的，可以参考上面的文档改一下模型和启动配置，用vllm 0.5.1版本镜像就行。 此回答整理自钉群“云原生AI套件客户交流群”
2024-07-18 08:53:32赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践，通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式，助力制造业企业高效上云，实现系统稳定、应用敏捷智能。拥抱云原生，让创新无处不在。
热门讨论
热门文章
MQTT保持连接的话, 应该设置成多少?
10661
登录nacos客户端提示no message available，怎么办？
5325
请教下 mqtt连接成功了，能收到消息， 后面又自动断开了连接， 是什么情况？
5418
nacos登录页面打开后未登录时弹出提示：user not found及权限认证失败怎么办？
1332
Springcloud连接nacos2.2.3一直报错403，user not found，啥原因？
11328
博客园，csdn 这些是不是不行了，技术已经不去了？那还有哪些好的技术论坛社区
765
怎么查看registry.aliyuncs.com/google_containers都有哪些镜像
7816
为什么mqtt 连接一直显示 Not authorized to connect ？用的官网示例。
4948
请问主域名备案了，子域名还要备案吗？
7788
Nacos登录密码忘记了如何修改？
2912
展开全部
