1
条回答
写回答
写回答
-
应该是可以的，可以参考上面的文档改一下模型和启动配置，用vllm 0.5.1版本镜像就行。 此回答整理自钉群“云原生AI套件客户交流群”
2024-07-18 08:53:32赞同 1 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践，通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式，助力制造业企业高效上云，实现系统稳定、应用敏捷智能。拥抱云原生，让创新无处不在。
热门讨论
热门文章
登录nacos客户端提示no message available，怎么办？
6224
请教下 mqtt连接成功了，能收到消息， 后面又自动断开了连接， 是什么情况？
6231
【漫画】关于容器，你是否踩过很多坑，要吐好多苦水？
4886
怎么查看registry.aliyuncs.com/google_containers都有哪些镜像
8333
Springcloud连接nacos2.2.3一直报错403，user not found，啥原因？
11793
nacos登录页面打开后未登录时弹出提示：user not found及权限认证失败怎么办？
1967
按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
1722
请问主域名备案了，子域名还要备案吗？
8178
nacos 连接 用户名和密码 有没有办法把明文用户名和密码进行加密？
2333
从哪个版本开始nacos分成了两个端口？8848和9848
2922
展开全部
Docker 镜像加速器
406762
Docker CE 镜像源站
443267
Minikube - Kubernetes本地实验环境
234827
微服务（Microservice）那点事
103762
Docker的Windows容器初体验
101288
Docker学习路线图 (持续更新中)
88562
基于Docker容器的，Jenkins、GitLab构建持续集成CI
51399
谈谈 Docker Volume 之权限管理（一）
56824
容器镜像服务 Docker镜像的基本使用
52229
在阿里云容器服务上开发基于Docker的Spring Cloud微服务应用
33988
展开全部
相关文章
相关电子书
更多
