神龙AI BladeLLM 和 AIACC 都是阿里云推出的相关产品,但它们的功能和应用场景有所不同。
神龙AI BladeLLM:这是一个用于自然语言处理的深度学习模型,可以应用于多种场景,如智能客服、智能问答等。
AIACC(神龙AI加速引擎):这是基于阿里云IaaS资源推出的AI加速引擎。其主要目的是优化基于AI主流计算框架搭建的模型,能显著提升训练和推理性能。具体来说,AIACC由多个组件构成,包括AIACC-Torch(Pytorch推理加速引擎)、AIACC-MLIR(MLIR推理加速引擎)和AIACC-HRT(AIACC算子深度加速引擎)等。此外,AIACC还可以配合资源管理工具FastGPU快速构建AI计算任务,从而全面提升研发效率。
AIACC现在也叫Deepytorch,更多是服务在IaaS层上的ECS客户的,主要是嵌入到流程中进行优化的。BladeLLM应该要依托PAI的平台吧 此回答整理自钉群“神龙AI加速AIACC公共云支持”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。