EAIS 架构如图 3-39 所示,通过虚拟网卡技术将异构计算加速实例挂载到前端 ECS 上,后端异构计算加速实例会运行一个监听前端请求的进程及一个推理服务进 程,然后在前端 ECS 上启动弹性推理客户端,在推理前端服务和推理后端服务之间 建立一个高速安全通信通道,前端应用的 AI 推理计算请求和模型通过通道发送到后 端的推理服务进程上进行 AI 推理计算,推理的结果再通过安全通信通道返回给前端 应用。
《弹性计算:无处不在的算力》电子书可以通过以下链接下载:https://developer.aliyun.com/topic/download?id=7996"
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。