阿里云NPU云服务器AN1搭载平头哥含光NPU高性价比AI推理

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: 阿里云NPU云服务器AN1搭载平头哥含光NPU,提供高性价比AI推理解决方案,阿里云NPU云服务器介绍、NPU云服务器特点及NPU云服务器使用场景:

 

一、阿里云NPU云服务器AN1

阿里云NPU云服务器AN1配备阿里平头哥自研神经网络加速芯片-含光NPU,提供单芯片超强AI推理性能。虚拟化技术采用阿里云自研神龙虚拟化计算平台,为用户提供弹性裸金属NPU加速实例,兼顾了物理服务器的功能性能优势,以及云服务器的高可用优势。关于阿里云NPU云服务器配置性能可以参考:NPU云服务器配置性能详解 - 阿里云,NPU计算型ebman1实例搭配自研深度神经网络加速器含光800(AliNPU)。

Ali-NPU计算加速实例

开发工具采用阿里平头哥RatelNN自动化开发工具,支持主流深度学习框架TensorFlow、Caffe和MXNET,并针对通用模型进行了深度优化,广泛适用于语音、图片、视频等AI推理业务,为客户提供超高性价比的推理解决方案。

二、NPU云服务器特点及性能

搭载平头哥含光NPU的云服务器具备全球最高单芯片AI推理性能:

单芯片最高AI推理性能

含光NPU采用TSMC 12nm工艺制程,提供全球最高单芯片AI推理性能。 在ResNet50模型的推理应用中,含光NPU每秒钟可处理高达78000 IPS的图片,是同类处理器的数十倍性能。

阿里云自研神龙裸金属虚拟化平台

阿里NPU云服务器采用阿里云自研神龙裸金属虚拟化平台,实现全Hypervisor卸载,为用户提供功能无损,性能无损的AI计算加速服务,同时兼容阿里云整体产品生态,为客户提供数据传输,计算,存储等一系列完整解决方案。

完善的自动化开发工具

阿里平头哥RatelNN自动化开发工具,支持主流开源框架TensorFlow,Caffe以及MXNET;支持离线量化、编译以及图优化;支持多模型动态部署以及多设备管理;完善的设备驱动调试工具。

针对业务场景深度优化

针对CNN及视觉类算法,如ResNet-50,SSD/DSSD,Faster-RCNN,DeepLab等模型进行了深度优化。因有效优化了计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

三、NPU云服务器应用场景

图像搜索

通过输入具有相同元素或主体内容的图片,在自建图片库中查找相似或相同的图片。如图库网站图像搜索,图片分享和社交类网站通常有大量图片供用户搜索使用,利用图像搜索服务,可快速实现用户的以图搜图需求。

场景识别

场景识别通过深度学习算法,自动识别图像中的数十种常见的场景,如天空、草地、人物等。客户的应用程序可以基于这个功能,轻松实现图片的自动管理、分组和搜索功能,完成大型图像库的智能管理。

视频内容识别

如直播、点播、短视频等违规画面审核。直播、点播、短视频场景中视频中的色情、政治敏感、暴力、武器、恐怖、血腥、爆炸、抽烟、吸毒、画中画等内容进行识别,避免出现的内容带给青少年不良影响。

自然语言处理

自然语言处理目前已成为各类企业及开发者用于文本分析及挖掘的核心工具,已经广泛应用在电商、文化娱乐、金融、物流等行业客户的多项业务中。自然语言处理技术帮助用户搭建内容搜索、内容推荐、舆情识别及分析、文本结构化、对话机器人等智能产品。

相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
7天前
|
人工智能 自然语言处理 Serverless
阿里云函数计算 x NVIDIA 加速企业 AI 应用落地
阿里云函数计算与 NVIDIA TensorRT/TensorRT-LLM 展开合作,通过结合阿里云的无缝计算体验和 NVIDIA 的高性能推理库,开发者能够以更低的成本、更高的效率完成复杂的 AI 任务,加速技术落地和应用创新。
|
19天前
|
存储 人工智能 运维
正式收官!阿里云函数计算携手优酷,用 AI 重塑影视 IP 创新边界
近日,阿里云联合优酷发起的 Create@影视 IP x AI 应用创新大赛,将网剧《少年白马醉春风》这一热门影视 IP 与阿里云 AI 技术相结合,由阿里云函数计算提供 AIGC 技术支持参赛者基于网剧《少年白马醉春风》IP 或“少年江湖”精神内核,用 AI 生成角色场景设计、手办设计、破次元合照、数字人等多样化的作品。
|
3天前
|
云安全 人工智能 安全
|
1天前
|
人工智能 Cloud Native 数据管理
重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
阿里云发布首个AI多模数据管理平台DMS,助力业务决策提效10倍
|
16天前
|
人工智能 小程序 Java
【评测】玩转阿里云《10 分钟构建 AI 客服并应用到网站、钉钉或微信中》
本文介绍了使用阿里云百炼大模型在10分钟内构建AI客服,并应用于网站、钉钉或微信中的体验。作者“JavaDog程序狗”详细描述了从搭建到完成的全过程,包括快速上手、遇到的问题及解决方法、定制化需求以及云产品的整体体验。文档清晰易懂,集成过程顺畅,客服支持响应迅速,定制功能满足特定业务需求,总体体验极佳,适合开发者尝试。
97 5
【评测】玩转阿里云《10 分钟构建 AI 客服并应用到网站、钉钉或微信中》
|
1天前
|
存储 人工智能 算法
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
阿里云AI基础设施升级亮相,模型算力利用率提升超20%
|
2天前
|
人工智能 运维 安全
阿里云飞天企业版“智算升级”,为政企打造AI时代最开放的云
阿里云正式发布飞天智算—飞天企业版V3.18,为政企客户打造AI时代最开放的云。此次升级,飞天企业版将智算能力深度融入云平台,实现“一云多算”,满足政企客户对云平台“云+AI”协同发展需求,为AI技术大规模在政企领域应用做好准备。
23 11
|
17天前
|
人工智能 数据中心 云计算
AI网络新生态ALS发起成立,信通院、阿里云、AMD等携手制定互连新标准
9月3日,在2024 ODCC开放数据中心大会上,阿里云联合信通院、AMD等国内外十余家业界伙伴发起AI芯片互连开放生态ALS(ALink System)。
AI网络新生态ALS发起成立,信通院、阿里云、AMD等携手制定互连新标准
|
16天前
|
人工智能 自然语言处理 算法
|
2天前
|
人工智能 自动驾驶 云栖大会
何小鹏驾驶“全球首款AI汽车”亮相云栖大会 深化与阿里云AI算力合作
小鹏汽车加速端到端自动驾驶落地 深化与阿里云AI算力合作

热门文章

最新文章