阿里云NPU云服务器AN1搭载平头哥含光NPU高性价比AI推理

本文涉及的产品
图像搜索,7款服务类型 1个月
简介: 阿里云NPU云服务器AN1搭载平头哥含光NPU,提供高性价比AI推理解决方案,阿里云NPU云服务器介绍、NPU云服务器特点及NPU云服务器使用场景:

 

一、阿里云NPU云服务器AN1

阿里云NPU云服务器AN1配备阿里平头哥自研神经网络加速芯片-含光NPU,提供单芯片超强AI推理性能。虚拟化技术采用阿里云自研神龙虚拟化计算平台,为用户提供弹性裸金属NPU加速实例,兼顾了物理服务器的功能性能优势,以及云服务器的高可用优势。关于阿里云NPU云服务器配置性能可以参考:NPU云服务器配置性能详解 - 阿里云,NPU计算型ebman1实例搭配自研深度神经网络加速器含光800(AliNPU)。

Ali-NPU计算加速实例

开发工具采用阿里平头哥RatelNN自动化开发工具,支持主流深度学习框架TensorFlow、Caffe和MXNET,并针对通用模型进行了深度优化,广泛适用于语音、图片、视频等AI推理业务,为客户提供超高性价比的推理解决方案。

二、NPU云服务器特点及性能

搭载平头哥含光NPU的云服务器具备全球最高单芯片AI推理性能:

单芯片最高AI推理性能

含光NPU采用TSMC 12nm工艺制程,提供全球最高单芯片AI推理性能。 在ResNet50模型的推理应用中,含光NPU每秒钟可处理高达78000 IPS的图片,是同类处理器的数十倍性能。

阿里云自研神龙裸金属虚拟化平台

阿里NPU云服务器采用阿里云自研神龙裸金属虚拟化平台,实现全Hypervisor卸载,为用户提供功能无损,性能无损的AI计算加速服务,同时兼容阿里云整体产品生态,为客户提供数据传输,计算,存储等一系列完整解决方案。

完善的自动化开发工具

阿里平头哥RatelNN自动化开发工具,支持主流开源框架TensorFlow,Caffe以及MXNET;支持离线量化、编译以及图优化;支持多模型动态部署以及多设备管理;完善的设备驱动调试工具。

针对业务场景深度优化

针对CNN及视觉类算法,如ResNet-50,SSD/DSSD,Faster-RCNN,DeepLab等模型进行了深度优化。因有效优化了计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

三、NPU云服务器应用场景

图像搜索

通过输入具有相同元素或主体内容的图片,在自建图片库中查找相似或相同的图片。如图库网站图像搜索,图片分享和社交类网站通常有大量图片供用户搜索使用,利用图像搜索服务,可快速实现用户的以图搜图需求。

场景识别

场景识别通过深度学习算法,自动识别图像中的数十种常见的场景,如天空、草地、人物等。客户的应用程序可以基于这个功能,轻松实现图片的自动管理、分组和搜索功能,完成大型图像库的智能管理。

视频内容识别

如直播、点播、短视频等违规画面审核。直播、点播、短视频场景中视频中的色情、政治敏感、暴力、武器、恐怖、血腥、爆炸、抽烟、吸毒、画中画等内容进行识别,避免出现的内容带给青少年不良影响。

自然语言处理

自然语言处理目前已成为各类企业及开发者用于文本分析及挖掘的核心工具,已经广泛应用在电商、文化娱乐、金融、物流等行业客户的多项业务中。自然语言处理技术帮助用户搭建内容搜索、内容推荐、舆情识别及分析、文本结构化、对话机器人等智能产品。

相关实践学习
2分钟自动化部署人生模拟器
本场景将带你借助云效流水线Flow实现人生模拟器小游戏的自动化部署
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
28天前
|
存储 人工智能 自然语言处理
ChatMCP:基于 MCP 协议开发的 AI 聊天客户端,支持多语言和自动化安装 MCP 服务器
ChatMCP 是一款基于模型上下文协议(MCP)的 AI 聊天客户端,支持多语言和自动化安装。它能够与多种大型语言模型(LLM)如 OpenAI、Claude 和 OLLama 等进行交互,具备自动化安装 MCP 服务器、SSE 传输支持、自动选择服务器、聊天记录管理等功能。
162 15
ChatMCP:基于 MCP 协议开发的 AI 聊天客户端,支持多语言和自动化安装 MCP 服务器
|
8天前
|
存储 人工智能 运维
面向AI的服务器计算软硬件架构实践和创新
阿里云在新一代通用计算服务器设计中,针对处理器核心数迅速增长(2024年超100核)、超多核心带来的业务和硬件挑战、网络IO与CPU性能增速不匹配、服务器物理机型复杂等问题,推出了磐久F系列通用计算服务器。该系列服务器采用单路设计减少爆炸半径,优化散热支持600瓦TDP,并实现CIPU节点比例灵活配比及部件模块化可插拔设计,提升运维效率和客户响应速度。此外,还介绍了面向AI的服务器架构挑战与软硬件结合创新,包括内存墙问题、板级工程能力挑战以及AI Infra 2.0服务器的开放架构特点。最后,探讨了大模型高效推理中的显存优化和量化压缩技术,旨在降低部署成本并提高系统效率。
|
8天前
|
人工智能 弹性计算 运维
ECS控制台,AI助手与极简管控体验
本文介绍了ECS控制台的演进及最新AI工具功能。控制台作为运维平台,需兼顾用户体验、可靠性和安全性。针对不同用户(个人开发者、企业级用户、资源管理员和架构师),控制台提供了定制化AI助手,涵盖售前选型、售中购买、售后运维等全链路支持。AI助手可智能分析用户需求,推荐合适规格,并提供实例诊断、命令解释等功能,简化操作流程。此外,还推出了简洁版控制台,优化了小资源量用户的使用体验,减少复杂度,提升效率。未来,控制台将朝着更智能、个性化的chat ops方向发展。
|
8天前
|
存储 人工智能 芯片
面向AI的服务器计算互连的创新探索
面向AI的服务器计算互连创新探索主要涵盖三个方向:Scale UP互连、AI高性能网卡及CIPU技术。Scale UP互连通过ALink系统实现极致性能,支持大规模模型训练,满足智算集群需求。AI高性能网卡针对大规模GPU通信和存储挑战,自研EIC网卡提供400G带宽和RDMA卸载加速,优化网络传输。CIPU作为云基础设施核心,支持虚拟化、存储与网络资源池化,提升资源利用率和稳定性,未来将扩展至2*800G带宽,全面覆盖阿里云业务需求。这些技术共同推动了AI计算的高效互联与性能突破。
|
2月前
|
存储 人工智能 弹性计算
阿里云弹性计算(ECS)提供强大的AI工作负载平台,支持灵活的资源配置与高性能计算,适用于AI训练与推理
阿里云弹性计算(ECS)提供强大的AI工作负载平台,支持灵活的资源配置与高性能计算,适用于AI训练与推理。通过合理优化资源分配、利用自动伸缩及高效数据管理,ECS能显著提升AI系统的性能与效率,降低运营成本,助力科研与企业用户在AI领域取得突破。
68 6
|
2月前
|
机器学习/深度学习 人工智能 弹性计算
阿里云AI服务器价格表_GPU服务器租赁费用_AI人工智能高性能计算推理
阿里云AI服务器提供多种配置选项,包括CPU+GPU、CPU+FPGA等组合,支持高性能计算需求。本文汇总了阿里云GPU服务器的价格信息,涵盖NVIDIA A10、V100、T4、P4、P100等多款GPU卡,适用于人工智能、机器学习和深度学习等场景。详细价格表和实例规格见文内图表。
320 0
|
存储 边缘计算 固态存储
玄铁RISC-V处理器入门与实战-平头哥玄铁CPU IP-面向高性能领域CPU
玄铁RISC-V处理器入门与实战-平头哥玄铁CPU IP-
1547 1
|
机器学习/深度学习 人工智能 算法
|
供应链 芯片
平头哥芯片采用的RISC-V架构
平头哥芯片采用的RISC-V架构
379 1