MLPerf最新榜单:阿里AI算力获多项第一

简介: 权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。磐久服务器M系列成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。

今天,权威AI基准评测组织MLPerf公布了最新一期推理性能榜单——基于自研的软硬一体协同方案,阿里云在数据中心、边缘计算、IoT领域,斩获多项第一。

image.png

MLCommons发布最新MLPerf榜单

阿里云磐久服务器M系列:成为MLPerf有史以来CPU-Only推理性能得分最高的服务器,且在数据中心和边缘侧该类别的总体性能均为第一。

平头哥玄铁RISC-V处理器:在聚焦低功耗、高能效的IoT领域Tiny v0.7榜单中,刷新了视觉唤醒、图像分类、语音唤醒及异常监测4个典型AI任务的纪录,创造了RISC-V架构在AI基准测试的最好成绩。

image.png


CPU-Only推理性能数据对比

image.png


Tiny v0.7推理性能数据对比

此次磐久服务器和玄铁RISC-V处理器取得优异成绩,得益于阿里云自研震旦异构计算加速平台稳定、强大的软硬协同优化能力。

基于震旦异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云边端多场景快速部署,大幅提升AI应用开发效率:

模型优化:震旦利用模型优化工具SinianML来进行用于AI任务的神经网络架构搜索和压缩,以及最佳算子实现;

高精度、高效率:通过震旦算子Autotune能力,得到适配ARM架构处理器的最佳算子实现,保证达到基准测试精度目标,且得到远高于标准ResNet50 v1.5的计算效率;

提升CPU利用率:通过大规模深度算子融合和针对平头哥玄铁RISC-V微架构的极致优化,大大提高CPU算力利用率。

MLPerf

MLPerf由图灵奖得主David Patterson于2018年发起,每年组织全球AI训练和AI推理性能测试并发榜,已成为业界最主流标准之一。

本次榜单重点更新了面向数据中心和边缘计算的场景,以及最新的MLPerf Tiny 0.7测试榜单。

Tiny场景是MLPerf近年新增的性能测试分类,聚焦于低功耗、高性价比的IoT场景,考验在日益广泛的IoT智能应用场景下的软硬件性能和优化能力。

备注:本文转载自阿里云公众号2022年4月7日《MLPerf最新榜单:阿里AI算力获多项第一》

相关文章
|
7月前
|
人工智能 并行计算 调度
AI创业公司的算力困境,远比你想象的更复杂
当前AI创业公司面临严峻“算力困局”:不仅受制于高昂成本,更受限于技术封锁、生态绑定与资源低效。算力获取难、用不起、用不好,正成为制约创新的关键瓶颈。
|
7月前
|
人工智能 Java 开发者
阿里出手!Java 开发者狂喜!开源 AI Agent 框架 JManus 来了,初次见面就心动~
JManus是阿里开源的Java版OpenManus,基于Spring AI Alibaba框架,助力Java开发者便捷应用AI技术。支持多Agent框架、网页配置、MCP协议及PLAN-ACT模式,可集成多模型,适配阿里云百炼平台与本地ollama。提供Docker与源码部署方式,具备无限上下文处理能力,适用于复杂AI场景。当前仍在完善模型配置等功能,欢迎参与开源共建。
2759 58
阿里出手!Java 开发者狂喜!开源 AI Agent 框架 JManus 来了,初次见面就心动~
|
7月前
|
人工智能 数据处理 云栖大会
云栖现场|让评测与标注成为AI进化引擎!阿里发布全新评测平台,3大创新评测集亮相
云栖现场|让评测与标注成为AI进化引擎!阿里发布全新评测平台,3大创新评测集亮相
887 9
云栖现场|让评测与标注成为AI进化引擎!阿里发布全新评测平台,3大创新评测集亮相
|
6月前
|
人工智能 自然语言处理 机器人
2025年度最具影响力AI副业变现榜单:十大达人深度解析
2025年AI深度赋能商业,十位标杆人物引领副业变现新潮。武彬以AIGC+电商降本90%居首,王兴兴、姜大昕等聚焦机器人与大模型,龍新远、数字人博主等则掘金情感与教育赛道,揭示技术普惠与场景融合的爆发潜力。(238字)
1347 2
|
8月前
|
存储 人工智能 编解码
阿里云GPU云服务器深度评测:算力怪兽如何重塑AI与图形处理的未来?
在AI与高性能计算需求激增的今天,传统CPU已难满足“暴力计算”需求。阿里云GPU云服务器依托NVIDIA顶级显卡算力,结合专为GPU优化的神行工具包(DeepGPU),为深度学习、科学计算、图形渲染等领域提供高效、弹性的算力支持。本文全面解析其产品优势、工具链及六大真实应用场景,助你掌握AI时代的算力利器。
阿里云GPU云服务器深度评测:算力怪兽如何重塑AI与图形处理的未来?
|
7月前
|
人工智能 监控 数据可视化
如何破解AI推理延迟难题:构建敏捷多云算力网络
本文探讨了AI企业在突破算力瓶颈后,如何构建高效、稳定的网络架构以支撑AI产品化落地。文章分析了典型AI IT架构的四个层次——流量接入层、调度决策层、推理服务层和训练算力层,并深入解析了AI架构对网络提出的三大核心挑战:跨云互联、逻辑隔离与业务识别、网络可视化与QoS控制。最终提出了一站式网络解决方案,助力AI企业实现多云调度、业务融合承载与精细化流量管理,推动AI服务高效、稳定交付。
|
7月前
|
人工智能 边缘计算 大数据
【C位面对面】被低估的“通用算力”:为什么 AI 时代CPU 的需求“不降反增”?
AI时代下,大数据、高频交易、AI预处理、边缘计算等核心负载持续推高CPU算力需求。阿里云联合AMD,基于Zen5架构Turin处理器,推出三款场景化云实例:普惠型u2a、高主频g9a及192核g9ae,满足多样算力需求。通过CIPU+Chiplet技术实现性能跃迁,释放CPU真正潜力,助力企业把握通用计算的“第二增长曲线”。
|
7月前
|
人工智能 监控 安全
AI创业公司如何突破算力瓶颈,实现高效发展?
AI创业公司如何在算力竞争中突围?本文揭示真正决定生死的关键在于“用好”算力,而非单纯依赖算力规模。通过混合云调度、GPU虚拟化、边缘推理、跨云高速通道等技术手段,提升算力利用率,降低成本,同时保障数据合规与高效传输。结合垂直场景的深刻理解与技术调度能力,创业公司也能构建坚实护城河,实现快速发展。