阿里云宣布正式推出全栈智能计算解决方案“飞天智算平台”,并启动两座超大规模智算中心,为科研、公共服务和企业机构,提供强大的智能计算服务,可将计算资源利用率提高3倍以上,AI训练效率提升11倍,推理效率提升6倍。
我们希望通过开放飞天智算平台,为各行各业提供强大的融合算力、高效的全链路智能服务,同时在可支撑多种指令集芯片的基础上,大幅提升计算效率,并通过绿色低碳方面的能力,大大降低AI训练能耗。为各领域创新提供更高效、更开放、更绿色的智能计算服务。
——阿里云智能全球销售总裁蔡英华
01
支撑建设超级智算中心
飞天智算平台源于阿里巴巴内部广泛实践,也源于广泛的产业智能实践。目前,该平台正在支撑建设两座超大规模智算中心。
张北智算中心建设规模为12 EFLOPS(每秒1200亿亿次浮点运算)AI算力。在云端,张北智算中心支撑AI预训练大模型、AI Earth、数字人等前沿AI应用,将成为全球最大的智算中心。
乌兰察布智算中心建设规模为3 EFLOPS(每秒300亿亿次浮点运算)AI算力,位于“东数西算”内蒙古枢纽节点,采用自然风冷、AI调温等绿色技术,实现绿色低碳。
02
全面开放飞天智算平台
飞天智算平台是阿里云最新发布的全栈智能计算解决方案,提供公共云和专有云两种模式,为各类科研和智能企业机构提供强大的智能计算服务。
通过先进的技术架构,飞天智算平台实现了90%的千卡并行计算效率,可将算力资源利用率提高3倍以上,AI训练效率提升11倍,推理效率提升6倍。
突破计算效率极限
飞天智算平台采用先进的技术架构,将衡量算力效率的核心指标“千卡并行计算效率”,从传统架构的40%提升至90%,可将算力资源利用率提高3倍以上,AI训练效率提升11倍,推理效率提升6倍。
支持“一云多芯”
飞天智算平台提供基于阿里云磐久基础设施的融合算力和大数据AI一体化平台整体解决方案,可以运行在X86、GPU、ARM等多种芯片类型的服务器上,实现“一云多芯”,支持多种处理器混合部署、统一调度,并可进行应用优化,部分性能提升100%以上。
高效智能服务
开发人员可以在飞天智算平台上进行数据存储、数据治理、数据分析、模型开发、模型训练与推理的工作。并提供了预训练模型,以及语音,图像、自然语言处理、决策等领域的模型能力,以方便开发者更好的加速AI应用的开发。
绿色低碳
飞天智算在技术减排、能源结构优化、区域布局优化、供应链减碳以及资源利用优化五个方面来降低单位算力的碳排放。在技术减排方面,通过液冷、电源技术以及智能运维等方式降低能耗,PUE最低可达1.09。
阿里云浸没式液冷集群
03
体系化的技术创新
智能计算不同于通用型计算,需要海量数据对AI模式进行训练,算力被损耗在数据迁移、同步等环节,千卡以上规模的算力输出最低往往仅有40%左右。这导致了智能算力成本高昂,制约了产业发展。
阿里云通过体系化的技术创新,改变了智能计算的损耗难题,将千卡并行计算效率提升至90%以上。
- 在网络技术上:阿里云采用高性能RDMA网络,实现端对端最低2微妙延迟。
- 在通信技术上:阿里云自研的无阻塞通信技术,让计算过程中的数据交换速度提升了5倍以上。
- 在存储技术上:自研的IO加速器让数据存取实现最高10倍性能提升。
- 在大数据AI开发层:阿里云提供分布式训练框架,并通过API对分布式策略进行自动组合和调优,将训练效率提升了11倍以上。
- 一站式AI计算开发服务:阿里云为用户提供了一站式的通用推理优化工具,对算法模型进行量化、剪枝、稀疏化、蒸馏等操作,将推理效率提升6倍以上。
阿里云飞天智算中心
04
构建智算生态产业圈
如今,飞天智算平台已在阿里内部广泛应用,支撑达摩院前沿AI和电商智能技术发展,并服务了小鹏汽车、深势科技、上汽集团、中国气象局、南方电网等机构和企业,支撑自动驾驶、新药研发、气象预测、工业能源等行业大幅提升AI训练效率。
在自动驾驶领域
小鹏汽车:基于飞天智算在乌兰察布建设智算中心“扶摇”,算力规模达600PFLOPS,是国内最大的自动驾驶智算中心,将自动驾驶模型训练提速近170倍。
毫末汽车:基于飞天智算,实现128卡并行效率超96%,使自动驾驶模型训练成本降低62%,训练速度提升110%,让模型迭代周期大幅缩短。
在生命科学领域
深势科技采用飞天智算平台之后,将集群性能优化提升超过100%,让分子动力学仿真模拟训练效率提升了5倍以上。
在工业领域
智己汽车:运用高性能计算将工业仿真的效率提升了25%,智能驾驶训练效率提升了70%,加速了新车型的研发上市。
山东德州电力:通过AI进行复核预测,准确率达到了98%,耗时从1小时缩短至几分钟。
在城市治理领域
四川成宜高速:通过数字孪生进行车路协同优化使事故率降低60%。
重庆水务:通过遥感数据与仿真推演实现水利调度预测准确性高达95%;
南方电网与中国气象局:利用智算能力提升气象预报的准确性与稳定性。
带你一图看懂
阿里云飞天智算平台
↓↓↓
文章来源阿里云公众号2022年8月30日发布的《重磅发布!飞天智算平台+全球最大智算中心》