如何推进软硬件协同优化,点亮 AI 新时代?看看这些大咖怎么说

简介: 围绕 AI、操作系统、 Arm 生态等关键技术和领域,深入探讨了 AI 技术与操作系统的融合。

近日,2024 龙蜥操作系统大会阿里云分论坛在北京圆满举办,该论坛由阿里云智能程序语言与编译器技术总监李三红,龙蜥社区运营委员会副主席、龙腾计划生态负责人金美琴联合出品。本次分论坛上,来自阿里云、安谋科技、小鹏汽车、蚂蚁集团、英伟达以及清华大学等企业大咖和教授,围绕 AI、操作系统、 Arm 生态等关键技术和领域,深入探讨了 AI 技术与操作系统的融合。会上,也邀请了清华大学计算机系长聘教授,清华大学人工智能研究院视觉智能研究中心主任邓志东,安谋科技业务发展总监侯科鑫,NVidia 亚太区网络产品市场部总监宋庆春,阿里云 智能集团弹性计算资深产品技术架构师吴天议等技术大咖,就“如何推进软硬件协同优化,点亮 AI 新时代”话题进行讨论,探讨云计算能力的跃升与应用生态的多元化发展。

(图/阿里云分论坛现场嘉宾合照)


会议伊始,中关村科学城管理委员会产业促进二处处长、海淀区科学技术和经济信息化局局长(二级巡视员)何建吾,阿里云智能集团研发副总裁、龙蜥社区理事长马涛做开场致辞。

何建吾表示,加快推进高水平的科技自立自强,归根到底就是要推动产业生态体系的建设,提升自主核心技术的核心竞争力。作为科技平台企业,阿里云对推动国产操作系统的发展作出了重要贡献。可以看到,由阿里云等头部厂商牵头成立的龙蜥社区也充分发挥了开源协作的优势,联合超过千家的上下游合作伙伴,形成了强大的发展合力。龙蜥社区的繁荣也印证了开源合作共赢的价值,展现了强大的生命力和创新能力,促进了国内操作系统生态的繁荣与发展。未来,何建吾也期待更多的科技企业扎根海淀持续发展。

(图/何建吾)


马涛指出,在 AI 时代背景下,操作系统承担着智能化转型的重要责任。通过提升框架、存储计算和网络能力,充分发挥软硬件协同优势,更好地支持 AI 应用的发展。面对 AI 挑战,操作系统需在 AI for System 和 System for AI 两个方向上创新,以提升用户的使用体验和系统效能。同时,操作系统研发人员需探索云计算、AI 硬件和软件的协同工作模式,解决未来算力需求,推动 AI 生态和应用迭代升级。

(图/马涛)


安谋科技全球服务市场部总经理谢伟联合阿里云智能集团弹性计算资深产品技术架构师吴天议分享了《AI 时代,云原生芯片技术趋势和产品》技术主题。通用计算提供低成本高密计算力,采用存算分离分布式架构,构建面向多租户云原生算力服务。面临性能一致性,多租户干扰等挑战, 阿里云底层硬件神龙服务器采用 CIPU 实现 CPU、存储、网络互联。在操作系统层面,构建基于分布式环境下 AliOS 能力。阿里云面向不同应用场景引入 Intel、ARM、AMD 等多种芯片,通过 AliOS 为用户屏蔽硬件差异,同时提供更有的性能优化,运维管理能力;面向 AI 训练与推理场景,通过计算虚拟化为应用提供灵活的资源切分能力;基于 RunD 提供轻量级虚拟化能力。

(图从左至右/谢伟、吴天议)


小鹏汽车运维负责人黄威做了《小鹏汽车公有云基础平台架构演进与倚天助力降本》主题分享。黄威分享了如何实现平滑迁移和小鹏汽车近两年将 ECS 机器迁移至倚天上后给公司业务带来的变化和收益,以及使用过程中遇到的问题。同时,他也展望了对未来的期待。

(图/黄威)


蚂蚁集团 ZOLOZ 技术专家谭华哲带来了《ZOLOZ 大规模海外 AI 深度模型推理实践》技术分享。ZOLOZ 致力于提供高效、安全且实时的实人认证服务,面临视觉AI推理过程中的算力与成本挑战。我们利用阿里云 AC2 平台,在公有云环境中实现了大规模的 AI 容器化部署,在这个过程中总结了海外 AI 应用在 Intel 第五代英特尔至强处理器上的最佳实践。

(图/谭华哲)


阿里云操作系统架构师、龙蜥社区 AI SIG Maintaner 林演分享了《阿里云操作系统智能助手 OS Copilot 开源共建》。OS Copilot 是基于大模型构建的操作系统智能助手,支持自然语言问答、辅助命令执行、系统运维调优等功能,帮助您更好地使用 Linux 系统,提高Linux 系统的使用效率。目前已经支持Alinux、Anolis OS、Ubuntu 等系统,探讨龙蜥各成员单位合作支持各家的操作系统和独有软件特性以及资料共建计划。

(图/林演)


阿里云通义灵码产品解决方案架构师余晓做了 《AIGC 时代,通义灵码的智能编码探索与实践》主题分享。灵码作为智能编码助手,依赖强大的模型能力和产品解决方案能力,协助研发技术人员进行代码续写、代码解释、单元测试、研发问答等场景下的效能提升。企业沉淀多年的研发资产,如何和灵码结合,既感知大模型推理生成能力,又可以感知企业个性化资产的沉淀。会上,余晓详细阐述了解决方案并做了演示。

(图/余晓)


安谋科技主任软件工程师、龙蜥社区 Arm SIG Maintainer 贺军分享了《赋能未来计算:龙蜥操作系统对 Arm 架构的深度支持与生态共建》。探讨最新发布的龙蜥操作系统对 Arm 架构特性的优秀支持,重点关注龙蜥在 Linux 内核,常用工具链和基础库方面的全面优化,为上层常见应用与关键场景的稳定高效运行提供了坚实的基础。此外,贺军也通过具体案例介绍了 Arm 生态系统中的合作伙伴如何在龙蜥社区中通过 Arm SIG 等途径,实现深度协作和资源共享,推动整个生态系统的蓬勃发展,并以此吸引更多伙伴和开发者加入,共同构建富有活力的 Arm 生态。

(图/贺军)


阿里云智能程序语言与编译器技术总监李三红主持,邀请了清华大学计算机系长聘教授,清华大学人工智能研究院视觉智能研究中心主任邓志东,安谋科技业务发展总监侯科鑫,NVidia 亚太区网络产品市场部总监宋庆春,阿里云智能集团弹性计算资深产品技术架构师吴天议等嘉宾共同探讨“如何推进软硬件协同优化,点亮 AI 新时代”清华大学计算机系长聘教授,清华大学人工智能研究院视觉智能研究中心主任邓志东表示,未来 AI 算力需求将会数量级别的增加,大模型不仅可以助力操作系统的发展,也可促进 CPU 的效能提升与定制化芯片的设计。同时,他也讨论了异构计算在当前和未来架构中的应用及挑战,以及操作系统在处理复杂计算架构时的必要性。安谋科技业务发展总监侯科鑫指出,随着 AI 的快速发展,模型变得越来越复杂,导致基础设施的算力要求更高。安谋科技为 AI 的发展提供了提高计算效率、降低功耗的解决方案。同时,她也强调了 CPU 和 GPU 协同工作的重要性,以及在不同场景下 CPU 和 GPU 的最优利用。NVidia 亚太区网络产品市场部总监宋庆春强调了软件和硬件协同设计对于推动 AI 发展的关键作用,并指出数据中心不应仅被视为硬件堆砌,而应像一台计算机那样考虑软硬件协同。除此之外,宋庆春强调了网络在实现高性能扩展中的核心地位,以及对优化数据中心性能、实现线性可扩展的必要性。阿里云智能集团弹性计算资深产品技术架构师吴天议从云的角度,提及了在云计算环境中如何更好地利用 AI,特别是在多租户共享和安全切分方面的发展。


最后,各位嘉宾结合 AI 发展趋势,对未来龙蜥社区的发展给出了中肯的建议,指出龙蜥社区在保持开放性与国际化的同时,提出除了软件发展,还应注重软硬件结合,以实现技术突破。建议社区扩大多样性,促进算法、软件、硬件的兼容性,并与合作伙伴一起探索创新,共同为人工智能发展贡献力量。

(图/圆桌讨论现场)


本次分论坛,配合演讲主题也特设了产品的动手实验专区,可现场体验 Alibaba Cloud Linux、基于 Arm 架构的 ECS 倚天实例、Alibaba Cloud AI Containers、操作系统智能助手OS Copilot、通义灵码等多款产品,参会嘉宾体验爆满。

(图/现场嘉宾体验)

感谢本次分论坛出品团队:金美琴、李三红、王云志、王轶飞、蔡佳丽、贺迪。

视频回放、课件获取:

「阿里云分论坛」直播回放及技术 PPT上线啦,欢迎点击下方链接:

https://openanolis.cn/video/#1204116065183219730

技术 PPT :关注龙蜥公众号【OpenAnolis 龙蜥】,回复“龙蜥课件”获取。

—— 完 ——

相关文章
|
1月前
|
人工智能 并行计算 安全
从零到一,打造专属AI王国!大模型私有化部署全攻略,手把手教你搭建、优化与安全设置
【10月更文挑战第24天】本文详细介绍从零开始的大模型私有化部署流程,涵盖需求分析、环境搭建、模型准备、模型部署、性能优化和安全设置六个关键步骤,并提供相应的示例代码,确保企业能够高效、安全地将大型AI模型部署在本地或私有云上。
291 7
|
2月前
|
机器学习/深度学习 人工智能
打开AI黑匣子,三段式AI用于化学研究,优化分子同时产生新化学知识,登Nature
【10月更文挑战第11天】《自然》杂志发表了一项突破性的化学研究,介绍了一种名为“Closed-loop transfer”的AI技术。该技术通过数据生成、模型训练和实验验证三个阶段,不仅优化了分子结构,提高了光稳定性等性质,还发现了新的化学现象,为化学研究提供了新思路。此技术的应用加速了新材料的开发,展示了AI在解决复杂科学问题上的巨大潜力。
33 1
|
2月前
|
存储 人工智能 自然语言处理
高级 RAG 技术:提升生成式 AI 系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
高级 RAG 技术:提升生成式 AI 系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
高级 RAG 技术:提升生成式 AI 系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
|
1月前
|
人工智能 安全 网络安全
揭秘!大模型私有化部署的全方位安全攻略与优化秘籍,让你的AI项目稳如磐石,数据安全无忧!
【10月更文挑战第24天】本文探讨了大模型私有化部署的安全性考量与优化策略,涵盖数据安全、防火墙配置、性能优化、容器化部署、模型更新和数据备份等方面,提供了实用的示例代码,旨在为企业提供全面的技术参考。
85 6
|
2月前
|
人工智能
写歌词的技巧和方法:优化歌词结构的秘诀,妙笔生词AI智能写歌词软件
歌词是音乐的灵魂,优化其结构能让作品更加动人。掌握开头吸引人、主体结构清晰、情感递进自然及结尾余味悠长等技巧至关重要。同时,借助《妙笔生词智能写歌词软件》的多种AI功能,如智能写词、押韵优化等,可有效提升创作效率与质量,为你的歌词增添光彩。
|
2月前
|
人工智能 Cloud Native Java
云原生技术深度解析:从IO优化到AI处理
【10月更文挑战第24天】在当今数字化时代,云计算已经成为企业IT架构的核心。云原生作为云计算的最新演进形态,旨在通过一系列先进的技术和实践,帮助企业构建高效、弹性、可观测的应用系统。本文将从IO优化、key问题解决、多线程意义以及AI处理等多个维度,深入探讨云原生技术的内涵与外延,并结合Java和AI技术给出相应的示例。
101 1
|
2月前
|
存储 人工智能 供应链
AI与能源系统:优化能源生产和消费
【10月更文挑战第9天】在当前全球能源转型的关键时期,人工智能(AI)正逐渐成为推动能源系统优化与升级的重要力量。本文探讨了AI在能源生产、分配、存储和消费等方面的应用。在能源生产中,AI通过智能预测与调度、故障预警及优化资源配置等方式提升效率;在能源分配与存储方面,AI推动智能电网管理和储能系统优化;在能源消费端,AI实现精细化管理,如智能家庭能源管理和工业节能。未来,AI将进一步融入能源系统的各个环节,促进能源的高效配置与可持续发展。然而,面对数据安全和算法透明度等挑战,需加强监管与伦理审查,确保AI技术健康发展。
|
2月前
|
机器学习/深度学习 人工智能 算法
利用AI技术优化网络安全
【10月更文挑战第4天】随着人工智能(AI)的飞速发展,其在网络安全领域的应用也日益广泛。本文将探讨如何利用AI技术提升网络安全防护能力,包括机器学习、深度学习等方法在识别和防御网络攻击方面的应用。同时,文章还将分析AI技术在网络安全领域面临的挑战和未来发展趋势。
|
3月前
|
人工智能 搜索推荐 UED
Bot 商店 + 一键优化提示词 Prompt,开启AI新体验!| Botnow上新
Botnow 迎来了重大更新,新增了 Bot 商店功能,并优化了 Bot 编排,提升了 AI 使用效率。用户可在 Bot 商店中轻松浏览和体验各类官方及用户发布的 Bots,并可一键发布或下架自己的 Bot。此外,还推出了一键优化 Prompt 功能,帮助用户生成清晰、精准的指令,提升对话质量。新老用户快来体验吧![链接]
123 4
|
4月前
|
人工智能 Java 测试技术
就AI 基础设施的演进与挑战问题之ZooKeeper的稳定性提升配置优化的问题如何解决
就AI 基础设施的演进与挑战问题之ZooKeeper的稳定性提升配置优化的问题如何解决