2023云栖大会 | Serverless化进程——阿里云发布通义千问2.0 性能超GPT-3.5 加速追赶GPT-4

本文涉及的产品
NLP 自学习平台,3个模型定制额度 1个月
视觉智能开放平台,图像资源包5000点
视觉智能开放平台,分割抠图1万点
简介: 云计算也能“自动驾驶”了!阿里云用大模型对云产品进行AI化改造

云计算也能“自动驾驶”了!阿里云用大模型对云产品进行AI化改造

“稳定、安全、性能、成本,仍然是云最重要的基石。”10月31日,杭州云栖大会上,阿里云CTO周靖人表示,经过大量研发投入,阿里云基础云产品性能得到进一步提升,整体可用性从4个9迈向5个9,并对30多款云产品进行了智能化升级。同时,阿里云Serverless化进程进入快车道,超40款云产品提供了Serverless的能力,并推出全球首款容器计算服务ACS。

多款云产品性能大幅升级 可用性和安全性持续提升

随着自研飞天操作系统的不断进化,阿里云多款基础云产品性能得到大幅升级,例如阿里云最新的第八代ECS实例和HPC新型实例,性能分别提升20%和40%;OSS对象存储读取带宽则提升10倍至100Gbps,有效加速大模型相关计算和数据分析;RDS数据库读写性能提升了102%……

在提升性能的同时,云上产品的可用性和安全性也持续提升,ECS单实例可用性提升至99.995%、负载均衡和NAT网关可靠性提升到99.995%、PolarDB节点故障可在5秒内快速切换、将安全植入云产品原生免疫防护……云上整体可用性从4个9向5个9发起挑战,不断打磨产品韧性,提供高可用的云计算服务。

全球首个容器计算服务 全新定义容器算力

容器技术是当下IT行业最炙手可热的技术之一,有64%的最终用户在生产中会使用到K8s和相关容器技术。随着容器化上云成为新常态,如何紧贴业务需求、避免资源浪费成为新的挑战。

作为国内最早布局容器技术的云厂商,阿里云率先推出全球首款容器计算服务(AlibabaCloudContainerComputeService,以下简称ACS),以Serverless形态交付算力,用户无需关注底层节点及集群,只需轻松配置即可创建pod资源并部署应用。

据悉,ACS采用了阿里云自研的调度技术,首创算力调配与资源复用,支持算力在用户负载和云产品间切换,提升资源利用率,可为企业节约20%资源成本。ACS还支持最大1:8资源配比和按需弹性、资源预留等灵活的使用模式,保障日常所需,实现弹性与确定性的完美结合。

在Gartner刚刚发布的《2023年度容器管理魔力象限》中,阿里云挺进该报告的领导者象限,也是亚洲地区唯一入选该象限的云服务商。“我们希望通过Serverless的技术理念,以容器为计算界面,帮助客户充分运用云计算的优势。”周靖人表示。

超40款核心产品Serverless化 阿里云Serverless化进程进入快车道

随着Serverless技术的持续演进,开发者用云方式也从过去的集中式研发、分布式研发,向云上的流程研发转变。无论是2万用户还是2000万用户体量,基于Serverless构建的IT架构都可以自适应伸缩,峰值秒级自动扩容、峰谷自动缩容。

阿里云的Serverless化演进历程也进入了快车道,截至2023年10月,拥有超过40款Serverless化云产品,包括函数计算FC、Serverless应用引擎SAE、PolarDB数据库、开源大数据平台E-MapReduce等。其中函数计算升级至3.0版,冷启动降至秒级,资源成本降低92%,复杂度降低40%,并深度集成通义产品系列、魔搭社区、HuggingFace等,AI应用一键部署,部署时间减少80%以上。

会上,阿里云还宣布Serverless产品全系降价,大数据、数据库、中间件等的Serverless版均降价30%-70%不等,更具吸引力。

走向自动驾驶的云 30多款云产品全面智能化升级

周靖人说:“随着大模型技术与云计算本身的融合,我们希望未来的云可以像车一样也能够自动驾驶,大幅提升开发者使用云的体验。”

据悉,阿里云上有超过30款云产品接入了大模型能力,例如阿里云大数据治理平台DataWorks新增了全新的交互形态——Copilot,用户只需用自然语言输入即可生成SQL,并自动执行相应的数据ETL操作,整体开发与分析可提效30%以上,堪比“自动驾驶”。

阿里云容器、数据库等产品上也提供了类似的开发体验,可实现NL2SQL、SQL注释生成/纠错/优化等功能,未来这些能力还将集成到阿里云其他产品上。

*内容来自潮新闻

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
7天前
|
关系型数据库 MySQL Serverless
探索PolarDB MySQL版:Serverless数据库的灵活性与性能
本文介绍了个人开发者对阿里云PolarDB MySQL版,特别是其Serverless特性的详细评测体验。评测涵盖了产品初体验、性能观测、Serverless特性深度评测及成本效益分析等方面。尽管试用过程中遇到一些小问题,但总体而言,PolarDB MySQL版表现出色,提供了高性能、高可用性和灵活的资源管理,是个人开发者和企业用户的优秀选择。
|
2月前
|
人工智能 自然语言处理 算法
GPT-4 Turbo 和 GPT-4 的区别
GPT-4 vs GPT-4 Turbo: 探索OpenAI的顶级模型,GPT-4以其出色的文本生成和理解闻名,适合高端内容需求,但成本高;GPT-4 Turbo,优化版,提供相似性能但更高效、经济,适用于大规模商业应用,尤其在速度和资源效率上展现优势。用户可根据质量、效率和成本需求选择合适模型。
|
1月前
|
自然语言处理 测试技术 计算机视觉
ECCV 2024:提升GPT-4V、Gemini检测任务性能,你需要这种提示范式
【8月更文挑战第14天】在2024年ECCV上,一篇论文介绍了DetToolChain——一种创新提示范式,旨在提升GPT-4V等多模态大型语言模型在检测任务上的表现。它利用精心设计的视觉提示引导模型关注图像的关键区域,并通过Chain-of-Thought方法将复杂任务分解为简单步骤,显著提高了零样本目标检测的准确性。实验显示,在多个基准测试上,DetToolChain带来了高达24.23%的性能提升。然而,这种方法可能需要大量计算资源,并且在不同任务和数据集上的效果仍有待验证。
122 66
|
13天前
|
数据可视化 Swift
小钢炮进化,MiniCPM 3.0 开源!4B参数超GPT3.5性能,无限长文本,超强RAG三件套!模型推理、微调实战来啦!
旗舰端侧模型面壁「小钢炮」系列进化为全新 MiniCPM 3.0 基座模型,再次以小博大,以 4B 参数,带来超越 GPT-3.5 的性能。并且,量化后仅 2GB 内存,端侧友好。
小钢炮进化,MiniCPM 3.0 开源!4B参数超GPT3.5性能,无限长文本,超强RAG三件套!模型推理、微调实战来啦!
|
12天前
|
人工智能 自然语言处理 数据挖掘
【通义】AI视界|性能超越GPT-4o?最强大的开源AI模型来了……
本文介绍了五项最新AI技术动态,包括性能超越GPT-4o的开源AI模型Reflection70B、智谱清言App限时免费的视频通话功能、哈佛医学院研发的癌症诊断AI模型CHIEF、Replit推出的AI编程助手,以及英特尔与日本AIST合作设立的芯片制造研发中心。这些进展展示了AI领域的快速创新与广泛应用。更多详情,请访问通义官网体验。
|
11天前
|
机器学习/深度学习 数据采集 人工智能
Llama 8B搜索100次超越GPT-4o!推理+搜索即可提升性能,新Scaling Law诞生?
【9月更文挑战第8天】在人工智能领域,理查德·萨顿提出了一项重要观点,即利用通用计算方法最终是最有效的途径,这一理念在诸如计算机象棋、围棋、语音识别及视觉等多个子领域中得到了验证。萨顿强调,计算能力的指数增长使得依赖大量计算的技术更加吸引人,并且从长远来看,计算能力将是唯一重要的因素。尽管他的观点强调了搜索和学习方法的力量,但也有人批评其忽略了领域知识和其他因素的重要性。
21 2
|
24天前
|
监控 Java Serverless
Serverless 应用的监控与调试问题之PyFlink对于Python UDF的性能如何提升
Serverless 应用的监控与调试问题之PyFlink对于Python UDF的性能如何提升
|
2月前
|
测试技术
8B尺寸达到GPT-4级性能!北大等提出医疗专家模型训练方法
【7月更文挑战第8天】北京大学等研究者提出的新方法缓解了大模型如Llama-3-8B在持续预训练时的“稳定性差距”,通过多轮次训练、高质量子语料库选择和数据混合策略,提升性能和效率。在医疗领域,他们将OpenLlama-3B性能提升至40.7%,并创建的Llama-3-Physician模型达到GPT-4级别。尽管取得突破,该方法在其他模型和领域的适用性仍需探索,且持续预训练仍资源密集。[链接: https://arxiv.org/abs/2406.14833]
68 25
|
2月前
|
运维 监控 Serverless
并发性能提升 4 倍!云帐房用 Serverless 轻松应对瞬时业务洪峰
通过函数计算FC,云帐房实现了性能提升,减少了用户等待时间,同时成本降低了约30%。此外,函数计算FC的多版本管理和灰度发布功能加速了开发迭代,实时监控与告警简化了运维工作。未来,云帐房计划扩展更多FC应用,聚焦业务创新。
7547 9
|
1月前
|
自然语言处理 开发者
通义千问继续开源!阿里云38篇论文被顶会ACL 2024录用
通义千问继续开源!阿里云38篇论文被顶会ACL 2024录用
58 0