大数据&AI产品月刊【2024年1月】

本文涉及的产品
智能开放搜索 OpenSearch行业算法版,1GB 20LCU 1个月
实时计算 Flink 版,5000CU*H 3个月
检索分析服务 Elasticsearch 版,2核4GB开发者规格 1个月
简介: 大数据&AI产品技术月刊【2024年1月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据&AI方面最新动态。

一、产品功能发布

【人工智能平台 PAI】新功能/规格 - 分布式训练DLC 算力健康检测发布    

支持对训练任务的资源健康度与性能进行检查,提升训练成功率及问题诊断效率。


【云原生大数据计算服务 MaxCompute】新功能/规格 - 计算成本优化功能发布    

计算成本优化功能进一步方便客户优化计算成本和提高资源利用效率。


【云原生大数据计算服务 MaxCompute】新功能/规格 - 支持通过控制台编辑外部网络地址    

支持通过控制台添加或删除项目可用的外部网络地址。


【云原生大数据计算服务 MaxCompute】功能优化 - 控制台资源观测支持修改指标聚合算法    

控制台资源观测支持修改指标聚合算法,方便开发者依据自身需求查看相关指标。


【云原生大数据计算服务 MaxCompute】新地域/新可用区 - 按量付费闲时版新增中国站国际地域及国际站发布    

MaxCompute按量付费闲时版新增开通中国站:中国香港、新加坡、英国(伦敦)、日本(东京)、马来西亚(吉隆坡)、德国(法兰克福)、印度尼西亚(雅加达)、美国(弗吉尼亚)、美国(硅谷)地域,国际站:华东1(杭州)、华东2(上海)、华北2(北京)、华南1(深圳)、中国香港、新加坡、英国(伦敦)、日本(东京)、马来西亚(吉隆坡)、德国(法兰克福)、印度尼西亚(雅加达)、美国(弗吉尼亚)、美国(硅谷)地域。


【大数据开发治理平台 DataWorks】新功能/规格 - 新增适配E-MapReduce Hadoop集群17个    

新增适配E-MapReduce Hadoop集群17个。


【大数据开发治理平台 DataWorks】新功能/规格 - 新增适配StarRocks数据源    

DataWorks全面适配StarRocks数据源。


【大数据开发治理平台 DataWorks】新功能/规格 - 安全中心增加实时风险识别规则

支持管理员将风险识别能力以扩展程序的方式注册至DataWorks。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据开发增加PAI-DLC与Check节点    

数据开发增加PAI-DLC与Check节点。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据治理中心新增SQL效率优化检查项    

帮助用户在研发环节进行事前主动检查和及时优化,避免出现大量计算资源浪费。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据开发与数据分析查表结果支持脱敏展示    

查询数据时,如被识别为敏感数据,平台将会按照脱敏规则展示。


【大数据开发治理平台 DataWorks】新功能/规格 - 数据地图支持展示实时同步链路数据血缘    

新增支持7种常用实时同步链路的数据血缘解析及展示。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow商业化发布    

2024年1月10日起EMR Workflow正式商业化发布。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow 新增工作空间管理    

EMR Workflow 新增工作空间管理。


【开源大数据平台 E-MapReduce】新功能/规格 - Workflow 工作流支持提交至集群模板执行    

EMR Workflow 工作流支持提交至集群模板执行。


【开源大数据平台 E-MapReduce】新功能/规格 - 通过DMS连接StarRocks实例

主要介绍如何通过DMS连接StarRocks实例。


【开源大数据平台 E-MapReduce】新功能/规格 - 通过Quick BI连接StarRocks实例如何通过Quick BI连接StarRocks实例。


【智能开放搜索 OpenSearch】新功能/规格 - LLM智能问答版表格问答功能发布    

OpenSearch智能问答版支持表格数据,提供针对表数据的智能问答能力。


【智能开放搜索 OpenSearch】新功能/规格 - LLM智能问答版支持对接MaxCompute数据源    

OpenSearch智能问答版支持MaxCompute数据源快速导入。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版新增电商增强图片转向量模型    

基于电商场景数据训练,适用于电商商品图片的转向量模型,提升向量搜索效果。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持单数据节点购买    

购买实例时可以仅选择数据节点,无需购买查询节点,进一步降低起步门槛。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持混合检索    

混合搜索的方式能将语义搜索与关键词搜索相结合,获得更好的搜索效果。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版新增多长度中英文文本转向量模型    

新模型支持128、512、1024token长度中英文文本进行向量化处理。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版控制台支持主键查询、图片文本查询、混合查询    

控制台查询测试支持更多查询语法,并提供表单模式查询功能。


【智能开放搜索 OpenSearch】新功能/规格 - 向量检索版支持图片搜索多主体识别

能够识别同一张图片中的多个主体,并针对某一主体进行进一步搜索。


【智能开放搜索 OpenSearch】价格调整 - 向量检索版新增云盘型节点与2核规格、调整实例租用费    

支持客户选用更多节点规格,提升购买灵活度,降低起购门槛。


二、产品快讯

Mixtral 8X7B MoE模型基于阿里云人工智能平台PAI实践合集    


Mixtral 8x7B大模型是Mixtral AI推出的基于decoder-only架构的稀疏专家混合网络(Mixture-Of-Experts,MOE)开源大语言模型。这一模型具有46.7B的总参数量,对于每个token,路由器网络选择八组专家网络中的两组进行处理,并且将其输出累加组合,在增加模型参数总量的同时,优化了模型推理的成本。本文介绍如何在PAI平台针对Mixtral 8x7B大模型的微调和推理服务的最佳实践,助力AI开发者快速开箱。


流式湖仓增强,Hologres + Flink构建企业级实时数仓    


近日,阿里云实时数仓Hologres研发负责人姜伟华分享Hologres+Flink构建的企业级实时数仓,实现全链路的数据实时计算、实时写入、实时更新、实时查询。同时,随着流式湖仓的兴起,Hologres除了支持Delta、Hudi等通用湖格式,在今年新增了对Paimon的深度集成,不断拓展湖仓一体能力。


Hologres V2.1版本发布,新增计算组实例构建高可用实时数仓    


Hologres是阿里云自研一站式实时数仓,统一数据平台架构,将OLAP查询、即席分析、在线服务、向量计算多个数据应用构建在统一存储之上,实现一份数据,多种计算场景。Hologres V2.1版本发布, 新增弹性计算组实例,解决实时数仓场景下分析性能、资源隔离、高可用、弹性扩缩容等核心问题,同时新增多种用户分析函数与实时湖仓Paimon格式支持,COUNT DISTINCT优化显著提升查询效率。


image.png


三、产品学习指南


【最佳实践】搭建大模型RAG对话系统的最佳实践

大模型RAG对话系统最佳实践,旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术,从而显著提升对话系统的性能,使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践,可以掌握构建一个大模型RAG对话系统的完整开发链路。


【最佳实践】基于Megatron-Core的稀疏大模型训练工具:阿里云MoE大模型最佳实践


阿里云PAI和NVIDIA团队深入合作,基于Megatron-Core MoE框架,解决了MoE大模型训练落地时会遇到的可拓展性、易用性、功能性以及收敛精度等核心问题,在下游任务上取得了很好的模型效果。PAI团队将上述MoE训练框架和技术与阿里云AI平台产品深度整合,使云上大模型用户能方便地进行MoE大模型的训练和部署。


【最佳实践】通义千问Qwen-72B-Chat基于PAI的低代码微调部署实践    


通义千问-72B(Qwen-72B)是阿里云研发的通义千问大模型系列的720亿参数规模模型。Qwen-72B-Chat是在Qwen-72B的基础上,使用对齐机制打造的基于大语言模型的AI助手。本文以 Qwen-72B-Chat 为例,介绍通过PAI平台的快速开始(PAI-QuickStart)部署和微调千问大模型。


【客户案例】基于Hologres+Flink的曹操出行实时数仓建设    


曹操出行创立于2015年,是吉利控股集团布局“新能源汽车共享生态”的战略性投资业务,致力于打造服务口碑最好的出行品牌。针对其业务痛点分析,曹操采用Hologres+Flink构建企业级实时数仓,业务成果分析:曹操出行架构清晰简单、开发效率提高、运维体验提升、成本减少等。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
6天前
|
消息中间件 人工智能 运维
|
14天前
|
人工智能 分布式计算 DataWorks
大数据&AI产品月刊【2024年8月】
大数据& AI 产品技术月刊【2024年8月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
22天前
|
人工智能 自动驾驶 架构师
Gartner 首次发布 AI 代码助手魔力象限,阿里云进入挑战者象限,通义灵码产品能力全面领先
通义灵码由阿里云和通义实验室联合打造,上线不到一年就入围 Gartner 挑战者象限,产品能力得到广泛认可。
|
22天前
|
数据采集 人工智能 安全
AI大数据处理与分析实战--体育问卷分析
本文是关于使用AI进行大数据处理与分析的实战案例,详细记录了对深圳市义务教育阶段学校“每天一节体育课”网络问卷的分析过程,包括数据概览、交互Prompt、代码处理、年级和学校维度的深入分析,以及通过AI工具辅助得出的分析结果和结论。
|
27天前
|
人工智能 分布式计算 架构师
大数据及AI典型场景实践问题之基于MaxCompute构建Noxmobi全球化精准营销系统如何解决
大数据及AI典型场景实践问题之基于MaxCompute构建Noxmobi全球化精准营销系统如何解决
|
24天前
|
消息中间件 大数据 Kafka
Go 大数据生态迎来重要产品 CDS
Go 大数据生态迎来重要产品 CDS
|
15天前
|
存储 大数据 数据挖掘
【数据新纪元】Apache Doris:重塑实时分析性能,解锁大数据处理新速度,引爆数据价值潜能!
【9月更文挑战第5天】Apache Doris以其卓越的性能、灵活的架构和高效的数据处理能力,正在重塑实时分析的性能极限,解锁大数据处理的新速度,引爆数据价值的无限潜能。在未来的发展中,我们有理由相信Apache Doris将继续引领数据处理的潮流,为企业提供更快速、更准确、更智能的数据洞察和决策支持。让我们携手并进,共同探索数据新纪元的无限可能!
61 11
|
20天前
|
存储 分布式计算 大数据
MaxCompute 数据分区与生命周期管理
【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。
51 1
|
25天前
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
|
28天前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。

相关产品

  • 云原生大数据计算服务 MaxCompute