|
2月前
|
机器学习/深度学习 存储 监控
|

Elasticsearch 在日志分析中的应用

【9月更文第2天】随着数字化转型的推进,日志数据的重要性日益凸显。日志不仅记录了系统的运行状态,还提供了宝贵的洞察,帮助企业改进产品质量、优化用户体验以及加强安全防护。Elasticsearch 作为一个分布式搜索和分析引擎,因其出色的性能和灵活性,成为了日志分析领域的首选工具之一。本文将探讨如何使用 Elasticsearch 作为日志分析平台的核心组件,并详细介绍 ELK(Elasticsearch, Logstash, Kibana)栈的搭建和配置流程。

250 4
|
3月前
|
存储 SQL 监控
|

OceanBase 的水平扩展与性能优化

【8月更文第31天】随着业务的增长,单一数据库服务器往往难以满足日益增长的数据存储和处理需求。OceanBase 作为一款分布式数据库解决方案,通过其独特的水平扩展能力,能够在不牺牲性能的前提下支持海量数据存储和高并发事务处理。本文将详细介绍 OceanBase 的水平扩展机制,并提供一些性能优化的建议。

274 0
|
3月前
|
JSON 自然语言处理 物联网
|

大语言模型数据增强与模型蒸馏解决方案

本方案以通义千问2(Qwen2)大语言模型为基础,为您介绍大语言模型数据增强和蒸馏解决方案的完整开发流程。

195 2
来自: 人工智能平台PAI  版块
|
3月前
|
存储 并行计算 测试技术
|

NumPy 性能优化:提升 Python 数值计算的速度

【8月更文第30天】Python 是一种广泛使用的编程语言,在科学计算领域尤其受欢迎。然而,由于 Python 的动态类型和解释执行机制,其在处理大规模数值数据时可能会显得相对较慢。为了克服这一限制,NumPy(Numerical Python)库提供了高性能的多维数组对象以及一系列用于操作这些数组的函数。本文将探讨如何利用 NumPy 来提高 Python 中数值运算的效率。

326 0
|
3月前
|
机器学习/深度学习 PyTorch 数据处理
|

数据增强与 DataLoader:提升模型泛化能力的策略

【8月更文第29天】在深度学习中,数据的质量和数量对于模型的性能至关重要。数据增强是一种常用的技术,它通过对原始数据进行变换(如旋转、缩放、裁剪等)来生成额外的训练样本,从而增加训练集的多样性和规模。这有助于提高模型的泛化能力,减少过拟合的风险。同时,`DataLoader` 是 PyTorch 中一个强大的工具,可以有效地加载和预处理数据,并支持并行读取数据,这对于加速训练过程非常有帮助。

197 1
|
3月前
|
分布式计算 安全 Hadoop
|

Hadoop安全性和数据保护机制

【8月更文第28天】随着大数据技术的普及,Hadoop已成为处理大规模数据集的核心技术之一。然而,随着数据价值的增加,数据安全问题变得越来越重要。本文将深入探讨Hadoop的安全模型以及如何实施访问控制、数据加密等措施来保障数据安全。

305 0
|
3月前
|
存储 分布式计算 资源调度
|

Hadoop生态系统概览:从HDFS到Spark

【8月更文第28天】Hadoop是一个开源软件框架,用于分布式存储和处理大规模数据集。它由多个组件构成,旨在提供高可靠性、高可扩展性和成本效益的数据处理解决方案。本文将介绍Hadoop的核心组件,包括HDFS、MapReduce、YARN,并探讨它们如何与现代大数据处理工具如Spark集成。

196 0
|
4月前
|
自然语言处理 搜索推荐 机器人
|

云上数字客服:重塑客户服务体验的智能化转型

技术成熟度:目前云上数字客服技术仍在不断发展和完善中,技术成熟度有待提高。 数据安全与隐私保护:随着客户数据的不断增加,如何确保数据的安全性和隐私性成为亟待解决的问题。 人机交互体验:虽然智能客服机器人已经取得了很大进展,但在某些复杂场景下仍难以完全替代人工客服,需要不断优化人机交互体验。 五、未来展望 随着技术的不断进步和市场环境的不断变化,云上数字客服将迎来更加广阔的发展前景。未来,云上数字客服将更加注重技术的创新和应用场景的拓展,不断提升服务质量和效率;同时加强数据安全和隐私保护,确保客户信息的安全性;此外还将积极探索与其他智能系统的融合应用,如智能营销、智能供应链等,为企业提供更全面的

364 7
|
4月前
|
存储 消息中间件 数据挖掘
|

数据仓库的深度探索与实时数仓应用案例解析

大数据技术的发展,使得数据仓库能够支持大量和复杂数据类型(如文本、图像、视频、音频等)。数据湖作为一种新的数据存储架构,强调原始数据的全面保留和灵活访问,与数据仓库形成互补,共同支持企业的数据分析需求。

350 0
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
|

大语言模型的Scaling Law:如何随着模型大小、训练数据和计算资源的增加而扩展

在这篇文章中,我们将介绍使这些模型运作的秘密武器——一个由三个关键部分组成的法则:模型大小、训练数据和计算能力。通过理解这些因素如何相互作用和规模化,我们将获得关于人工智能语言模型过去、现在和未来的宝贵见解。

553 7
|
4月前
|
供应链 监控 搜索推荐
|

ERP系统中的订单管理与供应链协作解析

【7月更文挑战第25天】 ERP系统中的订单管理与供应链协作解析

433 6
|
4月前
|
存储 SQL OLAP
|

分析性能提升40%,阿里云Hologres流量场景最佳实践

分析性能提升40%,阿里云Hologres流量场景最佳实践

24545 22
来自: 实时数仓 Hologres  版块
|
4月前
|
并行计算 PyTorch 算法框架/工具
|

LLM推理引擎怎么选?TensorRT vs vLLM vs LMDeploy vs MLC-LLM

有很多个框架和包可以优化LLM推理和服务,所以在本文中我将整理一些常用的推理引擎并进行比较。

361 2
|
5月前
|
人工智能 物联网 文件存储
|

基于EasyAnimate模型的视频生成最佳实践

EasyAnimate是阿里云PAI平台自主研发的DiT的视频生成框架,它提供了完整的高清长视频生成解决方案,包括视频数据预处理、VAE训练、DiT训练、模型推理和模型评测等。本文为您介绍如何在PAI平台集成EasyAnimate并一键完成模型推理、微调及部署的实践流程。

16524 30
来自: 人工智能平台PAI  版块
|
5月前
|
数据采集 机器学习/深度学习 数据挖掘
|

使用Python进行数据预处理与清洗的最佳实践

本文探讨了Python在数据预处理和清洗中的关键作用。预处理包括数据收集、整合、探索、转换和标准化,而清洗则涉及缺失值、重复值、异常值的处理及数据格式转换。文中提供了使用pandas库进行数据读取、缺失值(如用平均值填充)和重复值处理、异常值检测(如IQR法则)以及数据转换(如min-max缩放)的代码示例。此外,还讲解了文本数据清洗的基本步骤,包括去除标点、转换为小写和停用词移除。整体上,文章旨在帮助读者掌握数据预处理和清洗的最佳实践,以提高数据分析的准确性和效率。

581 2
|
5月前
|
消息中间件 存储 网络协议
|

即时通讯需要用到哪些技术手段?

该文探讨了即时通讯技术,涉及网络协议(TCP/IP、UDP、HTTP/HTTPS)在IM中的应用,数据传输与同步(消息队列、长轮询、WebSocket、数据同步)技术,安全性保障(加密、认证授权、防止攻击)措施,以及多媒体处理(音频、视频处理和实时传输)和用户界面交互设计的重要性。文章旨在帮助读者理解并应用相关技术。

384 1
|
6月前
|
数据采集 存储 安全
|

一篇文章教你正确解锁 代理ip 的使用方式,包含两个实战案例

本文介绍了代理IP在爬虫和网络测试中的重要性,详细讲解了代理IP的基础知识,包括定义、分类和获取方式。文章强调了正确使用代理IP的方法,如选择合适类型的代理、配置代理、轮换验证以及遵循法规。通过两个实战案例,展示了如何在爬虫中使用代理IP规避访问限制和在性能测试中模拟不同地域用户。代理IP的恰当运用能提升效率、保障安全,适应不断发展的网络环境。

938 2
|
6月前
|
存储 SQL Linux
|

ClickHouse(03)ClickHouse怎么安装和部署

本文会介绍如何安装和部署ClickHouse,官方推荐的几种安装模式,以及安装之后如何启动,ClickHouse集群如何配置等。

563 1
|
6月前
|
机器学习/深度学习 算法 API
|

XGBoost模型部署与在线预测的完整指南

XGBoost模型部署与在线预测的完整指南

645 6
|
6月前
|
SQL 运维 搜索推荐
|

《揭秘,阿里开源自研搜索引擎Havenask的在线检索服务》

Havenask是阿里巴巴智能引擎事业部自研的开源高性能搜索引擎,深度支持了包括淘宝、天猫、菜鸟、高德、饿了么在内几乎整个阿里的搜索业务。本文针对性介绍了Havenask的在线检索服务,它具备高可用、高时效、低成本的优势,帮助企业和开发者量身定做适合业务发展的智能搜索服务。

83575 138
来自: 智能搜索推荐  版块
|
6月前
|
机器学习/深度学习 算法
|

【MATLAB】 多元变分模态分解MVMD信号分解算法

【MATLAB】 多元变分模态分解MVMD信号分解算法

539 0
|
机器学习/深度学习 算法 计算机视觉
|

3D目标检测框架 MMDetection3D环境搭建 docker篇

本文介绍如何搭建3D目标检测框架,使用docker快速搭建MMDetection3D的开发环境,实现视觉3D目标检测、点云3D目标检测、多模态3D目标检测等等。

612 0
|
机器学习/深度学习 编解码 自动驾驶
|

【论文解读】MV3D-Net 用于自动驾驶的多视图3D目标检测网络

​MV3D-Net融合了视觉图像和激光雷达点云信息;它只用了点云的俯视图和前视图,这样既能减少计算量,又保留了主要的特征信息。随后生成3D候选区域,把特征和候选区域融合后输出最终的目标检测框。 论文地址:Multi-View 3D Object Detection Network for Autonomous Driving 开源代码:GitHub - bostondiditeam/MV3D: Multi-View 3D Object Detection Network for Autonomous Driving

417 0
|
人工智能 大数据 调度
|

【云栖2023】林伟:大数据AI一体化的解读

本文根据2023云栖大会阿里云研究员,阿里云计算平台事业部首席架构师,阿里云人工智能平台PAI和大数据开发治理平台DataWorks负责人---林伟演讲实录整理而成,演讲主题:”大数据AI一体化的解读“。

15018 1
来自: 人工智能平台PAI  版块
|
机器学习/深度学习 分布式计算 算法
|

基于通用LLM的一次测试用例自动生成的实验

基于通用LLM的一次测试用例自动生成的实验

1739 0
|
Linux Shell
|

umount卸载根目录,xfs_repair修复根分区

umount卸载根目录,xfs_repair修复根分区

1891 0
来自: 人工智能平台PAI  版块
|
机器学习/深度学习 存储 消息中间件
|

FeatHub:流批一体的实时特征工程平台

本次分享中,将介绍 FeatHub,一个由阿里云自研并开源的实时特征平台。我们将介绍 FeatHub 的架构设计,已经完成的工作,以及近期的发展计划。

3560 0
来自: 实时计算 Flink  版块
|
存储 机器学习/深度学习 人工智能
|

【DSW Gallery】DSW基础使用介绍

PAI-DSW是一款云端机器学习开发IDE,为您提供交互式编程环境,适用于不同水平的开发者。本文为您介绍PAI-DSW的功能特点以及界面的基础使用。

1551 0
来自: 人工智能平台PAI  版块
|
人工智能 搜索推荐 算法
|

预约直播 | 大规模稀疏模型演进与DeepRec

阿里云AI技术分享会第四期《大规模稀疏模型演进与DeepRec》将在2022年09月21日晚18:00开启直播,精彩不容错过!

1151 6
来自: 人工智能平台PAI  版块
|
4天前
|
算法 调度
|

基于遗传模拟退火混合优化算法的车间作业最优调度matlab仿真,输出甘特图

车间作业调度问题(JSSP)通过遗传算法(GA)和模拟退火算法(SA)优化多个作业在并行工作中心上的加工顺序和时间,以最小化总完成时间和机器闲置时间。MATLAB2022a版本运行测试,展示了有效性和可行性。核心程序采用作业列表表示法,结合遗传操作和模拟退火过程,提高算法性能。

28 9
|
7天前
|
运维 持续交付 虚拟化
|

docker入门详解!!!

本文介绍了容器技术的发展历程,从物理机到虚拟化再到容器化,重点讲解了Docker的诞生及其优势。Docker通过轻量级的容器技术,实现了资源的高效利用、快速启动、环境一致性、持续交付和部署等优点。文章还详细解析了Docker的架构和工作原理,包括Docker Daemon、REST接口、Docker Client等组件,以及容器与虚拟机的差异。

39 2
|
9天前
|
机器学习/深度学习 数据采集 存储
|

使用Python实现智能农业灌溉系统的深度学习模型

使用Python实现智能农业灌溉系统的深度学习模型

51 6
ly~
|
27天前
|
Ubuntu Linux C语言
|

SDL 图形库安装常见错误及解决方法

SDL(Simple DirectMedia Layer)图形库安装过程中可能会遇到编译错误、运行时错误、依赖库缺失等问题。本文总结了在 Linux 和 Windows 系统上常见的错误及解决方法,包括检查和安装依赖库、配置 SDL 子系统、处理 X11 错误等,帮助用户顺利完成 SDL 的安装和配置。

82 8
|
1月前
|
数据采集 存储 人工智能
|

数据治理工作的持续评估与优化策略

数据治理工作的持续评估与优化是企业实现数据价值最大化的关键。通过明确目标、建立评估体系、实施定期评估、制定优化策略以及建立反馈机制,企业可以不断提升数据治理水平,为业务决策提供有力支持,推动企业持续健康发展。在这个过程中,保持对新技术、新方法的关注与探索,也是确保数据治理工作与时俱进的重要途径。

158 4
|
1月前
|
机器学习/深度学习 人工智能 测试技术
|

VisionTS:基于时间序列的图形构建高性能时间序列预测模型,利用图像信息进行时间序列预测

构建预训练时间序列模型的主要挑战在于获取高质量、多样化的时间序列数据。目前有两种方法:迁移学习LLM(如GPT-4或Llama)和从零训练。尽管迁移学习可行,但效果有限;从零训练则依赖大量数据,如MOIRAI、TimesFM和TTM等模型所示。为解决这一难题,研究人员提出利用图像数据进行时间序列预测。

165 10
|
2月前
|
人工智能 分布式计算 大数据
|

AI Native平台,跨越AI应用从创新到生产的鸿沟

2024年是AI应用的元年,以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮,经历了虚拟机时代和云原生时代,正在全面拥抱以大模型为核心的 AI Native 阶段,推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。 9月20日,2024云栖大会上,阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级,为 AI Native 应用大爆发提供坚实的平台支撑。

339 3
来自: 人工智能平台PAI  版块
|
3月前
|
前端开发 算法 安全
|

软件开发过程详解

【8月更文第20天】在当今数字化时代,软件开发已成为企业和组织获取竞争优势的关键。一个高效的软件开发过程不仅能够确保最终产品的质量,还能有效控制成本和时间。本文将详细介绍软件开发的各个阶段,包括需求分析、设计、编码与实现、测试与质量保证以及维护与升级,并通过实例帮助读者更好地理解这些概念。

358 0
|
3月前
|
人工智能 监控 数据挖掘
|

数字化转型中的项目管理架构:创新与挑战

【8月更文第7天】简述数字化转型对企业的重要性及其对项目管理带来的影响。 - 概述数字化转型下项目管理架构所面临的机遇与挑战。

343 0
|
4月前
|
监控 数据可视化 数据挖掘
|

ERP系统中的销售预测与市场分析

【7月更文挑战第25天】 ERP系统中的销售预测与市场分析

300 2
|
4月前
|
机器学习/深度学习 供应链 监控
|

ERP系统中的供应链风险识别与应对策略解析

【7月更文挑战第25天】 ERP系统中的供应链风险识别与应对策略解析

386 1
|
4月前
|
监控 供应链 数据安全/隐私保护
|

ERP系统中的成本控制与成本降低策略解析

【7月更文挑战第25天】 ERP系统中的成本控制与成本降低策略解析

408 0
|
4月前
|
监控 BI 数据安全/隐私保护
|

ERP系统中的成本核算与管理会计解析

【7月更文挑战第25天】 ERP系统中的成本核算与管理会计解析

401 4
|
4月前
|
监控 数据挖掘 BI
|

ERP系统中的成本管理与生产成本核算解析

【7月更文挑战第25天】 ERP系统中的成本管理与生产成本核算解析

419 3
|
4月前
|
机器学习/深度学习 人工智能 Python
|

性能调优:提升AI模型准确率的策略

【7月更文第17天】在人工智能的世界里,打造一个预测精准、表现优异的模型就像是烹饪一道美味佳肴,不仅要选对食材(特征),还得掌握火候(超参数调整)和调味技巧(正则化)。今天,我们就来聊聊如何通过《性能调优:提升AI模型准确率的策略》,让我们的AI模型变得更加聪明伶俐。

380 0
|
4月前
|
消息中间件 Kafka 程序员
|

Kafka内幕:详解Leader选举与副本同步的那些事儿

大家好,我是小米,今天给大家带来一篇关于 Kafka 核心机制的深度解析文章。本文将详细讲解 Kafka 的 Leader 选举、副本消息同步以及相关概念 LEO 和 HW,帮助大家更好地理解和应用 Kafka,提升处理分布式系统的能力。快来一起学习吧!

453 0
|
5月前
|
算法 Linux C++
|

C++框架设计中实现可扩展性的方法

在软件开发中,可扩展性至关重要,尤其对于C++这样的静态类型语言。本文探讨了在C++框架设计中实现可扩展性的方法:1) 模块化设计降低耦合;2) 使用继承和接口实现功能扩展;3) 通过插件机制动态添加功能;4) 利用模板和泛型提升代码复用;5) 遵循设计原则和最佳实践;6) 应用配置和策略模式以改变运行时行为;7) 使用工厂和抽象工厂模式创建可扩展的对象;8) 实现依赖注入增强灵活性。这些策略有助于构建适应变化、易于维护的C++框架。

399 2
|
6月前
|
SQL HIVE
|

【Hive SQL】字符串操作函数你真的会用吗?

本文介绍了SQL中判断字符串是否包含子串的几种方法。`IN`函数判断元素是否完全等于给定元素组中的某项,而非包含关系。`INSTR`和`LOCATE`函数返回子串在字符串中首次出现的位置,用于检测是否存在子串。`SUBSTR`则用于提取字符串的子串。`LIKE`用于模糊匹配,常与通配符配合使用。注意`IN`并非用于判断子串包含。

408 3
|
6月前
|
SQL 数据采集 存储
|

Hive实战 —— 电商数据分析(全流程详解 真实数据)

关于基于小型数据的Hive数仓构建实战,目的是通过分析某零售企业的门店数据来进行业务洞察。内容涵盖了数据清洗、数据分析和Hive表的创建。项目需求包括客户画像、消费统计、资源利用率、特征人群定位和数据可视化。数据源包括Customer、Transaction、Store和Review四张表,涉及多个维度的聚合和分析,如按性别、国家统计客户、按时间段计算总收入等。项目执行需先下载数据和配置Zeppelin环境,然后通过Hive进行数据清洗、建表和分析。在建表过程中,涉及ODS、DWD、DWT、DWS和DM五层,每层都有其特定的任务和粒度。最后,通过Hive SQL进行各种业务指标的计算和分析。

939 1
|
6月前
|
存储 运维 分布式计算
|

面经:HDFS分布式文件系统原理与故障排查

【4月更文挑战第10天】本文深入剖析了HDFS的底层原理和面试重点,包括HDFS的架构(NameNode、DataNode、Secondary NameNode)、文件读写流程、高级特性(快照、Erasure Coding、Federation、High Availability)以及故障排查方法。通过HDFS Shell命令示例,加强理解,并对比了HDFS与其他分布式文件系统的优缺点。掌握这些知识将有助于求职者在面试中脱颖而出,应对HDFS相关技术考察。

432 3
|
6月前
|
监控
|

险境中的智慧航行:ERP系统的风险管理与应对策略

险境中的智慧航行:ERP系统的风险管理与应对策略

729 5

大数据与机器学习

大数据领域前沿技术分享与交流,这里不止有技术干货、学习心得、企业实践、社区活动,还有未来。

0
今日
64618
内容
110
活动
438177
关注
你好!
登录掌握更多精彩内容

相关产品

  • 大数据开发治理平台 DataWorks
  • 检索分析服务 Elasticsearch版
  • 日志服务