熊猫直播:大视频数据业务的云上历程

简介:

在海量数据的大视频行业,如何满足大数据需求?12月20日举办的北京云栖大会“企业云上业务优化”分论坛上,熊猫直播大数据技术专家卢圣刚,分享了熊猫直播不断优化云上资源,建立起灵活配置、高扩展性、易于运维的云上架构的宝贵经验。

作为知名泛娱乐直播平台,熊猫直播涵盖游戏、娱乐、综艺、户外、体育等多种泛娱乐直播内容。在身处大视频时代的当下,熊猫直播代表了众多大视频企业的大数据需求:面对分散在MySQL、Redis、MongoDB之中的数据源头,需要实现统一的数据存储;面对不同的业务场景和高速的业务发展,需要实现灵活的横向扩展——不仅能灵活添加开源组建,还需要能快速增加计算节点。

作为高速发展的直播平台,熊猫直播数据纬度多、数据量巨大——累计已经达到PB级,仅仅每天新增的就有几十T。就离线计算的数据量看,每天几百个日常计算任务,以及大量的临时查询需求。

为了满足这样的大数据需求,卢圣刚分享了熊猫直播从Fluentd + ODPS、到Flume + Ambari、再到Flume + EMR的架构演进历程。

1

阿里云EMR——Elastic MapReduce(E-MapReduce),是基于阿里云ECS之上半托管开源大数据软件栈。

卢圣刚分享了选择EMR的原因:“EMR的弹性动态伸缩,能够帮助熊猫直播直线快捷的扩容、缩容EMR Hadoop集群,灵活、快速部署开源大数据服务(HBase、Kafka、Impala,Flink等),还具备数据存储成本低的优势。”

卢圣刚还特别了强调运维机制对于选择EMR的关键作用。阿里云企业服务对熊猫直播给予7*24小时钉钉群支持,快速解决集群使用问题。阿里云服务的支撑保障,使熊猫直播能够减少运维工作,更专注于业务。

未来,熊猫直播会将依托阿里云,继续深耕大视频数据业务,满足大视频时代不断演进的大数据需求。

了解更多请微博关注阿里云客户满意中心
__8

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
24天前
|
人工智能 运维 安全
生成式 AI 赋能下大规模网络钓鱼攻击与防御技术研究
本文以2026年谷歌起诉Outsider Enterprise滥用Gemini AI实施大规模钓鱼攻击为案例,剖析AI赋能钓鱼攻击的产业化、高仿真、多渠道新特征;揭示传统防护短板,提出基于语义分析、行为研判的四层动态检测方案,并配套可运行Python代码;倡导构建“技术+渠道+宣教+法律”全域闭环防御体系。(239字)
150 4
|
23天前
|
数据采集 人工智能 搜索推荐
你的SEO排名明明第一,用户却再也看不到你了
GEO(生成式引擎优化)是面向AI大模型的信息获取新范式,通过优化内容结构、权威信号与语义表达,提升品牌在ChatGPT、豆包等AI回答中的主动引用率。研究显示,系统化GEO可使AI可见度最高提升40%,转化效率达传统SEO的4.4倍。它不取代SEO,而是抢占AI“嘴里的流量入口”。
113 0
|
28天前
|
人工智能 监控 安全
企业 AI 代理安全治理与社会工程攻击防御研究
本文基于KnowBe4 2026年研究,剖析AI代理作为“类人数字员工”的四大安全脆弱性(权限、判断、易受影响、自主性),系统揭示间接提示注入、回声泄露等机器社会工程攻击,并提出覆盖清单管理、最小权限、提示词净化、执行网关、人工在环与全链路审计的六层治理框架,附可落地代码。
111 0
|
3月前
|
安全 编译器 C++
C++模板元编程:编译期计算与类型体操
C++模板最初被设计为一种生成类型安全容器(如vector<T>)的机制,但后来人们发现模板系统是图灵完备的——这意味着可以在编译期使用模板进行任意计算。
189 2
|
12月前
|
数据安全/隐私保护 计算机视觉 Python
人脸识别图片眨眼生成器,手机制作人脸眨眼张嘴, 代替真人刷脸软件
代码实现了基于面部特征点的人脸动画生成,包括眨眼和张嘴动作。它使用dlib进行人脸检测和特征点定位
|
人工智能 API Python
干货教程|PyCharm如何接入DeepSeek实现AI编程
干货教程|PyCharm如何接入DeepSeek实现AI编程
3528 0
|
SQL 数据库连接 Linux
SqlAlchemy 2.0 中文文档(五十二)(7)
SqlAlchemy 2.0 中文文档(五十二)
605 0
|
C++
【PTA】L1-027 出租(C++)
【PTA】L1-027 出租(C++)
272 0
【PTA】L1-027 出租(C++)
|
人工智能 监控 数据可视化
Java智慧工地可视化数据大屏源码
智慧工地可视化数据大屏功能一览 包括:首页、视频监控、机械设备、环境监测、安全管理、质量管理、劳务分析、进度管理、报警统计。
304 1