AI 助理
备案控制台
开发者社区 大数据与机器学习 开源大数据平台 E-MapReduce 文章 正文

10月17日Spark社区直播【Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理】

2019-10-14 907
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 本次直播我们邀请了Tablestore存储服务技术专家 朱晓然 ，为大家详细介绍如何基于Tablestore的CDC技术，将大表内实时数据更新对接Spark Streaming来实现数据的实时计算和处理。

主题：
Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理

点击这里是直播间直达链接（回看链接）

时间
10月17日：19：00-20：00

直播介绍：
Tablestore是阿里云自研的云原生结构化大数据存储服务，本议题会详细介绍如何基于Tablestore的CDC技术，将大表内实时数据更新对接Spark Streaming来实现数据的实时计算和处理。最新版本的Connector会随着EMR下个版本的SDK一起开源，场景环节会结合阿里内部的业务介绍用户如何结合Tablestore和Spark来实现实时数据处理。

主讲人：
朱晓然 Tablestore存储服务技术专家

请钉钉扫码至群内观看直播，与嘉宾互动有机会获得社区礼物一份。
Tablestore Spark Streaming Connector -- 海量结构化数据的实时计算和处理.png

文章标签：
开源大数据平台 E-MapReduce
表格存储
实时计算 Flink版
NoSQL
流计算
分布式计算
Spark
关键词：
实时计算 Flink版数据
表格存储结构化数据
apache spark数据
streaming实时计算 Flink版
apache spark streaming
阿里云E-MapReduce团队
目录
相关文章
yuanzhengme
|
分布式计算 数据处理 Apache
Spark和Flink的区别是什么？如何选择？都应用在哪些行业？
【10月更文挑战第10天】Spark和Flink的区别是什么？如何选择？都应用在哪些行业？
yuanzhengme
1546 1
灵杰开发者
|
4月前
|
SQL 人工智能 JSON
Flink 2.1 SQL：解锁实时数据与AI集成，实现可扩展流处理
简介：本文整理自阿里云高级技术专家李麟在Flink Forward Asia 2025新加坡站的分享，介绍了Flink 2.1 SQL在实时数据处理与AI融合方面的关键进展，包括AI函数集成、Join优化及未来发展方向，助力构建高效实时AI管道。
灵杰开发者
836 43
云技术达人
|
4月前
|
SQL 人工智能 JSON
Flink 2.1 SQL：解锁实时数据与AI集成，实现可扩展流处理
本文整理自阿里云的高级技术专家、Apache Flink PMC 成员李麟老师在 Flink Forward Asia 2025 新加坡[1]站 —— 实时 AI 专场中的分享。将带来关于 Flink 2.1 版本中 SQL 在实时数据处理和 AI 方面进展的话题。
云技术达人
306 0
Flink 2.1 SQL：解锁实时数据与AI集成，实现可扩展流处理
灵杰开发者
|
8月前
|
存储 消息中间件 Kafka
基于 Flink 的中国电信星海时空数据多引擎实时改造
本文整理自中国电信集团大数据架构师李新虎老师在Flink Forward Asia 2024的分享，围绕星海时空智能系统展开，涵盖四个核心部分：时空数据现状、实时场景多引擎化、典型应用及未来展望。系统日处理8000亿条数据，具备亚米级定位能力，通过Flink多引擎架构解决数据膨胀与响应时效等问题，优化资源利用并提升计算效率。应用场景包括运动状态识别、个体行为分析和群智感知，未来将推进湖仓一体改造与三维时空服务体系建设，助力数字化转型与智慧城市建设。
灵杰开发者
855 3
基于 Flink 的中国电信星海时空数据多引擎实时改造
SelectDB
|
4月前
|
SQL 关系型数据库 Apache
从 Flink 到 Doris 的实时数据写入实践 —— 基于 Flink CDC 构建更实时高效的数据集成链路
本文将深入解析 Flink-Doris-Connector 三大典型场景中的设计与实现，并结合 Flink CDC 详细介绍了整库同步的解决方案，助力构建更加高效、稳定的实时数据处理体系。
SelectDB
1940 0
从 Flink 到 Doris 的实时数据写入实践 —— 基于 Flink CDC 构建更实时高效的数据集成链路
云技术达人
|
5月前
|
存储 消息中间件 搜索推荐
京东零售基于Flink的推荐系统智能数据体系
摘要：本文整理自京东零售技术专家张颖老师，在 Flink Forward Asia 2024 生产实践（二）专场中的分享，介绍了基于Flink构建的推荐系统数据，以及Flink智能体系带来的智能服务功能。内容分为以下六个部分： 推荐系统架构 索引 样本 特征 可解释 指标 Tips：关注「公众号」回复 FFA 2024 查看会后资料～
云技术达人
380 1
京东零售基于Flink的推荐系统智能数据体系
郑小健
|
分布式计算 大数据 Apache
ClickHouse与大数据生态集成：Spark & Flink 实战
【10月更文挑战第26天】在当今这个数据爆炸的时代，能够高效地处理和分析海量数据成为了企业和组织提升竞争力的关键。作为一款高性能的列式数据库系统，ClickHouse 在大数据分析领域展现出了卓越的能力。然而，为了充分利用ClickHouse的优势，将其与现有的大数据处理框架（如Apache Spark和Apache Flink）进行集成变得尤为重要。本文将从我个人的角度出发，探讨如何通过这些技术的结合，实现对大规模数据的实时处理和分析。
郑小健
942 2
ClickHouse与大数据生态集成：Spark & Flink 实战
游客kufrkwrbkmpsa
|
9月前
|
Oracle 关系型数据库 Java
【YashanDB知识库】Flink CDC实时同步Oracle数据到崖山
本文介绍通过Flink CDC实现Oracle数据实时同步至崖山数据库（YashanDB）的方法，支持全量与增量同步，并涵盖新增、修改和删除的DML操作。内容包括环境准备（如JDK、Flink版本等）、Oracle日志归档启用、用户权限配置、增量日志记录设置、元数据迁移、Flink安装与配置、生成Flink SQL文件、Streampark部署，以及创建和启动实时同步任务的具体步骤。适合需要跨数据库实时同步方案的技术人员参考。
游客kufrkwrbkmpsa
287 1
【YashanDB知识库】Flink CDC实时同步Oracle数据到崖山
蓝易云
|
10月前
|
Java 关系型数据库 MySQL
SpringBoot 通过集成 Flink CDC 来实时追踪 MySql 数据变动
通过详细的步骤和示例代码，您可以在 SpringBoot 项目中成功集成 Flink CDC，并实时追踪 MySQL 数据库的变动。
蓝易云
2530 45
技术小达人
|
9月前
|
消息中间件 关系型数据库 Kafka
阿里云基于 Flink CDC 的现代数据栈云上实践
阿里云基于 Flink CDC 的现代数据栈云上实践
技术小达人
181 1
大数据与机器学习

开源大数据平台 E-MapReduce

热门文章

最新文章

  • 1
    阿里封神谈hadoop生态学习之路
  • 2
    分布式快照算法: Chandy-Lamport
  • 3
    现代流式计算的基石：Google DataFlow
  • 4
    如何使用Kafka Connect实现同步RDS binlog数据
  • 5
    JindoFS: 云上大数据的高性能数据湖存储方案
  • 6
    梨视频：基于阿里云E-MapReduce搭建视频推荐系统的实践
  • 7
    JindoFS解析 - 云上大数据高性能数据湖存储方案
  • 8
    基于Alluxio系统的Spark DataFrame高效存储管理技术
  • 9
    漫谈分布式计算框架
  • 10
    首次揭秘|为6.4亿人次出行提供无线网络的技术架构
  • 1
    活动报名 | Apache Spark Meetup · 上海站，助力企业构建高效数据平台
    59
  • 2
    0 基础建站？PageAdmin CMS 10 分钟搞定，源码免费拿！
    193
  • 3
    如何建设网站，网站制作的6个步骤
    576
  • 4
    EMR AI助手开启公测：用AI重塑大数据运维，更简单、更智能
    178
  • 5
    EMR StarRocks Stella 内核正式发布，登顶 TPC 榜单全球第一
    158
  • 6
    QuickSSO 与 ECreator 实操应用案例手册
    104
  • 7
    StarRocks+Paimon 落地阿里日志采集：万亿级实时数据秒级查询
    542
  • 8
    立马耀：通过阿里云 Serverless Spark 和 Milvus 构建高效向量检索系统，驱动个性化推荐业务
    452
  • 9
    鹰角网络：EMR Serverless Spark 在《明日方舟》游戏业务的应用
    869
  • 10
    千万级数据秒级响应！碧桂园基于 EMR Serverless StarRocks 升级存算分离架构实践
    754

    • 相关课程

    更多
  • Apache Flink 入门到实战 - Flink开源社区出品
  • 阿里云表格存储使用教程
  • 实时计算 Flink 版产品入门与实操
  • 开源 Flink 极速上手教程
  • 大数据实时计算框架Spark快速入门
  • Apache Flink 入门

    • 相关电子书

    更多
  • TableStore在社交类场景下的应用
  • 表格存储实时数据流Steam的技术揭秘和应用场景
  • 表格存储（TableStore）

    • 相关实验场景

    更多
  • 基于Hologres+Flink搭建GitHub实时数据大屏
  • 基于Flink+Kafka实现订单评论实时分析
    • 下一篇
    「直播预告」Streaming Lakehouse Meetup EP.2｜Paimon × StarRocks 共话实时湖仓