实时计算 Flink版产品使用合集之和Oracle数据同步必须是使用主库吗

本文涉及的产品
实时计算 Flink 版,5000CU*H 3个月
简介: 实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStreamAPI、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。

问题一:Flink CDC这个语句要怎么设置状态时间呢?

Flink CDC这个语句要怎么设置状态时间呢?insert into big_table select a.id,a.name,b.detail from a inner join b on a.id=b.id



参考答案:

1.18支持不同流设置不同的ttl,1.18之前不同流的ttl都一样的, set ‘table.exec.state.ttl’=‘xxx’ ,



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582219



问题二:flink cdc做双流链接内存是不是越占越大呢?

flink cdc做双流链接 select * from a inner join b 这样的话,内存是不是越占越大呢?



参考答案:

是的,在ttl生命周期内的两条流数据会一直增大



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582218



问题三:Flink CDC后续会考虑支持配置 doris 里的一些建表选项么?

Flink CDC中readme 里提到的 cdc 走 pipline 的方式同步 mysql 到 doris,config 的 yaml 里官方文档里看支持的配置项不是很多,后续会考虑支持配置 doris 里的一些建表选项么,比如表的分区信息等;还是说做为 ods 自动创建的就满足需要了;比如分库分表汇总之后的表?



参考答案:

这里就支持你说的doris的参数



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582216



问题四:Flink CDC 和 Oracle 数据同步,必须是使用主库吗?

Flink CDC 和 Oracle 数据同步,必须是使用主库吗?连接备用库是否可以,具体的影响也帮助解答一下?



参考答案:

备库可以,得看你是adg备库还是rack集群备库,建议先在测试环境试试你们oracle数据连接cdc后的负载,2.0版的cdc对oracle的负载会高,oracle cdc之前版本在第一次全量同步几亿表甚至更大的表示会出现快照过久的问题



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582214



问题五:Flink CDC用paimon的整库,指定表同步,我新加表之后,会导致原来的表也重新全量同步吗?

Flink CDC用paimon的整库,指定表同步,我新加表之后,提示状态不兼容,我如果加上 --allowNonRestoredState 会导致原来的表也重新全量同步吗?



参考答案:

jar包重启一般都最好带--allowNonRestoredState



关于本问题的更多回答可点击进行查看:

https://developer.aliyun.com/ask/582209

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
4月前
|
数据采集 监控 Oracle
实时计算 Flink版产品使用问题之如何从Oracle物理备用库中进行实时数据抽取
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
4月前
|
SQL 关系型数据库 MySQL
实时计算 Flink版产品使用问题之两个数据表是否可以同时进行双向的数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
4月前
|
SQL Oracle 关系型数据库
实时计算 Flink版产品使用问题之Oracle数据库是集群部署的,怎么进行数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
4月前
|
Oracle 关系型数据库 分布式数据库
实时计算 Flink版产品使用问题之怎么实现跨多个DRDS的数据同步
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
4月前
|
SQL Oracle Java
实时计算 Flink版产品使用问题之采集Oracle数据时,为什么无法采集到其他TABLESPACE的表
实时计算Flink版作为一种强大的流处理和批处理统一的计算框架,广泛应用于各种需要实时数据处理和分析的场景。实时计算Flink版通常结合SQL接口、DataStream API、以及与上下游数据源和存储系统的丰富连接器,提供了一套全面的解决方案,以应对各种实时计算需求。其低延迟、高吞吐、容错性强的特点,使其成为众多企业和组织实时数据处理首选的技术平台。以下是实时计算Flink版的一些典型使用合集。
|
SQL 存储 运维
如何降低 Flink 开发和运维成本?阿里云实时计算平台建设实践
本次分享主要介绍阿里云实时计算平台从 2.0 基于 Yarn 的架构到 3.0 云原生时代的演进,以及在 3.0 平台上一些核心功能的建设实践,如健康分,智能诊断,细粒度资源,作业探查以及企业级安全的建设等。
如何降低 Flink 开发和运维成本?阿里云实时计算平台建设实践
|
存储 SQL 分布式计算
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践
268 0
|
存储 数据挖掘 Apache
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践(2)
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践(2)
277 0
|
SQL 存储 人工智能
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践(3)
《Apache Flink 案例集(2022版)》——2.数据分析——汽车之家-Flink 的实时计算平台 3.0 建设实践(3)
263 0
|
消息中间件 存储 SQL
《Apache Flink 案例集(2022版)》——5.数字化转型——联通-联通实时计算平台演进与实践
《Apache Flink 案例集(2022版)》——5.数字化转型——联通-联通实时计算平台演进与实践
184 0

相关产品

  • 实时计算 Flink版