用友畅捷通在Flink上构建实时数仓、挑战与最佳实践
本文整理自用友畅捷通数据架构师王龙强在FFA2024上的分享，介绍了公司在Flink上构建实时数仓的经验。内容涵盖业务背景、数仓建设、当前挑战、最佳实践和未来展望。随着数据量增长，公司面临数据库性能瓶颈及实时数据处理需求，通过引入Flink技术逐步解决了数据同步、链路稳定性和表结构差异等问题，并计划在未来进一步优化链路稳定性、探索湖仓一体架构以及结合AI技术推进数据资源高效利用。
Flink 四大基石之 Checkpoint 使用详解
Flink 的 Checkpoint 机制通过定期插入 Barrier 将数据流切分并进行快照，确保故障时能从最近的 Checkpoint 恢复，保障数据一致性。Checkpoint 分为精确一次和至少一次两种语义，前者确保每个数据仅处理一次，后者允许重复处理但不会丢失数据。此外，Flink 提供多种重启策略，如固定延迟、失败率和无重启策略，以应对不同场景。SavePoint 是手动触发的 Checkpoint，用于作业升级和迁移。Checkpoint 执行流程包括 Barrier 注入、算子状态快照、Barrier 对齐和完成 Checkpoint。
Flink 四大基石之窗口（Window）使用详解
在流处理场景中，窗口（Window）用于将无限数据流切分成有限大小的“块”，以便进行计算。Flink 提供了多种窗口类型，如时间窗口（滚动、滑动、会话）和计数窗口，通过窗口大小、滑动步长和偏移量等属性控制数据切分。窗口函数包括增量聚合函数、全窗口函数和ProcessWindowFunction，支持灵活的数据处理。应用案例展示了如何使用窗口进行实时流量统计和电商销售分析。
Dynamic Table快速入门
本次分享的主题是Dynamic Table快速入门，由Hologres PD 梅酱分享。今天的分享分为三个部分。首先，第一部分为Table的基本概念；第二部分进行Table的实操；第三部分为一些使用Table的建议和最佳实践。
2024FFA-分论坛-核心技术专场1
本文整理自阿里云技术专家，Apache Flink Committer 兰兆千老师在 2024FFA-分论坛-核心技术专场1的分享。内容主要为以下三部分：
1、存算分离架构介绍
2、状态存储内核ForSt
3、工作进展&未来展望
Flink 四大基石之 Time (时间语义) 的使用详解
Flink 中的时间分为三类：Event Time（事件发生时间）、Ingestion Time（数据进入系统时间）和 Processing Time（数据处理时间）。Event Time 通过嵌入事件中的时间戳准确反映数据顺序，支持复杂窗口操作。Watermark 机制用于处理 Event Time，确保数据完整性并触发窗口计算。Flink 还提供了多种迟到数据处理方式，如默认丢弃、侧输出流和允许延迟处理，以应对不同场景需求。掌握这些时间语义对编写高效、准确的 Flink 应用至关重要。
Flink CDC 在阿里云实时计算Flink版的云上实践
本文整理自阿里云高级开发工程师阮航在Flink Forward Asia 2024的分享，重点介绍了Flink CDC与实时计算Flink的集成、CDC YAML的核心功能及应用场景。主要内容包括：Flink CDC的发展及其在流批数据处理中的作用；CDC YAML支持的同步链路、Transform和Route功能、丰富的监控指标；典型应用场景如整库同步、Binlog原始数据同步、分库分表同步等；并通过两个Demo展示了MySQL整库同步到Paimon和Binlog同步到Kafka的过程。最后，介绍了未来规划，如脏数据处理、数据限流及扩展数据源支持。
云端问道5期方案教学-基于 Hologres 轻量实时的高性能OLAP分析
本文介绍了基于Hologres的轻量实时高性能OLAP分析方案，涵盖OLAP典型应用场景及Hologres的核心能力。Hologres是阿里云的一站式实时数仓，支持多种数据源同步、多场景查询和丰富的生态工具。它解决了复杂OLAP场景中的技术栈复杂、需求响应慢、开发运维成本高、时效性差、生态兼容弱、业务间相互影响等难题。通过与ClickHouse对比，Hologres在性能、写入更新、主键支持等方面表现更优。文中还展示了小红书、乐元素等客户案例，验证了Hologres在实际应用中的优势，如免运维、查询快、成本节约等。
深入理解 Flink 中的 State
Flink 的 State（状态）是其四大核心之一，为流处理和批处理任务提供强大支持。本文深入探讨 Flink 中的状态管理，涵盖 State 在 HDFS 中的存储格式、存在形式（如 ValueState、ListState 等）、使用方法、过期时间 TTL 和清除策略，并介绍 Table API 和 SQL 模块中的状态管理。通过实际案例，帮助读者理解如何在电商订单处理、实时日志统计等场景中有效利用状态管理功能。