开发者社区 > 大数据与机器学习 > 开源大数据平台 E-MapReduce > 正文

Transaction Log实现机制是什么?

Transaction Log实现机制是什么?

展开
收起
游客lmkkns5ck6auu 2022-07-28 16:22:18 441 0
1 条回答
写回答
取消 提交回答
  • 1)Commit 在Delta Lake中,Transaction被称为Commlt。每个Commit代表一个事务操作,同时也代表了一个数据版本,对应_delta_log目录下的一个Json文件。

    2) Checkpoint Delta Log引入Checkpoint机制。 Checkpoint:保存了从version。开始到当前时刻所有变更记录(默认每10次Commit创建一个Checkpoint文件)。 Checkpoint文件给Spark提供了一种捷径来重构表状态,避免低效地处理可能上千条的Json格式的小文件。

    3)乐观并发控制 并发控制主要解决ACID中多个并发事务间的隔离性(Isolation )问题,即:多个事务同一时间触发,系统应该如何决定事务之间的顺序。

    以上内容摘自《Databricks数据洞悉》电子书,点击https://developer.aliyun.com/topic/download?id=8545可下载完整版

    2022-07-29 10:33:10
    赞同 展开评论 打赏

阿里云EMR是云原生开源大数据平台,为客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、ClickHouse、StarRocks、Delta、Hudi等开源大数据计算和存储引擎,计算资源可以根据业务的需要调整。EMR可以部署在阿里云公有云的ECS和ACK平台。

相关电子书

更多
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
Kubernetes下日志实时采集、存储与计算实践 立即下载
日志数据采集与分析对接 立即下载