咨询一下 RocksDB 状态后端的调优经验

RocksDB无论如何都是要使用native内存的，您的YARN pmem-check相比JVM heap的buffer空间是多少，是否合适呢？

FLINK-7289的基本所需task都已经完成在release-1.10 分支中了，您可以直接使用release-1.10 分支打包，最近也要发布1.10的rc版本，欢迎试用该功能。

如果你的所有checkpoint size是50GB，其实不是很大，但是如果单个state backend有50GB的话，对于Flink这种低延迟流式场景是稍大的，建议降低单并发state数据量。

至于目前的问题，也就是您加了相关参数，但是内存用量仍然在涨，可以用以下思路排查一下：

1. 首先，确保使用release-1.10 分支

2. 开启 size-all-mem-tables [1] 和 block-cache-usage [2]的metrics监控

3. 在默认没有enable "state.backend.rocksdb.memory.managed" [3] 的情况下，对column family进行如下配置，核心思路就是将主要的内存使用都放在cache中，方便观察内存使用：

rocksDBStateBackend.setOptions(new OptionsFactory() {

@Override

public DBOptions createDBOptions(DBOptions currentOptions) {

return currentOptions;

}

@Override

public ColumnFamilyOptions createColumnOptions(ColumnFamilyOptions currentOptions) {

BlockBasedTableConfig blockBasedTableConfig = new BlockBasedTableConfig();

blockBasedTableConfig.setCacheIndexAndFilterBlocks(true);

blockBasedTableConfig.pinL0FilterAndIndexBlocksInCache();

currentOptions.setTableFormatConfig(blockBasedTableConfig);

return currentOptions;

}

});

1. 由于没有enable cache共享，所以需要将每个column family的size-all-mem-tables和block-cache-usage进行相加，观察相关指数变化，看是否超过了你的pmem-check 限制。

相应地，您也可以启用"state.backend.rocksdb.memory.managed" [3] 该功能 或者 自行配置 "state.backend.rocksdb.memory.fixed-per-slot" [4] 设置期望的rocksDB per slot memory size，此时只需要观察block-cache-usage的指标，由于这里使用共享cache的逻辑，所以并不需要相加，只要观察per slot的情况即可（同一个TM内，相同subtask index的rocksDB state其实是用的同一块cache），观察内存限制功能是否生效。

[1] https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/config.html#state-backend-rocksdb-metrics-size-all-mem-tables

[2] https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/config.html#state-backend-rocksdb-metrics-block-cache-usage

[3] https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/config.html#state-backend-rocksdb-memory-managed

[4] https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/config.html#state-backend-rocksdb-memory-fixed-per-slot*来自志愿者整理的FLINK邮件归档