flink内存分配的问题
> taskmanager的内存设置为15G但实际的heap只有10G
> 看了tm内存分配的源码1.计算cutoff(15GB * 0.25) 2.计算heap大小(heap计算的入参是15GB -
cutoff大小)
> 3.计算offheap大小(offheap的大小等于15GB-heap大小)
> offheap就是最终的-XX:MaxDirectMemorySize的大小
> 想请教下MaxDirectMemorySize的大小有必要设置这么大吗？*来自志愿者整理的flink邮件归档
展开
收起
1
条回答
写回答
写回答
-
FLINK TM 中是用到了大量的堆外内存的，除了通常意义的 JVM 的栈空间、方法区等堆外开销外，还包括网络 buffer、batch
缓存、RocksDB等。
默认配置是相对保守，为了保证大多数情况下预留出足够的堆外内存。具体是否设置过大了，要看具体运行的作业的情况。可以尝试通过配置'containerized.heap-cutoff-ratio'进行调整。
另外，即将发布的flink 1.10版本中对TM的内存计算进行了优化，不再采用cutoff而是根据用途列出了更具体的配置项，欢迎试用
*来自志愿者整理的FLINK邮件归档
2021-12-03 11:20:51赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
