Flink CDC yarn-per 模式提交flink任务,yarn上会给定一个application_id和url地址。但是我发现这个url地址某个时刻改变了,对应的job的启动时间也变了。感觉像是容器切换了,这个是什么情况?
在Flink CDC Yarn-per模式中,Yarn会为每个Flink任务分配一个单独的容器,并为每个容器分配一个唯一的application_id和url地址。当Yarn调度器需要重新分配资源或重启任务时,可能会导致这些application_id和url地址的变化。当application_id和url地址发生变化时,通常意味着Yarn调度器已经重新分配了资源或重启了任务。这可能是由于以下几种原因:
如果你在使用Flink CDC Yarn-per模式提交Flink任务时,发现YARN上给定的URL地址某个时刻改变了,对应的job的启动时间也改变了,那么可能有以下几种可能的原因:
如果你在使用Flink CDC Yarn-per模式提交Flink任务时,发现YARN上给定的URL地址某个时刻改变了,对应的job的启动时间也改变了,那么你可能需要重新检查你的任务状态,以确认任务是否仍然在运行。如果任务已经停止,那么你可能需要重新提交任务。如果任务仍然在运行,那么你应该重新检查你的任务状态,以确认任务是否遇到了问题。具体的解决方式可能会因你的具体环境而有所不同,建议你查阅相关的文档或寻求专业的技术支持。
Flink CDC 支持使用 YARN 作为分布式计算框架,通过 YARN 提供的资源和调度能力来运行 Flink 任务。在 YARN 模式下,Flink 任务会被划分为一个或多个应用(Application),每个应用都有一个唯一的 application_id。
您提到的 yarn-per 模式应该是指 YARN 下的 per-application 模式,在这种模式下,每个应用程序都会在 YARN 集群中分配一个独立的资源容器。这种模式下,不同的应用程序之间是隔离的,互不干扰。
关于 URL 地址的变化,这可能是因为 YARN 集群中的资源容器发生了变化。在 YARN 集群中,资源容器可能会因为故障、资源不足等原因被重新分配。当资源容器发生变更时,新分配的资源容器的地址(URL)可能会发生变化。这种情况下,Flink 任务的启动时间可能会受到影响,因为任务需要在新分配的资源容器上重新启动。
如果您希望确保 Flink 任务的稳定性和可靠性,可以考虑使用 YARN 提供的其他调度策略,如 per-node 或者 fair-scheduler 等。这些策略
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。