开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

请教个问题,FLINK ON YARN默认会把LOG4J以及JAR文件,传到HDFS的/user/H

请教个问题,FLINK ON YARN默认会把LOG4J以及JAR文件,传到HDFS的/user/HADOOP_USER_NAME目录,这个可以修改吗?

展开
收起
芬奇福贵 2023-08-02 09:51:08 157 0
2 条回答
写回答
取消 提交回答
  • 北京阿里云ACE会长

    可以修改的.

    具体有两个参数可以修改:

    yarn.application.classpath
    通过这个参数可以指定Flink上传到YARN上的jar文件。默认值是$HADOOP_HOME/,$PWD/。

    可以修改成只上传任务所需要的jar文件,避免上传所有任务不需要的依赖:

    Copy
    yarn.application.classpath myjar-1.0.jar;myjar-2.0.jar
    yarn.staging-dir
    这个参数指定Flink上传到HDFS上的文件夹。默认是/user/$USER。

    可以修改成任意其他目录:

    Copy
    yarn.staging-dir /my/custom/directory
    在Flink客户端,可以这样设置这两个参数:

    java
    Copy
    final Configuration cfg = new Configuration();
    // ...
    cfg.setString("yarn.application.classpath", "myjar-1.0.jar;myjar-2.0.jar");
    cfg.setString("yarn.staging-dir", "/my/custom/directory");

    final ClusterClient clusterClient = new ClusterClient<>(new
    YarnClusterDescriptor(cfg), classLoader);
    所以通过修改这两个参数,就可以控制Flink上传到YARN和HDFS的文件了。

    2023-08-03 20:20:14
    赞同 展开评论 打赏
  • client端的conf文件增加yarn.provided.lib.dirs

    此答案来自钉钉群“【2】Apache Flink China 社区"

    2023-08-02 13:29:46
    赞同 展开评论 打赏

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

相关产品

  • 实时计算 Flink版
  • 相关电子书

    更多
    Flink CDC Meetup PPT - 龚中强 立即下载
    Flink CDC Meetup PPT - 王赫 立即下载
    海量数据分布式存储——Apache HDFS之最新进展 立即下载