开发者社区> 问答> 正文

HDFS 的客户端操作中客户端环境如何准备?

HDFS 的客户端操作中客户端环境如何准备?

展开
收起
芯在这 2021-12-11 11:59:45 352 0
1 条回答
写回答
取消 提交回答
  • 1.根据自己电脑的操作系统拷贝对应的编译后的 hadoop jar 包到非中文路径(例如:D:\Develop\hadoop-2.7.2)

    2.配置HADOOP_HOME环境变量

    1. 配置 Path 环境变量

    4.创建一个 Maven 工程 HdfsClientDemo

    5.导入相应的依赖坐标+日志添加

    注意:如果 Eclipse/Idea 打印不出日志,在控制台上只显示

    1.log4j:WARN No appenders could be found for logger (org.apache.hadoop.util.Shell).
    2.log4j:WARN Please initialize the log4j system properly.
    3.log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.

    需要在项目的 src/main/resources 目录下,新建一个文件,命名为“log4j.properties”,在文件中填入

    log4j.rootLogger=INFO, stdout log4j.appender.stdout=org.apache.log4j.ConsoleAppender log4j.appender.stdout.layout=org.apache.log4j.PatternLayout log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n log4j.appender.logfile=org.apache.log4j.FileAppender log4j.appender.logfile.File=target/spring.log log4j.appender.logfile.layout=org.apache.log4j.PatternLayout log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n

    6.创建包名:com.atguigu.hdfs

    7.创建 HdfsClient 类

    public class HdfsClient{ @Test public void testMkdirs() throws IOException, InterruptedException, URISyntaxException{ // 1 获取文件系统 Configuration configuration = new Configuration(); // 配置在集群上运行 // configuration.set("fs.defaultFS", "hdfs://hadoop102:9000"); // FileSystem fs = FileSystem.get(configuration);

    	FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:9000"), configuration, "atguigu");
    	
    	// 2 创建目录
    	fs.mkdirs(new Path("/1108/daxian/banzhang"));
    	
    	// 3 关闭资源
    	fs.close();
    }
    

    }

    8.执行程序 运行时需要配置用户名称

    客户端去操作 HDFS 时,是有一个用户身份的。默认情况下,HDFS 客户端 API 会从 JVM 中获取一个参数来作为自己的用户身份:-DHADOOP_USER_NAME=atguigu,atguigu 为用户名称

    2021-12-11 12:00:36
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
海量数据分布式存储——Apache HDFS之最新进展 立即下载
HBase2.0重新定义小对象实时存取 立即下载
MaxCompute客户端 - odpscmd操作使用 立即下载