利用Java代码操控HDFS

HDFS的Java API


当利用eclipse安装好HDFS环境了以后(具体步骤参考上一篇博文https://blog.csdn.net/Andrea_null/article/details/83032732),就可以编写代码操控HDFS了。编写的代码要参考关于HDFS的Java API。此处列举一部分操控HDFS的JavaAPI示例。

首先,想要操控HDFS,要先创建配置对象。创建配置对象的方法如下

Configuration conf = new Configuration(true);

然后再创建HDFS的对象

FileSystem fs = FileSystem.get(conf);

之后可以通过HDFS的对象对HDFS进行操作。

//取路径下所有文件的信息
listStatus = fs.listStatus(destPath);
//创建新文件
fs.createNewFile(dirPath);
//创建目录
fs.mkdirs(dirPath);
//上传到HDFS
fs.copyFromLocalFile(srcPath_Hdfs, destPath_Hdfs);
//下载
fs.copyToLocalFile(srcPath_Hdfs, destPath_Hdfs);
//删除文件
fs.delete(new Path(path));
//内部拷贝
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,false, conf);
//内部移动
FileUtil.copy(srcPath.getFileSystem(conf), srcPath, destPath.getFileSystem(conf), destPath,true, conf);
//追加
FSDataOutputStream append = fs.append(new Path(path));


猜你喜欢

转载自blog.csdn.net/Andrea_null/article/details/83064024