Hadoop HDFS操作命令

Hadoop HDFS操作命令

查看Hadoop HDFS支持的所有命令
hadoop fs
列出目录及文件信息
hadoop fs -ls
循环列出目录、子目录及文件信息
hadoop fs -lsr
将本地文件系统的test.txt复制到HDFS文件系统的/user/sunlightcs目录下
hadoop fs -put test.txt /user/sunlightcs
将HDFS中的test.txt复制到本地文件系统中,与-put命令相反
hadoop fs -get /user/sunlightcs/test.txt
查看HDFS文件系统里test.txt的内容
hadoop fs -cat /user/sunlightcs/test.txt
查看最后1KB的内容
hadoop fs -tail /user/sunlightcs/test.txt
从HDFS文件系统删除test.txt文件,rm命令也可以删除空目录
hadoop fs -rm /user/sunlightcs/test.txt
删除/user/sunlightcs目录以及所有子目录
hadoop fs -rmr /user/sunlightcs
从本地文件系统复制文件到HDFS文件系统,等同于put命令
hadoop fs -copyFromLocal test.txt /user/sunlightcs/test.txt
从HDFS文件系统复制文件到本地文件系统,等同于get命令
hadoop fs -copyToLocal /user/sunlightcs/test.txt test.txt
修改HDFS系统中/user/sunlightcs目录所属群组,选项-R递归执行,跟linux命令一样
hadoop fs -chgrp [-R] /user/sunlightcs
修改HDFS系统中/user/sunlightcs目录拥有者,选项-R递归执行
hadoop fs -chown [-R] /user/sunlightcs
修改HDFS系统中/user/sunlightcs目录权限,MODE可以为相应权限的3位数或+/-{rwx},选项-R递归执行
hadoop fs -chmod [-R] MODE /user/sunlightcs
查看PATH目录下,子目录数、文件数、文件大小、文件名/目录名
hadoop fs -count [-q] PATH
将文件从SRC复制到DST,如果指定了多个SRC,则DST必须为一个目录
hadoop fs -cp SRC [SRC …] DST
显示该目录中每个文件或目录的大小
hadoop fs -du PATH
类似于du,PATH为目录时,会显示该目录的总大小
hadoop fs -dus PATH
清空回收站,文件被删除时,它首先会移到临时目录.Trash/中,当超过延迟时间之后,文件才会被永久删除
hadoop fs -expunge
获取由SRC指定的所有文件,将它们合并为单个文件,并写入本地文件系统中的LOCALDST,选项addnl将在每个文件的末尾处加上一个换行符
hadoop fs -getmerge SRC [SRC …] LOCALDST [addnl]
查看某个[ls]命令的帮助文档
hadoop fs -help ls
创建目录
hadoop fs -mkdir /user/hadoop/examples(目录/目录名)
查看块信息
hadoop fsck / -files -blocks
查看目录占用容量大小
sudo -u hdfs hadoop fs -du -h  /user/hive/
修改文件目录所有者及所属组 -R:递归将目录下所有文件所有者一同修改
sudo -u hdfs hadoop fs -chown -R hive:hive /user/hive/warehouse/tmp_tanjin.db/tmp_startup_c
查找HDFS Hive快照容量
hdfs dfs -du -h /user/hive/warehouse/.snapshot/   
创建快照
sudo -uhdfs hdfs dfs -createSnapshot $dir $snapshotname 

$dir:快照创建目录, $snapshotname:创建快照名称
删除快照
sudo -uhdfs hdfs dfs -deleteSnapshot $dir $snapshotname

$dir  目录路径不需要 .snapshot  这一级
发布了111 篇原创文章 · 获赞 94 · 访问量 51万+

猜你喜欢

转载自blog.csdn.net/A632189007/article/details/104095316