Hadoopの大きなデータ技術のHDFS(2) - シェルのHDFS動作

シェルの第2章では、HDFS操作

1。基本的な構文

bin/hadoop fs 具体命令  
bin/hdfs dfs 具体命令
dfs是fs的实现类。

2。コマンドDaquanの

[zhangyong@hadoop101 hadoop-3.1.2]$ bin/hadoop fs

ここに画像を挿入説明

3。一般的に使用されるコマンドの実用的な操作

(その後の試験を容易にする)(0)スタートHadoopクラスタ

[zhangyong@hadoop101 hadoop-3.1.2]$ sbin/start-dfs.sh 启动dsf
[zhangyong@hadoop102 hadoop-3.1.2]$ sbin/start-yarn.sh 启动yarn
[zhangyong@hadoop103 hadoop-3.1.2]$ mr-jobhistory-daemon.sh start historyserver 启动历史服务器

起動OKビューJPS:
ここに画像を挿入説明
ここに画像を挿入説明
ここに画像を挿入説明
サービスの表示開始成功を表し:
ページが正常に開始されたことを確認します。

http://hadoop101:9870/dfshealth.html#tab-datanode

ここに画像を挿入説明
(1)-help:このコマンドのパラメータの出力

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -help rm

ここに画像を挿入説明
(2)-ls:表示ディレクトリ情報

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -ls /

ここに画像を挿入説明
(3)-mkdir:HDFS上のディレクトリを作成します。

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -mkdir -p /sanguo/shuguo

ここに画像を挿入説明
(4)-moveFromLocal:HDFSにローカルからカットを貼り付け

[zhangyong@hadoop101 hadoop-3.1.2]$ touch kongming.txt  //在本地创建kongming.txt
[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs  -moveFromLocal  ./kongming.txt  /sanguo/shuguo    //将本地的kongming.txt提交到fds中

ここに画像を挿入説明
ここに画像を挿入説明
ここに画像を挿入説明
(5)-appendToFile:追加は、ファイルの最後にファイルが既に存在して

[zhangyong@hadoop101 hadoop-3.1.2]$ touch zhangyong.txt
[zhangyong@hadoop101 hadoop-3.1.2]$ vi zhangyong.txt

エントリー

zhangyong cainiao
[zhangyong@hadoop101 hadoop-3.1.2]$hdfs dfs -appendToFile zhangyong.txt /sanguo/shuguo/kongming.txt

ここに画像を挿入説明
(6)-cat:ファイルの内容を表示し
、[zhangyong @ hadoop101のHadoop-3.1.2] $ HadoopのFS -cat /sanguo/shuguo/kongming.txt
ここに画像を挿入説明
(7)-chgrp、-chmod、-chown:Linuxのファイルシステムの使用状況同様に、所属するファイルのパーミッションを変更

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs  -chmod  666  /sanguo/shuguo/kongming.txt
[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs  -chown  zhangyong:zhangyong   /sanguo/shuguo/kongming.txt

ここに画像を挿入説明
(8)-copyFromLocal:HDFSパスにファイルをコピーするには、ローカルファイルシステムから

[zhangyong@hadoop101 hadoop-3.1.2]$ hdfs dfs -copyFromLocal README.txt /

ここに画像を挿入説明
-copyToLocal(9):ローカルからHDFSにコピー

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -copyToLocal /sanguo/shuguo/kongming.txt ./

ここに画像を挿入説明
(10)-cp:HDFSは、HDFSの別の経路に一つの経路からコピー

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -cp /sanguo/shuguo/kongming.txt /zhuge.txt

ここに画像を挿入説明
(11)-mv:HDFSディレクトリにファイルを移動

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -mv /zhuge.txt /sanguo/shuguo/

ここに画像を挿入説明
(12)-get:copyToLocalと同等、それがローカルにHDFSからファイルをダウンロードすることです

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -get /sanguo/shuguo/kongming.txt ./

ここに画像を挿入説明
(13)-getmerge:そのようHDFSディレクトリ/ユーザー/ zhangyong /テストとしてマージダウンロード複数のファイル、複数のファイル、:log.1、log.2、log.3、...

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -getmerge /user/zhangyong/test/* ./zaiyiqi.txt

(14)-put:copyFromLocalに相当

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -put ./zaiyiqi.txt /user/zhangyong/test/

(15)-tail:ファイルの最後に表示される
[zhangyong @ hadoop101のHadoop-3.1.2] $ HadoopのFS -tail /sanguo/shuguo/kongming.txt
ここに画像を挿入説明
(16)-rm:ファイルまたはフォルダを削除
[zhangyong @ hadoop101のHadoop -3.1.2] $ HadoopのFS -rm /sanguo/shuguo/zhuge.txt
ここに画像を挿入説明
(17)-rmdir:削除空のディレクトリ

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -mkdir /test 创建空目录
[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -rmdir /test 删除目录

ここに画像を挿入説明
サイズ情報(18)-du統計フォルダ

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -du -s -h /user/zhangyong/test
[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -du  -h /user/zhangyong/test

ここに画像を挿入説明
(19)-setrep:HDFS内のファイルのコピーの数を設定します。

[zhangyong@hadoop101 hadoop-3.1.2]$ hadoop fs -setrep 10 /sanguo/shuguo/kongming.txt

ここに画像を挿入説明
コピーのHDFSの数
ここに画像を挿入説明
だけ本当に多くのコピーがあるかどうかのメタデータの名前ノードに記録されているここで設定した部数は、データノードの数を確認する必要があります。ほとんどの3つのコピーで存在する時のみ、3つのデバイスなので、ノードの数だけはコピー数が10に到達するために、10に増加しました。

公開された37元の記事 ウォン称賛7 ビュー1183

おすすめ

転載: blog.csdn.net/zy13765287861/article/details/104630757